站長之家（ChinaZ.com）8月23日 消息:HuggingFace 最近發(fā)布了一款新穎的小型 Rust ML 框架——candle，運行速度極快，支持多種強大模型。它提供了對 GPU 的支持，并且具有優(yōu)化的 CPU 后端，可以在瀏覽器中運行。Candle 還包含了多個預訓練模型和示例，如語音識別模型、通用 LLM、計算機視覺模型等。
項目地址:https://github.com/huggingface/candle
Rust 是系統(tǒng)編程語言，性能和安全性卓越。該 ML 框架可讓開發(fā)者更高效地在 Rust 環(huán)境下開發(fā)和優(yōu)化機器學習模型，提高開發(fā)效率和程序運行性能。
核心功能:
1. 簡單易用:Candle 的語法類似于 PyTorch，讓用戶感覺更加熟悉和舒適。
2. 模型訓練:支持模型的訓練和優(yōu)化，讓用戶能夠構(gòu)建自己的機器學習模型。
3. 多個后端支持:Candle 提供了優(yōu)化的 CPU 后端，可選的 MKL 支持和加速支持，以及 CUDA 后端用于 GPU 加速。
4. 包含的模型:內(nèi)置了多個模型，如 LLMa、Falcon、Whisper 等，可直接使用或作為參考進行修改和擴展。
5. 輕量級部署:Candle 的目標是實現(xiàn)無服務(wù)器推理，生成輕量級二進制文件，可快速部署和執(zhí)行。
（舉報）