LMStudio

LMStudio 是什么？

LMStudio是一款可以在您的计算机上轻松使用本地LLM（大规模语言模型）的软件。您可以从Hugging Face的存储库中下载各种模型，如LLaMa、Falcon、MPT、StarCoder等，并在离线状态下运行。此外，您还可以通过应用内的聊天UI或OpenAI兼容的本地服务器来利用模型。新功能Local server Automatic Prompt Formatting利用AutoGen来提高输出质量。它支持Mac（M1/M2）、Windows和Linux（Beta版），让您能够更贴近地感受人工智能技术。