LOADINGLoading
Llama for Windows 开源发布,支持一键下载并本地运行大模型
Hugging Face 与 llama.cpp 团队相关开发者联合推出开源应用 Llama for Windows,面向 Windows 11 用户提供本地大模型运行工具。应用基于 WinUI3 构建,支持 x64 和 ARM64 平台,用户可直接浏览 Hugging Face 模型、查看参数规模与存储需求,并一键下载和管理 GGUF 量化模型。软件以 llama.cpp 为推理引擎,无需管理员权限或手动配置复杂参数,内置网页聊天界面、Alt+Space 快速启动器及兼容 OpenAI 接口的本地服务器,默认地址为 https://localhost:9931。提示词和推理过程均在本机完成,应用不收集遥测数据,但下载模型和更新时仍需联网。
Comments
0