标签: 大模型

# Ollama 本地部署大模型完全指南 > 在本地电脑上运行 AI 大语言模型，完全离线、私密、低成本 ## 为什么选择 Ollama？ - **简单易用**：一行命令启动模型 - **硬件友好**：支持 CPU 和 GPU - **隐私安全**：数据完全本地处理 - **免费开源**：无需付费 ## 环境要求 ### 最低配置 (CPU 运行) - 8GB RAM - 20GB 磁盘...

# LM Studio 本地部署大模型指南 > 图形界面本地运行 AI 大模型，易上手、功能强大 ## LM Studio 简介 LM Studio 是一个本地大语言模型运行工具： - 🖥️ 图形界面，操作简单 - 🤖 支持多种模型格式 (GGUF, LLama2, Mistral 等) - ⚡ GPU 加速支持 - 🔌 提供 OpenAI 兼容 API ## 支持的系统 - ma...

# llama.cpp 本地部署大模型指南 > 纯 C++ 实现的高效推理引擎，最极致的性能追求 ## 什么是 llama.cpp？ - ⚡ 由 Georgi Gerganov 开发 - 🚀 纯 C++ 实现，无需 Python - 📱 支持 CPU 和 GPU 推理 - 💾 量化支持，大幅降低显存需求 ## 环境要求 ### CPU 版本 - 8GB+ RAM - 支持 AVX2...