LLaMA 2本地部署是ONE社区收录的AI SKILL插件，在本地服务器部署Meta的LLaMA 2大语言模型，实现隐私保护的AI服务。截至2026年，ONE社区已收录77+款AI SKILL插件，提供一键安装与部署支持。
功能介绍
功能简介
LLaMA 2是Meta开源的大语言模型，提供7B、13B、70B多种参数规模，支持本地私有化部署，兼顾性能与数据隐私。
核心功能
- 本地推理：支持CPU和GPU推理，通过llama.cpp等工具实现低资源部署
- 模型微调：支持LoRA、QLoRA等高效微调方法，用少量数据定制行业模型
- 量化压缩：GGUF/GPTQ量化格式，4bit量化后7B模型仅需4GB显存
- API兼容：支持OpenAI API格式，可无缝替换现有应用中的商业API
- 中文增强：社区提供Chinese-LLaMA等中文增强版本，中文能力大幅提升
适用场景
- 企业内部数据不出网的私有化AI部署
- 行业垂直模型的微调训练
- 离线环境下的AI应用开发
- AI研究与模型实验
部署建议
7B模型推荐8GB以上显存GPU或16GB内存CPU；13B推荐16GB显存；70B需要多卡部署。推荐使用Ollama或vLLM进行本地部署管理。
安装方式
npx clawhub@latest install llama2-local-deploy安装完成后，在 OpenClaw 中搜索「LLaMA 2本地部署」即可启用。