29.3k
Stars
+-8
Stars/month
0
Releases (6m)
Star Growth
Overview
Meta Llama 3 是 Meta 官方发布的大型语言模型系列的原始 GitHub 仓库，包含 8B 到 70B 参数的预训练和指令调优模型。该仓库提供了加载 Llama 3 模型和运行推理的基础代码示例。需要注意的是，随着 Llama 3.1 的发布，Meta 已将此仓库标记为弃用状态，并将功能拆分到多个专门的仓库中：llama-models（基础模型）、llama-toolchain（模型开发工具）、llama-agentic-system（智能体系统）等。原仓库主要面向研究人员、开发者和企业用户，支持实验、创新和规模化应用。模型需要通过 Meta Llama 官网下载，要求接受许可证条款，也可通过 Hugging Face 获取。虽然已弃用，但该仓库在 Llama 生态发展中具有重要历史意义，为后续版本奠定了基础。
Deep Analysis
Key Differentiator
vs other open-weight LLMs: Meta's official Llama 3 release (deprecated in favor of Llama Stack) — minimal inference code for 8B/70B models that became the foundation for thousands of derivative models
⚡ Capabilities
- • Meta's Llama 3 foundation language models (8B and 70B parameters)
- • Pre-trained and instruction-tuned variants
- • 8192 token context window
- • Minimal inference code for local execution
- • HuggingFace Transformers integration
- • Chat completion and text completion examples
🔗 Integrations
PyTorchHuggingFace Transformerstorchrun
✓ Best For
- ✓ Running Llama 3 inference locally with minimal code
- ✓ Researchers and developers evaluating Meta's open-weight LLMs
- ✓ Starting point for Llama 3 fine-tuning and adaptation projects
✗ Not Ideal For
- ✗ New projects (use llama-models/llama-stack instead)
- ✗ Users without GPU access (requires CUDA)
- ✗ Commercial use without reviewing Meta's license terms
Languages
Python
Deployment
pip install -e .torchrun for inferenceHuggingFace download
⚠ Known Limitations
- ⚠ Deprecated — users should use llama-models, llama-toolchain, llama-stack repos instead
- ⚠ 70B model requires 8 GPUs for inference (model parallel)
- ⚠ Download requires Meta approval (email-based URL, expires in 24h)
- ⚠ No fine-tuning code included (see llama-recipes)
- ⚠ Pre-allocated cache requires hardware planning
Pros
- + 开源模型，支持商业和研究用途，提供多种参数规模选择（8B-70B）满足不同需求
- + 官方提供基础推理代码和详细文档，降低了模型部署和使用门槛
- + 活跃的社区支持和丰富的生态系统，GitHub 星标近 3 万，有大量衍生项目和集成
Cons
- - 仓库已被官方标记为弃用，不再维护更新，用户需迁移到新的分割仓库
- - 模型下载流程复杂，需要官网申请许可、邮件确认，且下载链接有时间和次数限制
- - 模型体积庞大，对计算资源和存储要求较高，个人用户部署成本较大
Use Cases
- • 自然语言处理研究和学术实验，利用开源特性进行模型改进和算法验证
- • 企业级对话系统和内容生成应用，在私有环境中部署定制化语言模型
- • AI 应用开发和原型验证，为初创公司和开发者提供高质量的基础模型
Getting Started
访问 Meta Llama 官网申请下载许可并获取签名 URL；安装 wget 和 md5sum 工具后运行 download.sh 脚本下载模型；由于仓库已弃用，建议直接使用新的 llama-models 或 llama-toolchain 仓库进行开发