ggml-org/llama.cpp

LLM inference in C/C++

121k 星标21k 复刻1.9k 未解决 Issue121k 关注者C++MIT

LLM Tool

来源与合规提示最近同步: Jul 18, 2026

Git-Stars 是独立产品，不隶属于 GitHub 或该项目。分析可能由 AI 辅助生成，依据公开仓库元数据和 README 的短摘要。我们不镜像完整 README、文档、Issue 或社媒评论。

原始 GitHub 来源方法论编辑政策

编辑评估

ggml-org/llama.cpp 被追踪为 C++ 项目，主要属于 LLM Tool 方向。这个评估结合公开 GitHub 元数据、分类信号、短来源摘要和 Git-Stars 编辑规则，而不是复制项目文档。

增长检查：该仓库目前有 121k Star，今日 +0，本周 +0，本月 +0。这些窗口用于区分持续采用信号和短期曝光峰值。

维护检查：当前活跃度为活跃；最近一次推送距今 1 天，未关闭 Issue 为 1.9k，约占总 Star 的 1.56%。这只是采用信号，不替代工程尽调。

采用检查：21k Fork 和 121k Watcher 反映项目被复用和关注的程度。许可证信号：MIT。商业或内部使用前请核验许可证兼容性。

适用判断：当你需要「C++ 技术栈团队评估生态原生工具」时，这个项目更值得评估；如果「需要法律审查、安全审计或生产 SLA 保证」，则需要谨慎。

来源检查：Git-Stars 当前为这份报告保留了 1 个明确来源引用，近期增长信号为 3.4k。最终安装、安全和版本信息仍应以原始 GitHub 仓库为准。

适合场景

C++ 技术栈团队评估生态原生工具
偏好成熟项目和广泛采用信号的团队
重视近期维护活跃度的使用场景

谨慎使用场景

需要法律审查、安全审计或生产 SLA 保证

采用信号

热度

121k 星标

复用

21k 复刻

关注

121k 关注者

维护

active

许可证

MIT

未解决 Issue

1.9k

项目概述

llama.cpp is a C/C++ implementation for LLM inference that enables running large language models with minimal setup and state-of-the-art performance on a wide range of hardware, including local and cloud environments.

Key Features

Plain C/C++ implementation without dependencies; Apple silicon optimization via ARM NEON, Accelerate, and Metal; support for multiple quantization levels (1.5-bit to 8-bit) for faster inference and reduced memory use; custom CUDA kernels for NVIDIA GPUs and support for AMD GPUs via HIP; CPU+GPU hybrid inference for models larger than VRAM.

工具定位

LLM Tool

Libraries and tools for LLM apps, RAG, prompts, and evals

快速开始

brew, nix, winget, or conda-forge; see docs/install.md

在 GitHub 上查看项目主页

项目活跃度

100

健康评分

活跃

提交活跃度

Mar 10, 2023

创建于

Jul 17, 2026

ggml-org/llama.cpp

LLM inference in C/C++

121k 星标21k 复刻1.9k 未解决 Issue121k 关注者C++MIT

LLM Tool

来源与合规提示最近同步: Jul 18, 2026

原始 GitHub 来源方法论编辑政策

编辑评估

增长检查：该仓库目前有 121k Star，今日 +0，本周 +0，本月 +0。这些窗口用于区分持续采用信号和短期曝光峰值。

维护检查：当前活跃度为活跃；最近一次推送距今 1 天，未关闭 Issue 为 1.9k，约占总 Star 的 1.56%。这只是采用信号，不替代工程尽调。

采用检查：21k Fork 和 121k Watcher 反映项目被复用和关注的程度。许可证信号：MIT。商业或内部使用前请核验许可证兼容性。

适用判断：当你需要「C++ 技术栈团队评估生态原生工具」时，这个项目更值得评估；如果「需要法律审查、安全审计或生产 SLA 保证」，则需要谨慎。

来源检查：Git-Stars 当前为这份报告保留了 1 个明确来源引用，近期增长信号为 3.4k。最终安装、安全和版本信息仍应以原始 GitHub 仓库为准。

适合场景

C++ 技术栈团队评估生态原生工具
偏好成熟项目和广泛采用信号的团队
重视近期维护活跃度的使用场景

谨慎使用场景

需要法律审查、安全审计或生产 SLA 保证

采用信号

热度

121k 星标

复用

21k 复刻

关注

121k 关注者

维护

active

许可证

MIT

未解决 Issue

1.9k

项目概述

Key Features

工具定位

LLM Tool

Libraries and tools for LLM apps, RAG, prompts, and evals

快速开始

brew, nix, winget, or conda-forge; see docs/install.md

在 GitHub 上查看项目主页

项目活跃度

100

健康评分

活跃

提交活跃度

Mar 10, 2023

创建于

Jul 17, 2026