ToolAha
探索 / 搜索与研究 / llama.cpp
github.com

llama.cpp

使用可移植本地推理引擎运行模型。

访问官网

资源信息

资源类型
开发者项目
与 AI 的关系
AI 原生
仓库内路径
未核验
许可证
MIT
许可类别
已核验开源
许可证核验日期
2026-10-13
许可证核验记录
已阅读固定版本实际许可证文本,核验软件代码适用 MIT;模型、数据、外部服务和第三方依赖不自动继承此许可。
核验状态
官方声明已核对
最近核验(UTC)
2026-10-13
语言
  • C
  • C++
框架
未核验
部署方式
  • 按官方说明选择预编译二进制、源码构建或 Docker,并核对模型许可。
自部署
支持
运行要求
  • 兼容 GGUF 模型及其独立权重许可
  • 预编译二进制或 C/C++ 构建环境;CPU/GPU后端以硬件支持为准。
限制
  • 模型格式、硬件支持和权重许可与代码许可证不同。
维护状态
维护中
参考价格
价格未核验查看官网方案
免费方式
未核验额度与限制见下方说明
API
未核验开发者计费条件另查
免费/试用绑卡
未核验以官方资料为依据
01 / 应用档案

工具概述

使用可移植本地推理引擎运行模型。使用支持的 CPU 或 GPU 后端与本地推理工具。适合的具体任务是:测试兼容模型或提供本地推理服务。本档案根据维护者发布的实际资源定义、文档和固定版本许可证核验,列出能力与使用限制;不是独立实测评分,也不代表托管服务或模型权重免费。

02 / 能力与功能

主要功能

  • 01

    使用支持的 CPU 或 GPU 后端与本地推理工具。

03 / 适合做什么

适用场景

  • 测试兼容模型或提供本地推理服务。

场景与步骤根据官方产品范围整理,为编辑建议,不代表已独立实测。

品牌标志仅用于识别相应产品,不代表商家背书。 官方出处

反馈信息变化

信息有变化?

同类型替代品

同一资源类型与用途,选择前请核对各自能力与条件。

查看同类工具

配套资源

面向企业流程的 AI 生成媒体检测与来源核验工具

应用工具
限量试用
官网按用量 · 请核查官方方案

整理已保存视频、文章、PDF 与笔记的 AI 知识库

应用工具
持续免费
官网US$120.00 / 年