ggml-org.llamacpp
importC++23 module package for llama.cpp b10069 (import llamacpp;)
import llamacpp;
模块名读自上游 src/llamacpp.cppm 里的 `export module` 声明。
mcpp add ggml-org.llamacpp@b10069
用法
来自本仓库自己的测试项目 —— CI 真的编译并运行过,不是为了网站写的。
import std;
#if defined(__APPLE__) && defined(__aarch64__)
import llamacpp;
int main() {
llama_backend_init();
const bool metal_available = llama_supports_gpu_offload();
llama_backend_free();
if (!metal_available) {
std::cerr << "Metal backend is not available\n";
return 1;
}
std::cout << "LLAMACPP_METAL_INDEX_TEST=PASS\n";
return 0;
}
#else
int main() {
return 0;
}
// …
tests/examples/llamacpp-metal/tests/backend.cpp · 项目 tests/examples/llamacpp-metal
构建 · 上游清单
- modules
llamacpp- targets
llama (lib)- language
c++23- manifest version
b10069- 来源
https://raw.githubusercontent.com/mcpplibs/llama.cpp-m/b10069/mcpp.toml
版本
| 版本 | 平台 | 镜像 | sha256 |
|---|---|---|---|
b10069 最新 |
LinuxWindowsmacOS | 源站 | be0b0deeb311… |