家里有块 GPU 的电脑就能变成自己的私有 AI 服务器了，模型按需加载，请求按预算自动分流到本地或者云端，这点最实在。 开源的 Sibyl 刚发了 pre-alpha 版本，基于 Fedora bootc 不可变镜像，用 llama.cpp 和 llama-swap 按需加载 GGUF 模型，兼容 OpenAI、Anthropic 和 Ollama 的标准 API，自带模型路由器和 Open WebUI 界面。 安装要用 oras 拉对应 GPU 架构的 live ISO 写 U 盘，开 Secure Boot 引导安装，记得保存好恢复密钥。...
🌐 链接: https://x.com/taiyanghere/status/2119241159314923630
🏷️ 分组: X｜太阳（taiyanghere）
🕒 时间: 2026-11-08 09:30:40
🌐 链接: https://x.com/taiyanghere/status/2119241159314923630
🏷️ 分组: X｜太阳（taiyanghere）
🕒 时间: 2026-11-08 09:30:40
X (formerly Twitter)
太阳 (@taiyanghere) on X
家里有块 GPU 的电脑就能变成自己的私有 AI 服务器了，模型按需加载，请求按预算自动分流到本地或者云端，这点最实在。
开源的 Sibyl 刚发了 pre-alpha 版本，基于 Fedora bootc 不可变镜像，用 llama.cpp 和 llama-swap 按需加载 GGUF 模型，兼容 OpenAI、Anthropic 和 Ollama 的标准 API，自带模型路由器和 Op…
开源的 Sibyl 刚发了 pre-alpha 版本，基于 Fedora bootc 不可变镜像，用 llama.cpp 和 llama-swap 按需加载 GGUF 模型，兼容 OpenAI、Anthropic 和 Ollama 的标准 API，自带模型路由器和 Op…
