LiteLLM 養大了 AI Gateway 這個類別，2026 年 Bifrost 用 Go 把效能上限再推 50 倍
應用程式直接打 OpenAI、Anthropic 端點的時代結束了，多數正式服務已經把 AI Gateway 當成基礎建設的一層。LiteLLM 撐起了大半個自...
# LLM
4 篇文章
Pocket 在 2025 年熄燈之後，Karakeep 用本地 LLM 接手了閱讀清單這個位置
Mozilla 在 2025 年 7 月關掉 Pocket，自架選項一直缺一個能跟 SaaS 體驗持平的解。Karakeep 從 Hoarder 改名而來，把 ...
Dify 自架教學：在 VPS 上部署 AI Agent 工作流平台，從聊天機器人到 RAG 知識庫
Dify 是 GitHub 上超過 14 萬星的開源 AI Agent 平台，用視覺化介面串接 LLM、建立 RAG 知識庫、發布聊天機器人。本文涵蓋 Dock...
Ollama 與 vLLM 怎麼選：自架 LLM 推論服務的兩條路線實測比較
Ollama 拉一行就能跑、vLLM 在高併發下吞吐量是前者的十幾倍。自架 LLM 推論到底該選哪一個？本文用實測數據與部署架構，把兩者的適用場景說清楚。...