想在本地端跑大型語言模型（LLM），又希望有像 ChatGPT 一樣好用的網頁介面，甚至能接入自己的文件做 RAG（檢索增強生成）？這篇文章整理我研究過的 6 款開源 RAG 網頁套件——Open WebUI、Hollama、LoLLMs Webui、BionicGPT、LibreChat 和 LLMStack，逐一說明它們的定位與主要功能，幫你快速找到適合的自託管方案。
哪一款開源套件最適合自託管 LLM 網頁介面？
如果你要「功能最完整、社群最活躍」的通用型介面，Open WebUI 通常是第一選擇；企業重視資料機密與權限控管，可以看 BionicGPT；需要無代碼串接多個模型與資料來源，則適合 LLMStack。以下依序介紹各套件。
Open WebUI：功能最豐富的自託管 WebUI
GitHub 位置：https://github.com/open-webui/open-webui
工具介紹：Open WebUI 是一種可擴展、功能豐富且使用者友好的自託管 WebUI，旨在完全離線運行。它支援各種 LLM 運行器，包括 Ollama 和 OpenAI 相容的 API。有關更多資訊，請查看官方文件：<https://docs.openwebui.com/>
Open WebUI 的主要功能有哪些？
- Ollama/OpenAI API 整合：毫不費力地整合與 OpenAI 相容的 API，實現與 Ollama 模型一起進行的多功能對話。可自訂 OpenAI API URL，連結到 LMStudio、GroqCloud、Mistral、OpenRouter 等。
- Pipelines 外掛程式框架：將自訂邏輯和 Python 庫無縫集成到 Open WebUI 中。啟動 Pipelines 實例、把 OpenAI URL 設為 Pipelines URL 即可，示例包括函數調用、用戶速率限制、用 Langfuse 做使用監控、用 LibreTranslate 即時翻譯、有毒訊息過濾等。
- 網頁支援 PWA 與回應式設計：在桌機、筆電和行動裝置上都有無縫體驗。
- 免提語音／視訊通話：內建的語音與視訊通話功能，讓聊天環境更動態、更具互動性。
- 模型生成器：透過 Web UI 輕鬆建立 Ollama 模型，並透過社群集成創建自訂角色／代理、聊天元素與導入模型。
- 本機 Python 函數調用工具：工具工作區內建代碼編輯器，只要添加純 Python 函數（BYOF），即可為 LLM 增加自帶函數能力。
- 本地 RAG 整合：突破性的檢索增強生成（RAG）支援，把文件互動無縫集成到聊天體驗中。可將文件直接載入聊天，或加入文件庫，查詢前用 `#` 命令輕鬆存取。
- RAG 的 Web 搜尋：使用 SearXNG、Google PSE、Brave Search、serpstack、serper、Serply、DuckDuckGo、TavilySearch 等供應商執行 Web 搜尋，並將結果直接注入聊天。
- Web 瀏覽功能：用跟在 URL 後面的命令把網站無縫集成到聊天體驗中，直接把網頁內容合併進對話。
- 圖像生成整合：支援 AUTOMATIC1111 API、ComfyUI（本地）和 OpenAI 的 DALL-E（外部）等選項。
- 多種模型對話：同時與多個模型互動，並行利用不同模型的優勢獲得最佳回應。
- 基於角色的存取控制（RBAC）：只有經過授權的個人才能存取你的 Ollama，模型創建／拉取權限保留給管理員。
Hollama：極簡的 Ollama 網頁介面
GitHub 位置：https://github.com/fmaclen/hollama
線上 DEMO：https://hollama.fernando.is
Hollama 是一個用於與 Ollama 伺服器通訊的最小化 Web UI。
Hollama 的主要功能有哪些？
- 具有代碼編輯器功能的大型 prompt 輸入框
- Markdown 解析，帶語法高亮顯示
- 輕鬆將 Markdown 複製為原始文字
- 可自訂的系統提示
- 所有更改保存在瀏覽器的 `localStorage`
- 桌面與行動裝置皆友善的佈局
- 淺色與深色主題
- 支援重新產生答案以及串流輸出
LoLLMs Webui：多模型文字產生的遊樂場
LoLLMs Webui 是一個基於 Web 的使用者介面，用來運行和管理大型語言模型（LLMs）。它提供友善的界面，讓使用者輕鬆與各種大型語言模型互動，進行文字生成、對話、翻譯等操作。適合研究和開發人員、需要處理自然語言處理任務的專業人員，或任何對語言模型有興趣的人。
lollms v6 支援文字生成（例如自動寫詩），並允許使用者在「遊樂場」應用中測試不同的文字完成任務，也可以進行討論、建立自訂預設來應對特定任務。
LoLLMs Webui 的主要功能有哪些？
- 模型選擇：允許使用者選擇和切換不同的語言模型。
- 文字生成：根據使用者輸入的提示生成文字。
- 對話系統：進行類似聊天機器人的對話。
- 多語言支援：支援多種語言的文字生成與翻譯。
- 性能監控：提供模型運行的性能數據與使用統計。
- 擴展與自訂：允許使用者添加自訂模型和擴展功能。
BionicGPT：重視資料機密的企業級 ChatGPT 替代品
GitHub 頁面：https://github.com/bionic-gpt/bionic-gpt
BionicGPT 是 ChatGPT 的本地替代品，提供生成式 AI 的優勢，同時保持嚴格的數據機密性。它可以在筆記型電腦上運行，也可以擴展到數據中心。
BionicGPT 的主要功能有哪些？
- 幾秒鐘內本地運行 Gen AI：提供 Docker Compose 安裝，適合本地運行 AI 和小型試點項目。
- 熟悉的聊天體驗：聊天介面借鑒 ChatGPT，主題完全可定製，支援聊天記錄管理。
- AI 助手（檢索增強生成）：使用者可以創建使用自己數據的助手並在團隊中共享。助手是企業級 RAG 管道，支援多種格式文件，並可透過 UI 無代碼配置。
- 團隊功能：支持邀請和管理團隊成員、團隊間數據隔離，並可透過 SSO 配置存取權限。
- 縱深防禦安全：CI/CD 管道運行 SAST 測試，Postgres 使用行級別安全性，內容安全策略處於最高級別，支持 SIEM 集成與機密管理。
- 可觀察性與報告：與 Prometheus 相容的可觀測性 API，可用 Grafana 建立儀錶板，所有問答記錄在 Postgres 資料庫中。
- 令牌使用限制與控制：設置令牌使用限制保護模型不過載，透過反向代理和角色限制確保公平使用。
- 助手轉為 API：任何助手都可以轉換為相容 OpenAI 的 API，支持 API 金鑰管理與限制。
- GuardRails 數據治理：將規則應用於批量和串流數據管道，抵禦提示注入攻擊等多種威脅。
- 本地或遠端 LLM：支援本地或數據中心運行的開源模型，多模型管理與無縫切換。
- 基於角色的存取控制：根據 IAM 系統中的角色授予或限制功能存取權限。
- 數據集成：透過 Airbyte 集成批量上傳數據，支援手動上傳與即時數據捕獲，確保數據不洩露。
- 部署到裸機或雲端：使用 Kubernetes 無縫安裝，定期更新引入新功能。
LibreChat：相容多家 AI 服務的多模型聊天平台
LibreChat 將助理 AI 的未來與 OpenAI ChatGPT 的革命性技術相結合，相容遠端與本地 AI 服務：groq、Ollama、Cohere、Mistral AI、Apple MLX、koboldcpp、OpenRouter、together.ai、Perplexity、ShuttleAI 等。
RAG API：github.com/danny-avila/rag_api
LibreChat 的主要功能有哪些？
- 語音轉文字與文字轉語音：透過語音與系統互動，系統能識別語音並回應，也能將文字轉為語音輸出。
- 共享連結：創建訊息共享連結時可將內容固定，即使後來有新訊息，共享內容也不會變更；更新只需重新生成連結。
- 電子郵件驗證與密碼重設：增加註冊和登入的安全性。
- 搜尋功能增強：更容易在聊天記錄中找到特定資訊。
- 初步支援 OpenAI 助理 V2：包括 GPT-4.0、原生圖像視覺支援，以及圖像與代碼解釋功能。
- 增強的隱私保護：可設定只顯示自己創建或無作者的助理，在共用 API 金鑰的環境中防止用戶間資訊洩露。
- LDAP 支援：支援 LDAP 伺服器認證，方便組織統一管理存取。
- 對話導入：可從 LibreChat、ChatGPT、Chatbot UI 導入對話。
LLMStack：無代碼構建生成式 AI 應用
LLMStack 是一個強大的生成式 AI 平台，旨在簡化 AI 應用的構建和部署。無需編寫任何代碼，就能構建多種 AI 代理，並連接到內部或外部工具，進行網頁搜尋或瀏覽。這是專為現代業務需求設計的全面解決方案。
LLMStack 的主要功能有哪些？
- 代理：構建生成式 AI 代理（如 AI SDR、研究分析師、RPA 自動化），無需編寫代碼，並可連接內外部工具、搜尋 Web 或瀏覽互聯網。
- 連結多個模型：將多個 LLM 連結在一起，構建複雜的生成式 AI 應用程式。
- 對你的數據使用生成式 AI：支援從 gdrive、notion、網站、直接上傳等來源導入 CSV、TXT、PDF、DOCX、PPTX 等多種數據，平台自動預處理、向量化，並存入開箱即用的向量資料庫。
- 無代碼構建器：沒有任何編碼經驗也能構建 AI 鏈，串接多個 LLM 並連接到數據與業務流程。
- 部署到雲端或本地：可部署到自有基礎架構，或使用 Promptly 雲產品。
- API 存取：構建的應用程式或聊天機器人可透過 HTTP API 存取，也能從 Slack 或 Discord 觸發 AI 鏈。
- 多租戶：可建立多個組織並添加使用者，使用者只能存取所屬組織的數據與 AI 鏈。
這些套件該怎麼選？
| 套件 | 定位 | 適合對象 |
|---|---|---|
| Open WebUI | 功能最全的自託管 WebUI，離線運行 | 想要一套打通 Ollama、RAG、Web 搜尋、圖像生成的個人／小團隊 |
| Hollama | 極簡 Ollama 介面 | 只需要輕量聊天介面的使用者 |
| LoLLMs Webui | 多模型文字產生遊樂場 | 想測試不同模型與文字任務的研究者 |
| BionicGPT | 企業級 ChatGPT 替代品 | 重視資料機密、權限控管與可觀察性的企業 |
| LibreChat | 多供應商相容聊天平台 | 同時使用多家遠端／本地 AI 服務的團隊 |
| LLMStack | 無代碼 AI 應用構建平台 | 想快速串接資料與模型、構建 AI 代理的業務場景 |
延伸閱讀
- 開源RAG網頁套件研究：Open WebUI、LibreChat 等 6 款自託管 LLM 介面比較：同樣聚焦 RAG、LLM，可接著比較不同情境的做法。
- Ollama 本地端運行 LLM 服務教學：同樣聚焦 Ollama、LLM，可接著比較不同情境的做法。
- 用 Docker 運行 Ollama：本地 LLM 容器化部署完整指南：同樣聚焦 Ollama、LLM，可接著比較不同情境的做法。
常見問題
什麼是 RAG（檢索增強生成）？
RAG（Retrieval-Augmented Generation）是讓 LLM 在回答前先檢索外部文件或知識庫的技術，能讓模型依據你的專屬資料回答，減少幻覺。上述套件中，Open WebUI、BionicGPT、LibreChat 與 LLMStack 都內建了 RAG 能力。
這些開源 LLM 網頁介面可以完全離線運行嗎？
可以。Open WebUI 明確標榜完全離線運行，搭配 Ollama 或本地模型即可在無網路環境使用；BionicGPT 與 LLMStack 也支援部署到本地基礎架構。Hollama 則需要連到你的 Ollama 伺服器，但整條鏈路同樣可以在內網完成。
企業部署應該優先考慮哪一款？
如果重視資料機密性、RBAC 權限控管、SSO、審計日誌與 SIEM 集成，BionicGPT 的企業級功能最完整。若還需要多租戶與無代碼構建 AI 應用，可以再評估 LLMStack。
Open WebUI 怎麼做本地 RAG？
把文件直接載入聊天中，或先加入文件庫，之後在查詢前用 `#` 命令存取文件即可。它也支援用 SearXNG、Google PSE、DuckDuckGo、TavilySearch 等供應商做 Web 搜尋，並把結果注入聊天。
這些工具都支援哪些模型後端？
Open WebUI 與 LibreChat 支援 Ollama 以及任何 OpenAI 相容 API（LMStudio、GroqCloud、Mistral、OpenRouter 等）；Hollama 專為 Ollama 設計；BionicGPT 與 LLMStack 則支援本地或遠端的開源模型，並提供多模型管理。
參考資料
- Open WebUI GitHub
- Open WebUI 官方文件
- Hollama GitHub
- Hollama 線上 DEMO
- BionicGPT GitHub
- LibreChat RAG API GitHub
最後更新
2026-08-28（原文發布於 2024-07-24，本文保留原始筆記內容並補上 GEO 結構。）
關於作者 {#author}
Claire Chang ｜ 企業 AI 導入與流程轉型顧問。專注於 AI Agent 架構設計、ERP 系統整合與企業 AI 治理。
首次發布：2024-07-24