什麼是 Dify?
Dify 是一款開源的大語言模型(LLM)應用開發平台,它融合了後端即服務(Backend as Service)和 LLMOps 的概念,使開發者能夠快速建立生產級的生成式 AI 應用。不僅如此,即使你是非技術人員,也能輕鬆參與 AI 應用的定義和資料運作過程。
Dify介面介紹
Dify 的關鍵特性
Dify 內建了建立 LLM 應用所需的關鍵技術棧,包括:
- 支援數百個模型:提供多樣的模型選擇,滿足不同應用需求。
- 直覺的 Prompt 編排介面:簡單易用,讓你輕鬆設計和調整提示語。
- 高品質的 RAG 引擎:確保數據處理的準確性和效率。
- 穩健的 Agent 框架:靈活配置和管理代理機器人。
- 靈活的流程編排:支援複雜流程的設計和自動化。
這些特性使得開發者可以節省大量重複造輪子的時間,專注於創新和業務需求。
支持模型類型
在Dify 中,我們依照模型的使用情境將模型分為以下4 類:
- 系統推理模型。 在創建的應用中,用的是該類型的模型。智聊、對話名稱產生、下一步問題建議用的也是推理模型。已支援的系統推理模型供應商:OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、訊飛星火、文心一言、通義千問、Minimax、ZHIPU(ChatGLM)
- Embedding 模型。在資料集中,將分段過的文件做Embedding 用的是該類型的模型。在使用了資料集的應用程式中,將使用者的提問做Embedding 處理也是用的該類型的模型。已支援的Embedding 模型供應商:OpenAI、ZHIPU(ChatGLM)、JinaAI
- Rerank 模型。 Rerank 模型用於增強檢索能力,改善LLM 的搜尋結果。已支援的Rerank 模型供應商:Cohere、JinaAI
- 語音轉文字模型。將對話型應用中,將語音轉文字用的是該類型的模型。已支援的語音轉文字模型供應商:OpenAI
為什麼選擇 Dify?
你可以將 Dify 與 LangChain 這類的開發庫做比較。LangChain 是一個提供鐵鎚和釘子的工具箱,而 Dify 則是一套經過精良工程設計和軟體測試的完整腳手架方案。
以下是選擇 Dify 的幾個主要理由:
- 開源:由專業全職團隊和社群共同打造,提供靈活和安全的解決方案,同時保持對資料的完全控制。
- 快速迭代:產品簡單、克制且迭代迅速,滿足用戶需求。
- 生產級方案:提供接近生產需求的完整方案,節省開發時間和資源。
使用 Dify 的優勢
Dify 讓你基於任何模型自部署類似 Assistants API 和 GPTs 的能力,確保在靈活和安全的基礎上,對資料保持完全控制。這對於那些希望快速開發和部署生成式 AI 應用的團隊和個人來說,是一個理想選擇。
創業者的理想工具
Dify 可以幫助創業者快速將 AI 應用創意變成現實,無論是成功還是失敗,都需要加速推進。在真實世界中,已有數十個團隊透過 Dify 建立 MVP(最小可用產品)獲得投資,或透過 POC(概念驗證)贏得了客戶的訂單。
整合 LLM 至現有業務
Dify 使得將 LLM 增強現有應用變得簡單。透過 Dify 的 RESTful API,可以實現 Prompt 與業務程式碼的解耦。此外,Dify 的管理介面可以追蹤資料、成本和用量,持續改進應用效果,從而提升業務能力。
企業級 LLM 基礎設施
一些銀行和大型網路公司正在將 Dify 部署為企業內的 LLM 網關,加速 GenAI 技術在企業內的推廣,並實現中心化的監管。這使得 Dify 成為企業級應用的理想選擇,提供穩定、安全的 LLM 基礎設施。
探索 LLM 的能力邊界
即使你是技術愛好者,Dify 也能幫助你輕鬆實踐 Prompt 工程和 Agent 技術。在 GPTs 推出以前,已有超過 60,000 名開發者在 Dify 上創建了自己的第一個應用,展示了其在技術探索中的強大潛力。
Dify 開源許可證
Dify 專案在Apache License 2.0 授權下開源,同時包含以下附加條件:
Dify 允許被用於商業化,例如作為其他應用的「後端即服務」使用,或作為應用程式開發平台提供給企業。然而,當滿足以下條件時,必須聯繫生產者以獲得商業許可:
- 多租戶SaaS 服務:除非獲得Dify 的明確書面授權,否則不得使用Dify.AI 的源碼來運作與Dify.AI 服務版類似的多租戶SaaS 服務。
- LOGO 及版權資訊:在使用Dify 的過程中,不得移除或修改Dify 控制台內的LOGO 或版權資訊。
更多教學資源
官方的教學文件非常完整
https://docs.dify.ai/v/zh-hans/guides/model-configuration
對於擴充以及API支持非常的完整
https://docs.dify.ai/v/zh-hans/guides/application-publishing/developing-with-apis