影片介紹
應專注於構建現在可以實現的應用
AI 技術堆疊(AI stack)的理解如下圖,最下面是半導體技術,接著雲端層、基礎模型層
吳恩達認為:對於台灣的許多企業而言,最好的機會是專注於構建現在可以實現的應用
而AI 代理工作流程則是能夠讓應用更加聰明的關鍵
代理式 AI 系統如何運作
- 反思模式(Reflection Design Pattern)
首先先讓AI 撰寫程式碼,接著讓它檢視自己剛剛撰寫的程式碼,進行批評並提出改進建議。同樣的步驟反覆多次
- 多代理模式(Multi-Agent Pattern)
一個代理生成程式碼,而另一個代理則專門負責批評前者的成果,兩者互動後產生更好的結果
- 功能調用(Function calling)
調用 API 進行網路搜索、執行程式碼、或從日曆中提取數據
參考資料: https://claire-chang.com/2024/10/10/%e4%ba%86%e8%a7%a3llm%e7%9a%84%e5%87%bd%e6%95%b8%e8%aa%bf%e7%94%a8function-calling/ - 計劃(Planning)
請AI先計劃一系列動作,來完成複雜的任務
越來越多的團隊在實施不止一個單一的代理,而是建立多個 AI 代理的協作系統。
「管理者思維」的設計模式
類似於管理者僱用多名員工來完成不同的任務。例如,你可以設計三到四個 AI 代理,分別負責程式碼撰寫、行銷設計或其他專業領域的工作,然後讓它們彼此協作。
當前 AI 領域的其他五個重要趨勢
半導體領域的發展對應用層很重要
從 AI 模型訓練到部署的時間大幅縮短。以前從數據收集、模型訓練到部署可能需要 6 到 12 個月,而現在透過語言模型的提示工程(Prompt Engineering),許多原本需要半年開發的原型,只需 10 天就能完成。
文本處理革命已經發生,而影像處理革命即將發生
由於傳輸數據的成本和技術瓶頸大幅降低,而數據處理成本(特別是 AI 處理)仍然昂貴,企業開始傾向於將數據分散到不同的地方,根據需要傳輸和處理數據。
非結構化數據的工程化管理。過去,企業主要處理結構化數據,例如表格和數字。但現在隨著 AI 現在能更好地理解文本、圖片和音訊,更多的數據工程需要集中在如何使公司為這些非結構化數據做好 AI 準備。
AI 正在顛覆許多產業
這是一張來自賓夕法尼亞大學(UPenn)研究論文的圖表。不同於以往的自動化浪潮主要影響低薪工作,AI 現在也可以自動化許多知識型工作者的任務。
圖表中,橫軸表示薪資,縱軸表示不同職業受 AI 自動化影響的程度。有趣的是,高薪工作往往更容易受到這波 AI 自動化的衝擊。與早期的 AI 世代不同,以前的 AI 更傾向於影響低薪重複性工作的自動化,而現在的 AI 更有能力影響高薪專業工作的自動化。
執行AI創新的關鍵步驟
- 高層管理者 AI 簡報:讓企業領導者了解 AI 的運作原理,從非技術的商業角度學習 AI 的基本運作方式,幫助企業識別商業機會。
- 工作任務分解:將工作拆解成任務,分析哪些適合 AI 自動化,進而揭示潛在機會。每份工作由許多任務組成,我們會將其分解,找出哪些任務適合 AI 自動化。我們發現,通過這種系統化分析,我們能揭示出許多原本未曾想到的機會。
- 激發新模式:AI 不僅能降低成本,更可能創造新的商業模式和增值機會。事實上,通過這種系統化分析來拆解工作並將部分的工作自動化,很時候,這過程會讓某些任務的成本降低成千上萬倍,從而創造出全新的商業模式,而不是僅僅取代現有的工作流程。
- 自建與購買抉擇:對於大多數企業而言,自行開發(Build)還是外購(Buy) AI 解決方案是一個常見的抉擇。我們通常建議,如果市場上已經存在解決方案,那麼直接購買即可。但由於 AI 技術還相對新穎,許多企業需要的解決方案根本還不存在,因此它們最終往往選擇自行開發,甚至投資創建新公司。這種工作任務分解的流程幫助企業高效地建構和採用 AI 技術,同時避免企業承擔過多的開發風險。我認為,透過這種方式,企業能夠從 AI 技術中獲得長期的益處。
分析你的工作內容,識別哪些部分AI可以幫忙
- 工作由許多任務組成。AI 是自動化任務,而非整個工作。
- 將員工執行的工作分解為各個任務。
- 分析各項任務,以評估其 AI 自動化或增強的潛力。
範例:客服代表
任務 | AI 潛力 |
---|---|
回答客戶文字聊天查詢 | 高 |
記錄客戶互動 | 高 |
檢查訂單狀態 | 低 |
接聽電話 | 低 |
分流處理投訴 | 中 |