力挺馬斯克特斯拉股價的木頭姐（Cathie Wood）方舟投資（ARK Invest）和AI大神吳恩達（Andrew Ng）視訊討論AI現況和展望。木頭姐研究團隊高管認為到2030年，AI軟體將成為高達13 兆美元的市場。相較之下，目前 IT 支出總額約為 4 至 5 兆美元。以下為訪談摘要：
吳恩達認為AI代理（AI Agents）和代理工作流（Agentic Workflows）是AI發展的下一步。不同於單一提示輸出的AI聊天機器人，代理工作流涉及迭代過程，AI代理可以評估、檢查和改進其工作。此過程類似人類處理複雜任務的方式，從而產生更準確和穩定的結果。雖然AI和大型語言模型（LLM）已經展示出顯著的能力，但仍有尚未完全開發和商業化的潛力。硬體的成本和可用性（特別是GPU），限制更先進AI應用部署。而大量資金挹注和硬體供應鏈的持續進步可解決這些問題。
他認為雖然新模型總是受歡迎，但目前基於transformer的模型已足夠用於構建代理工作流。他還強調提高推理速度和生成token的重要性，是AI應用中的關鍵。在代理工作流中，AI系統會生成並檢查大量文本，然後再呈現給人類。由 Meta和半導體公司聯手推動的生成token速度的提昇，有助於提高工作流的效率，更快的推理不僅透過減少延遲來改善用戶體驗，還得以執行更複雜和更先進的AI任務。AI發展中訓練和推理之間的關係。投資於訓練可以導致更高效的模型，進而降低推理所需的成本和時間。
🌐新興的AI基礎設施和生態系統：
新發展的AI基礎設施，包括新編排層的發展以及MLOps在管理AI工作流中的重要性。雖然基礎模型層的競爭非常激烈，但在應用層有許多機會可以將 AI 應用於特定行業需求。
💰開源模型與封閉模型：經濟影響
吳恩達點出依賴封閉大型語言模型（LLM）盈利的公司的經濟壓力。由於訓練成本急劇下降—每年降幅高達 75%—任何公司僅憑獨家模型保持競爭優勢變得越來越難。由於競爭對手可以在短時間內以低廉的成本複製這些模型，傳統的「護城河」概念變得越來越脆弱。而AI開發中缺乏共享知識可能導致顯著性能差異，吳恩達認為，人才和點子在公司之間的流動使得很難長期保守任何技術「配方」的秘密。雖然短期內獨家優勢可能存在，但對其長期防禦性存疑。
然而，吳恩達認為儘管核心基礎模型可能難以保持強大的競爭優勢，但在AI運算平台的其他層次上，企業仍然可以建立更具防禦性的地位。消費者使用 LLM 的切換成本相對較低，這意味著差異化可能需要來自其他技術組件或增值服務，而非模型本身。
💻Meta的開源策略：
吳恩達還提到Meta決定將LLaMA系列作為開源模型發布的策略，他將這一策略與 Meta 早期發布 PyTorch 的做法進行比較，PyTorch 在減少專有深度學習平台主導市場的風險方面發揮重要作用。Meta不僅是利他，而且是理性的商業決策。透過開源 LLaMA，Meta確保了基礎平台保持免費和可訪問性，使他們能夠在其基礎上進行構建，而不必擔心被鎖定在特定生態系統中， 一如PyTorch。
雖然AI的潛力無窮，但不同產業採用的速度可能差異顯著。涉及物理過程（原子）甚至文化轉移（bits）的變化可能會很慢，通常需要數年時間才能完全實現。生成式AI對知識工作的變革性影響持樂觀態度，知識工作者都將運用AI工具來提高效率。吳恩達強調自己的創投公司 AI Fund對合作的產業類別保持開放，不過偏好與擁有深厚專業知識的公司合作。此合作模式能將其AI技術知識與特定產業專業知識相結合，打造創新的解決方案。
留言
張貼留言