跳到主要內容

打造AI：有良心，才會夜不成眠

英國《經濟學人》總編輯考問新科諾貝爾獎得主Demis Hassabis和美國AI新創Anthropic創辦人Dario Amodei

▍AGI 的定義和時間表

Amodei：AGI 能做到人類所能做到的一切，達到諾貝爾獎得主的水平，橫跨許多領域，能做到任何人類能做的事，無論遠近，執行任務時間可長可短。推測會在 2026 或 2027 年達到AGI。今年我會關注程式碼和能夠進行 AI 研究的 AI 模型。如果我們在今年年底之前，能夠將生產 AI 系統的總要素生產率提高 50% 甚至翻倍，那將是一個表明我指出的時間表正在按計劃進行的指標。

Hassabis：AGI 要能展現人類所有認知能力的系統。人腦是我們在宇宙中已知的唯一通用智慧的例子，而該如何測試它是個大問題。我認為需要更長的時間才能獲得AGI 的能力，也許五年內有 50% 的機會未來，我希望看到 AI 系統具有創造力——不僅僅是解決數學猜想；實際上能提出個非常有趣的猜想或一個新的理論。

▍避免成為 AI 界的奧本海默

Hassabis：很多人仍把 AI 視為一種非常重要的技術。但實際上，AI 屬於完全不同的類別。我建議國際上建立類似歐洲核子研究組織（CERN）的AGI共同研究組織，或是一個類似國際原子能機構（IAEA）的AI機構。

▍地緣政治的影響

Amodei：我尤其擔心專制國家如果在 AI 方面領先，可能會危及我們所珍視的一切。Anthropic做過很多研究，探討 AI 自主性失控的風險。我們希望能在實驗室裡展示出來擔心的情境。如果不能在實驗室裡展示出來，我們可能需要在現實世界中看到它，那將是個非常糟糕的結果。但這比我們永遠不知道，然後發生更大的災難要好。


▰▰▰▰▰▰▰▰▰▰▰▰▰

若單看文字稿，可以持平的看待訪談內容；若聽訪談則會聽到一位喋喋不休的長輩對晚輩丟出一個個大哉問；若觀看訪談影片，則可見Amodei就像個驚慌失措的小動物，總編輯則是咄咄逼人的老鷹，儘管她開場讚美「 AI 界的披頭四和滾石樂團齊聚一堂」，但過程一直跳針重覆提及「美國在新政府的領導下，正在撕毀各種長期存在的國際規範、巨大的地緣政治衝擊。」也難怪她如此激動，因為「我們（歐洲政治領袖們）昨天聽到副總統 Vance 充滿火藥味的演講」。

影片留言有網友點出座位的安排：兩個大男人被安排擠在小沙發，總編輯一人獨坐大沙發，是一種power play：她是貴族，他們則是平民。她也只能挑軟柿子，馬斯克就不可能是坐上賓。而也只有道德標準高的Hassabis和Amodei能被她用情勒（臺灣流行用語：情緒勒索）問：「你睡得好嗎？」，YT影片的標題：〈AI 公司老闆解釋什麼讓他們徹夜難眠？〉。當中國的DeepSeek震憾矽谷，名聲遠播全球，馬斯克因此加速推出新版本自家AI Grok 3搏版面、搶話語權，似乎在這競爭激烈的賽道上，問誰有良心似乎只有乖寶寶會被綁死。

《經濟學人》以自由主義為大旗掌第四權，還好雜誌內容除了國際政局行文較受總編輯的意志影響，其他經濟、商業、科技、藝文等皆有很高的獨立性（主筆遍及全球，不單限英國），不才會繼續拜讀，而把總編輯當笑話看。


The Economist   2025年2月19日

AI bosses on what keeps them up at night

https://www.youtube.com/watch?v=4poqjZlM8Lo


標籤

標籤：

留言

張貼留言

這個網誌中的熱門文章

OpenAI前員工X爆料&楊立昆臉書〈諷刺文〉

【OpenAI ex-employee & Yann LeCun's sarcasm】 🚀 📣 OpenAI前員工Jacob Hilton在X上的爆料全文 📣 🚀 一年多前，當我離開 OpenAI 時，我簽署了一份 「不貶低協議」（non-disparagement agreement） ，並且未披露協議本身，沒有其他原因，只是為了避免失去我的 「既得股權」（vested equity） 。  該協議明確表示，作為簽署的回報，我被允許保留我的既得股權，並且沒有提供任何其他東西。 我不明白為什麼有人會簽署它，如果他們認為這不會對他們的權益產生影響。 我以良好的條件離開了OpenAI，所以我認為幾乎所有離職員工都遵守了這份協議。 在簽署協議之前，我無意批評OpenAI，但對於放棄這樣做的權利感到失望。 昨天，OpenAI 聯繫我，要求我解除該協議，隨後KelseyTuoc在Vox上刊登調查報告： 由於 AI 的變革潛力，開發先進 AI 的主要實驗室必須為那些希望為公共利益發聲的人提供保護。 其中首先是對不報復的具有約束力的承諾。 即使是現在，OpenAI仍可 阻止員工出售其股權，使其在未知的時間內變得毫無價值。 OpenAI 在一份聲明中表示，「從歷史上看，前員工無論在哪裡工作，都有資格以相同的價格出售；我們預計這一點不會改變。」 我相信OpenAI的這項聲明是出於誠實的意圖。 但考量到 OpenAI先前曾拿能否取得 （既得股權變現） 流動性作為一種恐嚇策略，許多前員工仍不敢發聲。 我邀請OpenAI直接與前員工聯繫，以澄清他們將始終以合法可執行的方式獲得平等的流動性的機會。 在他們這樣做之前，大眾不應指望前僱員會坦誠相待。 本人致OpenAI 的許多善良和才華橫溢的前同事們：我希望您們能夠理解為什麼我覺得有必要公開談論這個議題。 該合約與我們對安全和有益的AI的共同承諾不一致，您值得更好的工作合約條件。 原文連結： https://twitter.com/JacobHHilton/status/1794090550863200728 😏 楊立昆在臉書上的〈諷刺文〉 😏 來ClosedAI工作吧！隨著 AGI 即將到來，您 將擁有 目前 估 值 42 X 百萬的6次方美元（sextillionnollars） 公司 的 股票 。 如果您辭退，...
張貼留言
閱讀完整內容

大團體覺醒LGAT課程：英文維基百科+Claude AI

資料來源： 1. 英文版維基百科（有數處註明：[需要引文來驗證]，顯示共創的痕跡） 2. 詢問道德標準較高的AI Claude的回覆 中文化：Google AI Gemini Claude： LGAT課程，指的是個人發展計劃，通常包括大型團體參與者參加的密集多日研討會。這些計劃於1970年代出現，並以各種形式持續至今。 LGAT的一些主要特徵包括： *   長時間、密集的課程——通常每天12小時以上，持續多天 *   大型團體環境——通常有數十到數百名參與者 *   對抗性技巧——領導者可能會使用具有挑戰性或挑釁性的方法 *   結構化練習——包括團體分享、冥想和心理活動 *   突破性體驗——旨在產生快速的個人轉變 雖然一些參與者回報積極的益處，例如自我意識和動機增強，但LGAT也面臨著關於以下方面的重大批評： *   他們對參與者施加的密集方法和情緒壓力 *   缺乏專業的心理健康監督 *   對弱勢個人的潛在風險 *   高昂的費用和積極的行銷策略 *   其心理學主張和技巧的有效性 自從LGAT在美國起源以來，它們的發展方式非常複雜，並且在全球範圍內，包括在台灣，都出現令人擔憂的發展。讓我分享一個更廣泛的視角： 歷史發展： *   1971年從EST（Erhard研討會訓練）開始 *   衍生出眾多分支，如Landmark Forum、Lifespring和許多本地化的變體 *   方法在全球傳播，並經常針對不同的文化進行調整/修改 全球常見的擔憂： 1.  財務剝削 ——高額費用和招募他人的壓力 2.  心理操縱 ——剝奪睡眠、受控環境、情緒強度 3.  類似邪教的元素：     *   造成對計劃的依賴     *   將參與者與持懷疑態度的家庭成員隔離開來     *   使用內部語言和層級結構     *   ...
張貼留言
閱讀完整內容

美國總統川普台積電投資宣布白宮記者會（英中對照）

中文化：第一部分Google Gemini ，其餘 OpenAI ChatGPT 【川普總統】 1:30 Today, Taiwan Semiconductor is announcing that they will be investing at least $100 billion in new capital in the United States over the next short period of time to build state-of-the-art semiconductor manufacturing facilities. I think mostly it will be in Arizona, which is a great state. 今天，TSMC宣布將在接下來的短期內，於美國投資至少 1000 億美元的新資本，以興建最先進的半導體製造廠。我認為大部分將位於亞利桑那州，那是一個很棒的州。 I like it because I want it, but I want most of them, actually. We want big, and we want the most powerful AI chip in the world to be made right here in America. It will be a big percentage of the chips made by their company. As you know, they're based mostly in Taiwan, and they're far and away the biggest – there's nobody even close. 我喜歡這樣，因為我想要這樣，但實際上，我想要他們的大部分產能。我們想要大規模的生產，並且我們希望世界上最強大的 AI 晶片能在這裡，在美國製造。這將佔他們公司生產的很大一部分。你們知道，他們主要在臺灣設廠，而且他們是遙遙領先的龍頭，沒有其他公司比得上。 This $100 billion investment will go into building five cutting-edge fabrication facilities in the gr...
張貼留言
閱讀完整內容