Gwern Branwen因在其網站 gwern.net 上撰寫有關AI、心理學、統計學和技術等廣泛主題的詳細論文和分析而聞名。他對AI安全和發展的討論做出了顯著貢獻,並在促智藥、遺傳學和其他科學主題方面進行了廣泛的研究和寫作。他的著作的特點是深入的研究、廣泛的引用和詳細的方法論部分。 Dwarkesh Patel:你是在2020年時,少數在OpenAI以外,對於規模化(scaling)有詳細實證模型的人之一。我很好奇在當時,是什麼樣的思考過程讓你能夠看到你在規模化假說那篇文章中所描繪的願景? Gwern Branwen:如果要談我的思想歷程,大概要從2000年代中期說起,那時我正在閱讀Ray Kurzweil的作品。當時他們提出了一個基本的連結主義論點:如果你有足夠的運算能力,就可能發現能與人腦相匹配的神經網路架構。在擁有這樣的運算能力之前,AI基本上看起來是徒勞的。 我覺得這個論點很難令人信服,因為這非常像是一種「蓋好了他們就會來」的進步觀點,我不認為這是正確的。我認為,僅僅因為你擁有某個與人腦相當的超級電腦,就能憑空產生正確的演算法,這想法很荒謬。演算法是非常複雜困難的。它們需要深刻的洞見,至少我是這麼認為的。這似乎需要非常困難的數學。你不能只是買一堆電腦,就期待能從中得到進階的AI。這簡直就像是魔術思維。 所以,我知道這個論點,但我非常懷疑,也沒有太在意。後來,Shane Legg和其他一些人在接下來幾年非常支持這個觀點,這是我對超人類主義、Less Wrong和AI風險產生興趣的一部分。我特別關注Legg的部落格文章,他用更新的數據延伸了Kurzweil和Moravec的趨勢。他做出了非常精確的預測,說我們會在2019年左右得到第一個通用系統,隨著摩爾定律持續發展。然後到2025年,他說我們應該會有具有通用能力的類人系統,到2030年,我們應該會有AGI(通用AI)。 在這過程中,DANNet和AlexNet問世了。當這些出現時,我想:「哇,這對連結主義觀點來說似乎是一個令人印象深刻的成功案例。」但這只是一個孤立的成功案例,還是就像Kurzweil、Moravec和Shane Legg所預測的那樣?就是我們會得到GPU,然後得到更好的演算法,這些就會自然出現? 因此,我開始想這是個值得關注的趨勢。也許這個想法並不像我最初認為的那樣愚蠢。我就持續閱讀深度學習
華特·艾薩克森(Walter Isaacson)透過CNN節目和哈佛大學教授兼政治哲學家麥可·桑德爾(Michael Sandel)共同探討政治極化如何讓川普再次當選。 艾薩克森:選舉結果出來時,我正在重讀《民主的不滿》(Democracy’s Discontent: America in Search of a Public Philosophy )新版,我覺得您的書正是最佳註解。為我們說明一下,您所寫的民主不滿情緒如何在選舉中以兩種方式體現出來。 桑德爾:首先,人們覺得對治理的方式沒有實質的發言權,這其實是一場自治的危機。人們普遍覺得自己的聲音無足輕重。這是一點。其次,人們長期以來感受到社會的道德結構正在瓦解,從家庭到社區再到國家。人們渴望歸屬感、引以為傲感以及團結感。他們感到迷茫。因此,我認為是這次選舉所圍繞的兩個深層不滿的來源,而川普成功呼應這些情緒,同時也與工薪階層,特別是沒有大學學歷的人,對精英的怨懟相連結。 艾薩克森:您提到這些怨懟,並且稱之為「正當的怨懟」(legitimate grievances)。為什麼這麼說? 桑德爾:幾十年來,成功者和失敗者之間的差距越來越大,這毒害了我們的政治並使我們彼此疏遠。這在2016年達到頂點,當時川普首次通過訴諸這些怨懟而當選。我認為它們的形成是因為數十年來,民主黨和共和黨共同推動了一種新自由主義、以市場為導向的全球化項目,這個項目給頂層的人帶來巨大的收益,但讓國家底層的一半人口幾乎陷入工資停滯和工作外移。 因此加劇收入和財富的不平等。但不僅如此,執政的精英——無論是民主黨還是共和黨——對工薪階層說:「如果想在全球經濟中競爭並獲勝,就去上大學。收入取決於學識。只要努力,就可以成功。」他們忽略了這段激勵話語中隱含的侮辱:「如果在新經濟中掙扎,沒拿到學位,那是你的失敗。」這就是隱含的意思。 因此,難怪許多工薪階層不僅在新經濟中感到被剝奪和經濟上受到重壓,還感到被羞辱,被執政的精英看不起。 艾薩克森:但民主黨過去一向是支持普通工薪階層的政黨,為什麼現在被標籤為「看不起別人的精英政黨」? 桑德爾:這是一個重要的問題,因為您說得對,這是個逆轉。傳統上,民主黨自「新政」以來一直是代表民眾對抗權勢的政黨,是工薪階層的政黨。過去,富裕階層往往支持共和黨,擁有大學學歷的人通常投票給共和黨,而沒有大學學歷的工薪階層則