跳到主要內容

輝達黃仁勳《WIRED》專訪

曾引進臺灣線上中文版的《WIRED》2024年5/6月號刊實體雜誌以享譽全球的美國女婿、臺灣囝仔輝達黃仁勳董座的「黃氏定律」(Huang's law,GPU的效能每兩年將增加一倍以上)為封面標題。在7月底的美國SIGGRAPH計算機圖形學2024年會上,黃董除了和Meta祖克柏對談備受關注外,《WIRED》資深撰述Lauren Goode也有專訪。

黃董和祖克柏對談最後提到:Meta的資料中心會進貨H100高達600,000組。

黃董接受《WIRED》專訪的中段提到:「本週,我們將向世界各地客戶發送Blackwell的工程樣品(engineering samples)。」


《WIRED》專訪要點:

黃董展示可使用自然語言處理(NLP)進行控制並產生逼真圖像的 3D 模型。強調生成式AI具改變各行業的潛力,包括機器人、自動駕駛汽車和客戶服務。也討論了產生AI的倫理,特別是在聊天機器人和數位人的背景下。他承認,人們會擔心聊天機器人被誤認為是真人,但他認為這不一定是壞事。他指出,類人代表(human-like representation)在許多應用中都是有益的,例如在醫療保健或教育領域。

輝達軟體策略是保持業界領先的關鍵,著重軟體開發,始終以軟體為公司核心。輝達的軟體生態系統圍繞著領域特定庫(DSL)構建,旨在加速特定應用程式。這些函式庫(例如用於深度學習的cuDNN 和用於資料處理的cuDF)使開發人員能夠利用加速運算的力量。透過建立這些函式庫,輝達能夠將加速運算推向新的市場和產業,從而推動創新和成長,並理解物理世界並與之互動。

♾️耗能解方

生成式AI目前消耗全球約1%的能源,但目標是減少其他領域的能源消耗。重點正在從訓練轉向推理,可望優化各個行業並減少整體能源使用。黃董認為,應該從縱向角度看待生成式AI,並考慮其長期效益和生產力的提升。輝達新的Blackwell GPU能加速應用程序,同時保持恆定的能耗和成本。加速運算可以將資料處理、SQL 操作、科學模擬等任務的能耗降低20至50倍。黃董預測,未來的資料中心將建在能源過剩的區域,偏遠地區為佳。

媒體特別記下黃仁勳巧妙的譬喻:「去哪兒上學不是AI在乎的」(AI doesn't care where it goes to school),強調AI訓練地點的靈活性。

AI的下一波浪潮:1.企業AI:專注於客戶服務等應用,並賦能組織創造自己的AI。2.實體AI:三種類型的電腦——用於創建AI,另一種用於模擬,第三種用於在實體機器人中運行AI。

♾️輝達的實體AI願景

輝達三種運算平台:NVIDIA AI、Omniverse 和Jetson-Thor運算平台。這些平台可簡化和加速高階機器人和人形機器人的開發人員工作流程。過程包括捕獲人類演示、生成合成數據以及部署前的廣泛測試。輝達致力於利用生成式AI和其他技術來創建更先進的機器人,這些機器人能夠理解物理世界並與之互動。這將涉及新硬體和軟體技術的開發,以及支援機器人技術發展的新商業模式的創建。黃董強調開源計畫對於跨產業實現AI民主化的重要性,強調通用場景描述(OpenUSD)是在虛擬世界中整合多模式內容的重要格式,並將OpenUSD與HTML進行比較,看其實現全球協作和內容保存的潛力。

整場主要是黃董展示輝達的火力,但美國記者尖銳也沒在客氣(相較於方念華的專訪,臺灣記者可謂溫柔敦厚),記者除了替黃董送給現場觀眾每人座位下一片GPU(當然是假消息)外,還問到地緣政治等敏感問題。記者問:「您對未來的規劃、創新取決於許多事情的順利進行。除了繼續挑戰晶片設計物理限制。競爭對手也緊追在後,而且公司得在地緣政治的穩定下才能持續成功,是什麼讓您徹夜難眠?」

黃董被問到敏感問題,馬上叉開話題,直說昨晚沒睡好,一早醒來頭痛,開玩笑抱怨她的提問提醒自己經營一家公司超級困難、好多問題待解決。

記者再酸說:「您已經順風順水很久了。您對事業將繼續順著您的意志發展有多樂觀?」

黃董回說事情從來沒有朝著我們的方向發展,必須用超強意志力將未來的願景變成現實。電晶體可以縮小,原子無法縮小,CPU架構走到盡頭,通用型架構已不再擅長所有工作。輝達創建加速運算架構來做深度學習、量子模擬,解決分子動力學、流體動力學和電腦圖形學的難題,這是一連串的技術障礙的突破,頂著逆風的付出。因為通用運算是實現目標的方法,業界已經做60年,輝達有何理由不繼續做呢?加速運算之所以成為可能,是因為能源變得更加稀缺、不能再僅靠CPU曲線達到非凡的加速。 Dennard縮放比例定律(Dennard scaling)不再適用。所以需要另一種方法,這就是輝達努力的方向。

畢竟從創業至今,黃董經歷多次大風大浪,台風仍穩若泰山。


留言

這個網誌中的熱門文章

OpenAI前員工X爆料&楊立昆臉書〈諷刺文〉

【OpenAI ex-employee & Yann LeCun's sarcasm】 🚀 📣 OpenAI前員工Jacob Hilton在X上的爆料全文 📣 🚀 一年多前,當我離開 OpenAI 時,我簽署了一份 「不貶低協議」(non-disparagement agreement) ,並且未披露協議本身,沒有其他原因,只是為了避免失去我的 「既得股權」(vested equity) 。  該協議明確表示,作為簽署的回報,我被允許保留我的既得股權,並且沒有提供任何其他東西。 我不明白為什麼有人會簽署它,如果他們認為這不會對他們的權益產生影響。 我以良好的條件離開了OpenAI,所以我認為幾乎所有離職員工都遵守了這份協議。 在簽署協議之前,我無意批評OpenAI,但對於放棄這樣做的權利感到失望。 昨天,OpenAI 聯繫我,要求我解除該協議,隨後KelseyTuoc在Vox上刊登調查報告: 由於 AI 的變革潛力,開發先進 AI 的主要實驗室必須為那些希望為公共利益發聲的人提供保護。 其中首先是對不報復的具有約束力的承諾。 即使是現在,OpenAI仍可 阻止員工出售其股權,使其在未知的時間內變得毫無價值。 OpenAI 在一份聲明中表示,「從歷史上看,前員工無論在哪裡工作,都有資格以相同的價格出售;我們預計這一點不會改變。」 我相信OpenAI的這項聲明是出於誠實的意圖。 但考量到 OpenAI先前曾拿能否取得 (既得股權變現) 流動性作為一種恐嚇策略,許多前員工仍不敢發聲。 我邀請OpenAI直接與前員工聯繫,以澄清他們將始終以合法可執行的方式獲得平等的流動性的機會。 在他們這樣做之前,大眾不應指望前僱員會坦誠相待。 本人致OpenAI 的許多善良和才華橫溢的前同事們:我希望您們能夠理解為什麼我覺得有必要公開談論這個議題。 該合約與我們對安全和有益的AI的共同承諾不一致,您值得更好的工作合約條件。 原文連結: https://twitter.com/JacobHHilton/status/1794090550863200728 😏 楊立昆在臉書上的〈諷刺文〉 😏 來ClosedAI工作吧!隨著 AGI 即將到來,您 將擁有 目前 估 值 42 X 百萬的6次方美元(sextillionnollars) 公司 的 股票 。 如果您辭退,...

京晨科技 NUUO

2015年01月30日 京晨科公告營運長異動 :營運長施錦昌退休 鼎新電腦 官網資料:特助施錦昌提到:「以前未使用ERP系統時,需不斷手動調整資訊,不但人工成本高,錯誤率也高,讓人很難信任報表資料。所以之前在進行一些重大決策時,常常會有擔憂決策錯誤的壓力。但自導入ERP再加EasyFlow之後,此類問題改良許多。」 以下摘編自:《遠見雜誌》2013年2月號/臺大創聯會 (NTUEA)2013年12月25日臉書/《工商時報》2015年01月05日 【京晨科技NUUO Leaders】 董事長 楊文彬 :台大大氣系,高職念五年、大學念七年畢業,暱稱Killer(殺手) 總經理 黃建峯 (暱稱卡通)、研發副總 黃建山 (暱稱卡弟,意指卡通的弟弟),台大資工系友兄弟檔兩人求學時序:附中、台大、研究所。 曾創業失敗 念大三時,BBCall和黑金剛手機剛竄紅,楊文彬早上在大氣系打工當助理,閒暇時就跑去賣手機,很快就開通訊行,第一個月大賺40萬,短短半年開了五家店,人家喚他「少年楊董」,叱吒一時。但 成功來的太快 ,讓他 志得意滿,到處遊山玩水 ,直到警覺不對,財務已出現漏洞, 被倒帳幾百萬 。「我那時真的非常落魄,出現人生中第一根白髮,還得兼好幾份工、送報還債,但失敗經驗讓我學到 管理 及 財務 的重要,」楊文彬說。 安控門外漢 找到市場利基 2001年楊文彬拿出30萬與好朋友們創業,就是希望 用自己喜歡的方式 燃燒熱情 ,其間創立電腦設計、安控軟體、影像處理、遊戲、網通技術等五家公司。其中最成功的京晨科技 (NUUO Inc.),利用B2B行銷全球安全監控的高端市場。從創業的第一天起,京晨就非常務實。切入少有頂尖人才想做、卻又年年成長的監控安防產業,加上不閉門造車、積極聆聽市場聲音,這些都是成功的主要原因。     楊文彬是 業務 出身,創業時的第一個想法是要先從產業著手,只要找到對的產業,你才有在裡面的生存空間,就好比釣魚一樣,要釣到魚,前提是那個池塘裡,要有夠多的魚。等到決定市場了,接下來的問題,才是要推出什麼產品,用什麼方式、什麼技術,去做產品,甚至開拓市場。就在這個思考邏輯下,當時的三人小組,在密集開會後,得到一個結論,就是京晨科需要的是 高成長、高毛利 ,但不要太大的產業。要高毛利、高成長,是考量到當時的京...

楊立昆以自身經歷談H1-B

美大選期間在X上和馬斯克大唱反調後,Meta首席AI科學家楊立昆(Yann LeCun )氣得公告「我不再在X上寫貼文。只轉發其他平台的連結、留言朋友的推文」,所以他在自家公司平台上只對馬斯克在X上的截圖,留言區討論串就文明多了。 https://www.facebook.com/share/p/19Xy7kURLq/ 以下是楊立昆在臉書上的貼文和精選交流: 看到圍繞 H1-B 簽證議題的 MAGA 陣營陷入混亂很有趣。   在美國,持有 STEM 博士學位的人中,超過 50% 並非生於美國。   美國大學 STEM 領域的教授中,比例更高的大多數也並非生於美國。   在美國頂尖大學工程領域(包括電腦科學)的博士生中,絕大多數是非美國出生的學生。   美國科技公司中,大量的創辦人、CEO、高階管理層也並非生於美國。其中包括:   - Satya Nadella(微軟)  - Sergey Brin(Google)- Jensen Huang(輝達)   - Sundar Pichai(Alphabet)  - Elon Musk  - Hock Tan(博通)   - Vinod Khosla(Sun、Khosla Ventures)   許多人是以學生簽證來到美國,並且大多在某個階段持有過 H1-B 工作簽證。我最初是持 J-1 簽證來美國(原本沒打算待超過兩年),後來轉為 H1-B,拿到綠卡,最後成為美國公民。 ▷▷▷▷▷▷ Alyosha Efros:民主黨在這個議題上完全讓步給了共和黨,甚是可惜。他們只關注非法移民問題,結果疏遠了數百萬合法移民,這些人苦於應對荒謬的美國移民程序。   如果民主黨在這個問題上主導局勢,也許馬斯克和其他科技巨頭就不會把靈魂賣給川普了……   Yann LeCun:幾個原因導致矽谷一些有影響力的人物選擇站在 MAGA 一邊:   1. AI 和加密貨幣的監管障礙威脅   2. 「未實現收益稅」的恐慌   3. 對 H1-B 改革的冷淡支持...