跳到主要內容

發表文章

目前顯示的是有「Nvidia」標籤的文章

黃仁勳談:AI家教、量子運算和AI耗電

✪ Jensen常用的AI chatbots: ChatGPT 、 Perplexity 和 Gemini ✪ 量子運算的發展推遲大約20到30年,不過輝達與幾乎所有的量子電腦公司都有合作,量子技術可望儘速實現。 ✪ 目前 AI 使用全球總能源的4%,Jensen希望 AI 的比例穩定提高到10~15%,因為 AI 消耗的電力會在所有產業帶來高效率,進而降低所有產業的能耗。 好奇為什麼「黃仁勳一句『等30年』,量子概念股一夕全崩!」找到黃董在WWT的座談 , World Wide Technology, Inc.(WWT,全球科技)是美國第 19 大私人企業和最大的非裔美人創辦的企業,總部位於密蘇里州聖路易斯,業務包括雲端運算、電腦安全、資料中心、數據分析和AI、電腦網路、應用軟體開發、手機運營商網路和諮詢服務。 創辦人:David Steward(1951年生,非裔美人)和 Jim Kavanaugh(1963年生) WWT座談主持人是Kavanaugh,會後Q&A,員工代表還當面謝謝黃仁勳,因為輝達股價高,讓他們的401(k)退休投資帳戶安穩收益。 以下為座談 會後Q&A 摘錄: ▍面對 AI 狂潮,給將來的職場人才、現在的在學學生什麼建議?分享 AI 在未來如何幫助孩子的願景。 (36:55、54:20) Jensen : 首先,我會鼓勵他們在學校各方面的課業都要學好。我們在學校學的所有知識仍是好的;但我們學到的並不全都是正確的。比方歷史教科書有很多版本,手上拿的是第27版,那麼之前 26 版發生了什麼事?不過這些都不是問題,重點在學習的過程。 我要強調的是,每個人都該有 AI 家教。我自己就有三個——我常用 ChatGPT、Perplexity 和 Gemini。我幾乎每天都用這三個 AI 家教。如果我有疑問,腦中有某個想法,或想要探索新的領域並學習新知識,第一件事就是去找其中一個 AI 並詢問一系列關於我要學習的主題的問題。 我會先問,「把數位生物學和電腦輔助藥物開發解釋給小學生聽。」作為起點,然後我問,「好,解釋給大學生聽。」然後,我學了幾次,接下來我問 AI 家教的是,「我該問什麼問題?給我一個如何學習這個領域的框架。」所以,我問了很多該如何學習的問題,這整個過程下來,我就能真正學會新知識。 每個學生都該有 AI 家教。AI 家教會教...

《NVIDIA Way輝達之道》作者訪談簡介

《輝達之道》:黃仁勳打造晶片帝國,引領AI 浪潮的祕密(The NVIDIA Way: Jensen Huang and the Making of a Tech Giant)【商業周刊】出版, 出版日期:2025/01/03 譯者: 洪世民, 鍾玉玨 以下是作者金泰(Tae Kim) 訪談簡介: ✪ NVIDIA今天的巨大成功,很大程度得歸功於:Jensen是稀有的技術天才和商業天才的完美結合。 ✪ NVIDIA是美國史上表現最好的股票公司之一,以20年的回報率計算,假設在1999年IPO時投資1萬美元,今天值4,000萬美元。 ▱▱▱▱▰▱▱▱▱ 作者亞裔美人Tae Kim買NVIDIA顯卡已有30年,曾在投行投資過NVIDIA,任科技記者10年,技術、金融和商業面都有專業。寫書前作市調,發現市面上居然沒有一本NVIDIA專書,非常不可思議(其他科技大廠都有至少兩、三本專書)。此外,在準備資料時因為90年代網路資料並不完整,所以爬梳早期公司相關資料的難度極高。 作者自承在加密貨幣挖礦大爆發時期,在寫關於NVIDIA的報導時大多是負面的,或許Jensen會因此對他印象差。著手寫書時,前幾個月公司方的配合度並不高,後來訪問早期高階管理團隊,他們的回饋傳到公司,公司慢慢認同作者的執筆,進而允許他與所有高階管理團隊接洽,並得以採訪共同創辦人(6月,在Jensen加州理工學院畢業典禮演講後聊一個小時)。 本書涵蓋公司30年完整的商業史,從Jensen的經歷為起點講述他到美國並成長的故事。接著,介紹NVIDIA的成立及其進入顯示卡領域的過程。在推出首批產品時所面臨的掙扎、所犯的錯誤,以及為克服錯誤而做出的改變,都有詳細探討。特別的是,還讓讀者一窺NVIDIA的競爭對手如3DFX的思維(作者也有訪問敵營高管)。介紹首次創造「GPU」專有名詞的緣由,並深入探討CUDA如何成為今天幾乎無敵的護城河。還提到與學術界和科學家的合作,以及投資於此的戰略決策。 ▱▱▱▱▰▱▱▱▱ ♣ 早期失敗案例:NV30 當時僱用100名3DFX的工程師,整合失敗,NVIDIA團隊和3DFX 工程師之間的溝通出了大問題。此外,也沒和遊戲開發商密切交流,忽略真正關鍵的遊戲功能。微軟當時也沒提供 DirectX 9 技術規格,NVIDIA團隊於是盲目地設計出NV30吹葉機晶片,由於過熱等原因,有著...

輝達黃仁勳《WIRED》專訪

曾引進臺灣線上中文版的《WIRED》2024年5/6月號刊實體雜誌以享譽全球的美國女婿、臺灣囝仔輝達黃仁勳董座的「黃氏定律」(Huang's law,GPU的效能每兩年將增加一倍以上)為封面標題。在7月底的美國SIGGRAPH計算機圖形學2024年會上,黃董除了和Meta祖克柏對談備受關注外,《WIRED》資深撰述Lauren Goode也有專訪。 黃董和祖克柏對談最後提到:Meta的資料中心會進貨H100高達600,000組。 黃董接受《WIRED》專訪的中段提到:「本週,我們將向世界各地客戶發送Blackwell的工程樣品(engineering samples)。」 《WIRED》專訪要點: 黃董展示可使用自然語言處理(NLP)進行控制並產生逼真圖像的 3D 模型。強調生成式AI具改變各行業的潛力,包括機器人、自動駕駛汽車和客戶服務。也討論了產生AI的倫理,特別是在聊天機器人和數位人的背景下。他承認,人們會擔心聊天機器人被誤認為是真人,但他認為這不一定是壞事。他指出,類人代表(human-like representation)在許多應用中都是有益的,例如在醫療保健或教育領域。 輝達軟體策略是保持業界領先的關鍵,著重軟體開發,始終以軟體為公司核心。輝達的軟體生態系統圍繞著領域特定庫(DSL)構建,旨在加速特定應用程式。這些函式庫(例如用於深度學習的cuDNN 和用於資料處理的cuDF)使開發人員能夠利用加速運算的力量。透過建立這些函式庫,輝達能夠將加速運算推向新的市場和產業,從而推動創新和成長,並理解物理世界並與之互動。 ♾️耗能解方 生成式AI目前消耗全球約1%的能源,但目標是減少其他領域的能源消耗。重點正在從訓練轉向推理,可望優化各個行業並減少整體能源使用。黃董認為,應該從縱向角度看待生成式AI,並考慮其長期效益和生產力的提升。輝達新的Blackwell GPU能加速應用程序,同時保持恆定的能耗和成本。加速運算可以將資料處理、SQL 操作、科學模擬等任務的能耗降低20至50倍。黃董預測,未來的資料中心將建在能源過剩的區域,偏遠地區為佳。 媒體特別記下黃仁勳巧妙的譬喻:「去哪兒上學不是AI在乎的」(AI doesn't care where it goes to school),強調AI訓練地點的靈活性。 AI的下一波浪潮:1.企業AI:專注...