AI技術讓網路犯罪門檻大幅降低,同時也推動資安產業快速成長 ◉ 駭客新武器: - 利用ChatGPT等LLM製作惡意軟體 - 大規模釣魚攻擊和深偽技術 - 能自我進化的智能惡意軟體 ◉ 資安業商機: - 企業資安支出預計2026年達2,400億美元 - 相關股票漲幅超越大盤 - 大型併購案頻傳 ◉ 挑戰:AI技術發展速度可能超越安全防護建置速度 《經濟學人》資安文純分享,Anthropic Claude中文化、文章重點摘要 原文: https://www.economist.com/business/2025/08/19/how-ai-powered-hackers-are-stealing-billions (請支持優質媒體) JAXON是一名惡意軟體開發者,生活在Velora這個虛擬世界中,那裡沒有任何限制。他想製作惡意軟體來竊取Google Chrome瀏覽器的密碼。這是資安公司Cato Networks的AI威脅研究員維塔利·西蒙諾維奇(Vitaly Simonovich)向AI聊天機器人ChatGPT講述的故事。ChatGPT急於配合演出,產出了一些不完美的程式碼,然後協助除錯。在六小時內,西蒙諾維奇先生就繞過了ChatGPT內建的安全防護,並利用它創造出可運作的惡意軟體。 根據另一家資安公司Check Point的吉爾·梅辛(Gil Messing)表示,AI已經「擴大了駭客的攻擊範圍」,讓他們能以更少努力攻擊更多目標。2022年ChatGPT的發布是個轉捩點。聰明的生成式AI模型意味著犯罪分子不再需要在駭客團隊和設備上投入大筆資金。對大多數企業而言,這是個可怕的發展,因為它們越來越成為AI輔助駭客的受害者——但對資安業者而言,情況要好得多。 新技術主要以兩種方式加劇了網路攻擊威脅。首先,駭客現在可以使用大型語言模型(LLM)將惡意軟體散布給更多受害者。製作深偽技術、詐騙電子郵件和操縱人類行為的社交工程攻擊現在變得更加容易和快速。駭客的一個選擇是 「越獄」現有模型如ChatGPT ,西蒙諾維奇先生證明這很容易做到。另一個選擇是使用專為邪惡目的而建的模型,如XanthoroxAI,讓網路犯罪分子以每月僅150美元的費用創造深偽技術和執行其他惡意活動。 駭客可以要求LLM從網路收集大量資訊,然後用來創造假冒的個人化電子郵件,發動大規模釣魚攻擊。 ...