AI 基礎設施公司 Anthropic 表示，儘管設制了多道「先進」的防護措施，網路犯罪分子卻仍持續找到方式濫用其聊天機器人 Claude 來發動大規模網攻。Anthropic 表示，發布這份報告的目的在於公開討論濫用事件，協助更廣泛的 AI 安全與防護社群，共同加強業界對 AI 濫用的防禦能力。
Claude 成「Vibe hacking」工具
Anthropic 威脅情報（Threat Intelligence）團隊在週三發布的一份報告中指出，成員 Alex Moix、Ken Lebedev 與 Jacob Klein 分享了數起犯罪分子濫用 Claude 的案例，其中部分攻擊的勒索金額超過 50 萬美元。
報告指出，Claude 不僅被用來提供技術諮詢，甚至直接透過所謂的「vibe hacking」，欺騙 AI 成為駭客執行入侵，讓僅具備基礎程式與加密知識的人也能發動攻擊。換句話說，vibe hacking 就像是 社交工程套用在 AI 上——駭客不是騙人，而是「騙 AI」，利用語言和氛圍把模型繞過限制，最終讓它幫忙完成網攻任務。
Anthropic 發現，一名駭客透過「vibe hacking」手法，利用 Claude 竊取至少 17 家組織的敏感數據，對象包括醫療、急救服務、政府及宗教機構，勒索金額從 7.5 萬到 50 萬美元不等（以比特幣支付）。
這名駭客甚至訓練 Claude 分析竊取的財務紀錄，計算適合的勒索金額，並撰寫客製化的勒索信，以最大化心理壓力。雖然 Anthropic 事後封禁了該駭客帳號，但事件凸顯 AI 正讓基礎技術能力有限的人也能以前所未有的程度發動網攻。報告指出：
「過去連基本加密或系統呼叫機制（syscall）都無法自行實作的人，如今卻能成功打造具規避能力的勒索軟體，甚至加上反分析技術。」
北韓 IT 工作者也用 Claude 鑄造假身分
Anthropic 還發現，北韓 IT 工作者利用 Claude 偽造可信的身分，通過技術測試，甚至成功拿下美國《財富》500 大科技公司的遠端工作。他們還利用 Claude 準備面試回答，進一步掩飾真實身分。Claude 甚至在他們受僱後繼續被用來完成技術工作。這些就業計劃被設計成替北韓政權輸送資金，儘管國際社會已對其實施制裁。
本月稍早，一名北韓 IT 工作者被「反駭入」，揭露他與其他五人共用至少 31 個假身分，從政府簽發的證件、電話號碼到購買的 LinkedIn 與 UpWork 帳號一應俱全，藉此隱藏身份並取得加密產業的工作。
其中一人甚至據稱曾面試 Polygon Labs 的全端工程師職位，其他證據則顯示，他們編排了面試回答，聲稱曾於 NFT 市場 OpenSea 以及區塊鏈預言機 Chainlink 任職。
