儘管設有“複雜”保護措施，AI基礎設施公司Anthropic稱其聊天機器人Claude仍被犯罪分子用於大規模網絡攻擊。
在週三發佈的“威脅情報”報告中，Anthropic威脅情報團隊成員Alex Moix、Ken Lebedev和Jacob Klein披露，犯罪分子通過Claude進行的攻擊中，部分要求的贖金超過50萬美元。
犯罪分子不僅利用Claude獲取技術建議，更通過“共鳴黑客”直接執行攻擊，使其僅需基礎編碼和加密知識即可成功實施攻擊。
2月，區塊鏈安全公司Chainalysis預測，由於生成AI的廣泛應用，加密騙局在2025年可能達到歷史新高。
Anthropic發現一名黑客利用Claude從至少17個組織竊取敏感數據，這些組織包括醫療、緊急服務、政府和宗教機構，其贖金要求在7.5萬至50萬美元的比特幣之間。
該黑客訓練Claude評估竊取的財務信息，計算適當的贖金，並編寫定製的贖金通知以增強心理壓力。
雖然此攻擊者最終被Anthropic禁止，但此事件顯示AI如何使低級程序員執行前所未有的網絡犯罪。
“缺乏加密或syscall機制的獨立實現能力的作案者，現可成功創造帶有規避能力的勒索軟件。”
朝鮮IT工作者也在使用Anthropic的Claude
Anthropic還發現，朝鮮的IT工作人員使用Claude僞造身份，通過技術編碼測試，併成功獲得美國財富500強科技公司的遠程職位。他們還利用Claude爲這些職位準備面試回答。
此外，Claude也被用於執行技術工作。Anthropic表示，這些就業騙局旨在將利潤轉移給朝鮮政權，儘管國際制裁阻止。
本月早些時候，一名朝鮮IT工作者被反向黑客攻擊，發現有六人共用至少31個虛假身份，獲取從政府ID到LinkedIn和UpWork賬號，以掩蓋真實身份並從事加密貨幣工作。
Anthropic稱，報告旨在公開討論濫用事件，以幫助更廣泛的AI安全和保安界，加強對抗濫用AI者的行業防禦。