구글 위협 인텔리전스 그룹은 AI로 제작된 제로데이 익스플로잇을 범죄 해킹 조직이 실제 공격에 사용하는 장면을 처음으로 현장에서 포착하고, 대규모 공격이 시행되기 전에 이를 무력화하였습니다.

이 발견은 공격자들이 이제 침입의 모든 단계에 대형 언어 모델을 적용하고 있다는 더 큰 보고서 안에 포함되어 있습니다. 방어자들 역시 같은 전장에서 자체 AI 헌터를 투입하기 위해 경쟁하고 있습니다.

AI 제로데이 익스플로잇의 동작 방식

파이썬으로 작성된 이 악성 코드는 인기 있는 오픈소스 시스템 관리 도구에서 이중 인증(2FA)을 우회하였습니다. 구글은 영향을 받은 공급업체의 이름을 공개하지 않았습니다.

X에서 실시간으로 최신 소식을 받아보십시오

여러 신호가 대형 언어 모델을 사용했다는 정황을 보였습니다. 이 스크립트에는 튜토리얼 형식의 독스트링과 조작된 공통 취약점 점수 시스템(CVSS) 점수가 포함되어 있었습니다. 이 점수는 인간 연구자가 직접 만들지 않는 항목입니다.

구글은 자사의 제미니 모델이 사용되지 않았다고 밝혔습니다. GTIG 수석 애널리스트 존 헐트퀴스트는 미세한 AI 지원 침입 행위가 이미 탐지되지 않은 채 진행되고 있을 수 있다고 경고하였습니다.

“모델의 새로운 세대가 등장할 때마다 전문가가 개발한 하네스에 대한 필요성이 줄어들 것입니다. 그러나 이들은 거의 확실히 이미 존재합니다. 우리는 첩보원과 범죄자들의 백엔드에 대한 가시성의 한계를 인식해야 합니다. 신호는 명백하지 않을 수 있습니다. 경쟁은 이미 시작되었습니다.” – 존 헐트퀴스트, GTIG 수석 애널리스트

방어자들의 반격

같은 보고서에서는 러시아와 연계된 악성코드 계열 PROMPTFLUX와 PROMPTSPY, 그리고 제미니와 실시간으로 소통하면서 다음 행동을 계획하는 안드로이드 백도어도 지목하였습니다.

국가와 연계된 중국 및 북한 작전팀은 8만5천 개의 취약점 데이터셋으로 자체 모델을 훈련시키고 있습니다.

구글은 빅 슬립(Big Sleep)이라는 제로데이 사냥 AI 에이전트와 자동 패치 시스템 코드멘더(CodeMender)로 맞불을 놓았습니다. 빅 슬립은 이미 해커들이 무기화하려던 취약점을 차단하였습니다.

암호화폐 업계가 주목해야 하는 이유

공격과 방어의 격차가 점점 더 가까워지고 있습니다. 바이낸스 리서치는 AI 에이전트가 스마트 컨트랙트를 악용하는 능력이 위협을 탐지하는 것보다 두 배 뛰어나다고 밝혔습니다.

이전에 발표된 보고서에서는 구글 AI 도구가 사기범들이 지갑을 털 수 있도록 돕는 사례가 있었으며, 최근에는 크롬의 결함이 개인 키를 노출시켰습니다.

이러한 상황에서 거래소들은 AI 기반 방어 체계를 도입하고 있지만, 그 기준은 계속 높아지고 있습니다.

양측 모두 자율형 에이전트를 활용함에 따라, 다음 제로데이 취약점은 어느 쪽 기계에서든 등장할 수 있습니다.