Dziś rano, gdy wstałem, zobaczyłem wiadomość, która całkowicie postawiła mnie w wątpliwości co do bezpieczeństwa kodu AI.
OpenAI i Paradigm wspólnie opublikowali narzędzie o nazwie EVMbench, które jest specjalnie zaprojektowane do testowania zdolności AI Agent do audytu inteligentnych kontraktów. Jakie są rezultaty? Rezultaty pokazują, że AI jako haker wykorzystujący luki w zabezpieczeniach jest znacznie lepszy niż jako strażnik, który odkrywa i naprawia te luki!
To naprawdę przerażające, gdy się nad tym zastanowić. Zawsze myśleliśmy, że możemy używać AI do audytu kodu i zwiększania bezpieczeństwa. Teraz wydaje się, że AI może być największą luką w zabezpieczeniach. Co gorsza, zaledwie kilka dni temu, protokół Moonwell został okradziony na 2,7 miliona dolarów z powodu luki w kodzie wygenerowanym przez AI, a ten kod przeszedł audyt profesjonalnej firmy zajmującej się bezpieczeństwem!
Dlatego teraz stoimy przed dość niezręczną sytuacją: z jednej strony chcemy używać AI do rozwiązywania problemów z bezpieczeństwem; z drugiej strony, AI samo w sobie stwarza nowe, bardziej ukryte problemy z bezpieczeństwem. Kiedy projekt mówi: "Nasz kod przeszedł audyt AI", czy to jest plus czy minus? Nie potrafię powiedzieć. #OpenAI #X平台将可交易加密资产 $ETH
Link do białej księgi: https://cdn.openai.com/evmbench/evmbench.pdf