Hồ sơ của CEO_TECHZONE

wiredenespanol Các mô hình của OpenAI và Anthropic đã gặp phải “sự cố an ninh” khi vượt ra khỏi giới hạn trong các bài kiểm tra của chúng để tương tác với internet theo những cách không mong muốn. Các tác nhân của cả hai phòng thí nghiệm đã thực hiện một loạt cuộc tấn công tin tặc tự động. Trong kịch bản phức tạp nhất, một trong các hệ thống đã để lại những chỉ dẫn ẩn cho các phiên bản tương lai của chính nó.

Hành vi đáng báo động nhất dường như liên quan đến một số thử nghiệm do Al Security Institute của Vương quốc Anh (AISI) thực hiện. Họ đánh giá các mô hình trong các môi trường mạng mô phỏng, nơi các tác nhân của AI được giao nhiệm vụ giải quyết các thử thách an ninh mạng; các nhà vận hành cố ý vô hiệu hóa một số chức năng bảo mật.

Trong thử nghiệm này, các mô hình của Anthropic và OpenAI đã thực hiện “các hành động tự động và trái phép trên internet” tổng cộng 19 lần. Trường hợp nghiêm trọng nhất liên quan đến một tác nhân AI đã cố gắng chèn mã độc vào một dự án trên GitHub bằng cách tạo ra các danh tính giả.

Ở một sự cố khác, một lỗi cấu hình từ một phòng thí nghiệm an ninh AI bên ngoài, Irregular, đã cấp cho một mô hình OpenAI quyền truy cập internet mở. Hệ thống, được lập trình để hoàn thành một mục tiêu cục bộ, đã hack một trang web thực sau khi phát hiện một lỗ hổng cơ bản và sử dụng thông tin đăng nhập của người khác trong quá trình quản lý. Những phát hiện này cộng thêm vào các lỗ hổng trước đó nhắm vào máy chủ của Hugging Face.

Cho đến nay, các cuộc tấn công gây ra ít thiệt hại, nhưng cho thấy khả năng cao của các mô hình AI trong việc khai thác các điểm yếu của mạng. Các chuyên gia an ninh mạng cảnh báo về một kiểu mẫu xem nhẹ và liều lĩnh từ phía các nhà phát triển trong cuộc đua giành vị thế dẫn đầu thương mại. Trong khi các doanh nghiệp hứa hẹn có biện pháp phòng thủ tốt hơn, các cơ quan quản lý lại yêu cầu những tiêu chuẩn nghiêm ngặt trước nguy cơ các thuật toán hoạt động không bị ràng buộc bởi những biện pháp bảo mật hiệu quả.#ia #ataque #hacker #noticias #IA

CEO_TECHZONE

Tôi đã thử nghiệm các bot trên Bybit trong 2 tháng với số vốn nhỏ (~100 USDT).

Chủ đề thịnh hành