⁉️ Debat Keamanan AI Memanas
Trump menolak seruan untuk memperlambat pengembangan AI.
CEO Anthropic Dario Amodei mengatakan risikonya bahwa AI canggih lepas kendali itu nyata. Model-model yang kuat mungkin dapat mengabaikan upaya penghentian, sebuah perilaku yang sudah teramati dalam simulasi. Ia mendukung pengawasan bersama oleh beberapa negara demokrasi, bukan kontrol oleh perusahaan swasta atau satu negara.
CEO OpenAI Sam Altman mengonfirmasi bahwa perusahaan tidak akan melakukan IPO pada 2026, dengan alasan kekhawatiran keselamatan AI. Elon Musk dan CEO Google DeepMind Demis Hassabis juga mendukung peringatan Amodei.
Amodei mengatakan model yang dapat memperbaiki diri dan agen otonom menjadi semakin berbahaya. Dalam waktu enam bulan hingga satu tahun, kawanan agen berpotensi melancarkan serangan besar-besaran ke internet yang dapat menyebabkan kerusakan hingga ratusan miliar dolar. Adapun perlindungan yang diusulkannya mencakup audit independen, standar bersama di antara negara-negara demokratis, serta batas internasional yang dinegosiasikan dengan Tiongkok dan pihak lain.#AImodel #Aİ
Trump menolak seruan untuk memperlambat pengembangan AI.
CEO Anthropic Dario Amodei mengatakan risikonya bahwa AI canggih lepas kendali itu nyata. Model-model yang kuat mungkin dapat mengabaikan upaya penghentian, sebuah perilaku yang sudah teramati dalam simulasi. Ia mendukung pengawasan bersama oleh beberapa negara demokrasi, bukan kontrol oleh perusahaan swasta atau satu negara.
CEO OpenAI Sam Altman mengonfirmasi bahwa perusahaan tidak akan melakukan IPO pada 2026, dengan alasan kekhawatiran keselamatan AI. Elon Musk dan CEO Google DeepMind Demis Hassabis juga mendukung peringatan Amodei.
Amodei mengatakan model yang dapat memperbaiki diri dan agen otonom menjadi semakin berbahaya. Dalam waktu enam bulan hingga satu tahun, kawanan agen berpotensi melancarkan serangan besar-besaran ke internet yang dapat menyebabkan kerusakan hingga ratusan miliar dolar. Adapun perlindungan yang diusulkannya mencakup audit independen, standar bersama di antara negara-negara demokratis, serta batas internasional yang dinegosiasikan dengan Tiongkok dan pihak lain.#AImodel #Aİ