Agen AI akan segera mengelola uang sungguhan. Keputusan medis sungguhan. Dampak hukum sungguhan.
Dan bagian yang paling menakutkan bukan bahwa mereka akan membuat kesalahan. Tapi bahwa ketika mereka melakukannya, tidak ada yang akan bisa menjelaskan apa yang terjadi.
Pikirkan akuntabilitas manusia. Seorang dokter membuat keputusan yang salah, ada berkas, ada catatan, ada rangkaian keputusan yang bisa ditelusuri. Seorang trader menghancurkan posisi, ada log, ada timestamp, ada jejak kertas. Kami membangun seluruh sistem berdasarkan gagasan bahwa Keputusan yang berdampak harus bisa diaudit setelah kejadian.
Agen AI tidak punya itu secara default. Anda hanya mendapatkan keluaran. Mungkin ada skor kepercayaan. Model mana yang dijalankan, pada data apa, dengan parameter apa—semuanya tersimpan di server yang aksesnya sama sekali tidak Anda miliki. Anda tidak mengaudit apa pun. Anda hanya membaca vonis.
Ini bagian yang membuat saya berhenti ketika membaca pendekatan OpenGradient. Setiap eksekusi model menghasilkan catatan di blockchain. Bukan file log yang dikendalikan seseorang. Ini benar-benar catatan yang dapat diverifikasi tentang apa yang dijalankan. Anda tidak perlu bertanya pada perusahaan apakah model yang tepat yang digunakan—Anda bisa memeriksanya.
Itulah perbedaan antara akuntabilitas yang bergantung pada kejujuran seseorang dan akuntabilitas yang dibangun langsung ke dalam sistem.
Tegangan yang tidak bisa saya selesaikan: kebanyakan orang tidak mengaudit, bahkan ketika mereka bisa. Bertahun-tahun data di-chain di kripto, dan rata-rata pengguna tidak pernah melihatnya sekali pun. Jadi apakah eksekusi AI yang dapat diverifikasi benar-benar mengubah perilaku? Atau hanya berpengaruh saat sesuatu berjalan bencana?
Kegagalan besar pertama dari agen AI pada skala besar akan datang. Apakah infrastruktur untuk menjelaskannya sudah ada sebelum itu terjadi atau setelahnya?
@OpenGradient $OPG #OPG
$HEI $SYN
#GoldHoldsDecline
Dan bagian yang paling menakutkan bukan bahwa mereka akan membuat kesalahan. Tapi bahwa ketika mereka melakukannya, tidak ada yang akan bisa menjelaskan apa yang terjadi.
Pikirkan akuntabilitas manusia. Seorang dokter membuat keputusan yang salah, ada berkas, ada catatan, ada rangkaian keputusan yang bisa ditelusuri. Seorang trader menghancurkan posisi, ada log, ada timestamp, ada jejak kertas. Kami membangun seluruh sistem berdasarkan gagasan bahwa Keputusan yang berdampak harus bisa diaudit setelah kejadian.
Agen AI tidak punya itu secara default. Anda hanya mendapatkan keluaran. Mungkin ada skor kepercayaan. Model mana yang dijalankan, pada data apa, dengan parameter apa—semuanya tersimpan di server yang aksesnya sama sekali tidak Anda miliki. Anda tidak mengaudit apa pun. Anda hanya membaca vonis.
Ini bagian yang membuat saya berhenti ketika membaca pendekatan OpenGradient. Setiap eksekusi model menghasilkan catatan di blockchain. Bukan file log yang dikendalikan seseorang. Ini benar-benar catatan yang dapat diverifikasi tentang apa yang dijalankan. Anda tidak perlu bertanya pada perusahaan apakah model yang tepat yang digunakan—Anda bisa memeriksanya.
Itulah perbedaan antara akuntabilitas yang bergantung pada kejujuran seseorang dan akuntabilitas yang dibangun langsung ke dalam sistem.
Tegangan yang tidak bisa saya selesaikan: kebanyakan orang tidak mengaudit, bahkan ketika mereka bisa. Bertahun-tahun data di-chain di kripto, dan rata-rata pengguna tidak pernah melihatnya sekali pun. Jadi apakah eksekusi AI yang dapat diverifikasi benar-benar mengubah perilaku? Atau hanya berpengaruh saat sesuatu berjalan bencana?
Kegagalan besar pertama dari agen AI pada skala besar akan datang. Apakah infrastruktur untuk menjelaskannya sudah ada sebelum itu terjadi atau setelahnya?
@OpenGradient $OPG #OPG
$HEI $SYN
#GoldHoldsDecline