Kebanyakan orang menganggap agen AI akan aman karena mereka diprogram.
Pemrograman dan otorisasi itu bukan hal yang sama.
Sebuah agen AI bisa diprogram dengan sempurna untuk menjalankan sebuah strategi dan tetap mengambil tindakan yang tidak pernah dimaksudkan. Ia akan mengikuti instruksinya dengan tepat. Masalahnya adalah instruksi tidak bisa mengantisipasi setiap kondisi yang akan diciptakan oleh pasar yang benar-benar hidup.
Karena itulah saya terus memikirkan apa yang sedang dibangun oleh @NewtonProtocol .
Alih-alih mengasumsikan agen AI akan berperilaku benar karena mereka dibangun dengan benar, Newton menambahkan lapisan kebijakan yang mengevaluasi kondisi sebelum transaksi agen diizinkan untuk dieksekusi. Batas pengeluaran, ambang risiko, aturan yurisdiksi—semua itu bisa didefinisikan terlebih dahulu dan diberlakukan secara otomatis, tanpa perlu campur tangan manusia pada saat eksekusi.
Itu mengubah sesuatu yang penting. Ini memindahkan keamanan dari agen itu sendiri ke infrastruktur tempat agen tersebut beroperasi.
Saya telah menyaksikan sistem otomatis di kripto berfungsi persis seperti yang dirancang dan tetap menyebabkan kerugian yang signifikan karena rancangan tersebut tidak memperhitungkan kondisi yang tampak tidak mungkin sampai kondisi itu menjadi kenyataan.
Hal yang masih belum saya ketahui adalah seberapa cepat pengembang agen AI akan mengadopsi infrastruktur otorisasi dibandingkan membangun pagar pengaman mereka sendiri dari nol.
Agen yang diprogram dengan baik dan beroperasi di dalam lapisan kebijakan yang terdefinisi dengan jelas adalah sistem yang benar-benar berbeda daripada sistem yang hanya mengandalkan penilaiannya sendiri.
@NewtonProtocol #Newt $NEWT
$DYDX
$XNY
"Apakah agen AI sebaiknya memiliki batas pengeluaran yang diberlakukan oleh smart contract?"