Agen AI Anda Membutuhkan Sistem Izin Sendiri 🤖
Memberikan perangkat lunak sebuah dompet menciptakan masalah yang jarang dialami manusia.
Manusia berpikir dua kali sebelum membelanjakan uang.
Perangkat lunak otonom dapat membuat ratusan keputusan sebelum siapa pun memeriksa apa yang terjadi.
$TAO sudah menunjukkan betapa dalamnya insentif yang terotomasi bisa menjadi ketika perangkat lunak terus-menerus mengevaluasi perangkat lunak lain.
Sekarang bayangkan para agen itu mengendalikan akun keuangan yang nyata.
Anda tidak hanya perlu tahu apa yang dilakukan agennya.
Anda perlu membuktikan bahwa agennya tetap berada dalam batasan yang Anda berikan tanpa harus mempublikasikan setiap tindakan, pihak lawan, dan strategi kepada semua orang.
Ini adalah salah satu penerapan yang lebih menarik dari model proof (pembuktian) yang dapat diprogram milik Midnight. Didukung oleh $NIGHT .
Seorang agen dapat membuktikan bahwa sebuah tindakan memenuhi aturannya sambil menyembunyikan masukan sensitif di balik keputusan itu.
Pemilik mendapatkan akuntabilitas tanpa secara otomatis menciptakan tayangan “main-per-main” publik dari strategi agennya.
Agen AI tidak hanya membutuhkan dompet. Mereka membutuhkan aturan yang bisa mereka buktikan telah mereka ikuti.
Ini adalah kategori infrastruktur yang jauh lebih besar daripada yang saat ini dihargai orang dalam narasi agen AI.
#AI #Agents
Memberikan perangkat lunak sebuah dompet menciptakan masalah yang jarang dialami manusia.
Manusia berpikir dua kali sebelum membelanjakan uang.
Perangkat lunak otonom dapat membuat ratusan keputusan sebelum siapa pun memeriksa apa yang terjadi.
$TAO sudah menunjukkan betapa dalamnya insentif yang terotomasi bisa menjadi ketika perangkat lunak terus-menerus mengevaluasi perangkat lunak lain.
Sekarang bayangkan para agen itu mengendalikan akun keuangan yang nyata.
Anda tidak hanya perlu tahu apa yang dilakukan agennya.
Anda perlu membuktikan bahwa agennya tetap berada dalam batasan yang Anda berikan tanpa harus mempublikasikan setiap tindakan, pihak lawan, dan strategi kepada semua orang.
Ini adalah salah satu penerapan yang lebih menarik dari model proof (pembuktian) yang dapat diprogram milik Midnight. Didukung oleh $NIGHT .
Seorang agen dapat membuktikan bahwa sebuah tindakan memenuhi aturannya sambil menyembunyikan masukan sensitif di balik keputusan itu.
Pemilik mendapatkan akuntabilitas tanpa secara otomatis menciptakan tayangan “main-per-main” publik dari strategi agennya.
Agen AI tidak hanya membutuhkan dompet. Mereka membutuhkan aturan yang bisa mereka buktikan telah mereka ikuti.
Ini adalah kategori infrastruktur yang jauh lebih besar daripada yang saat ini dihargai orang dalam narasi agen AI.
#AI #Agents
