Kebanyakan pembahasan tentang agen AI dalam kripto berfokus pada apa yang bisa mereka otomatisasi. Pertanyaan yang jauh lebih sedikit mendapat perhatian adalah apa yang terjadi ketika sebuah agen mencoba melakukan sesuatu yang sebenarnya tidak pernah dimaksudkan untuk dikerjakannya.
Pertanyaan itu menjadi jauh lebih serius ketika sebuah agen AI mengendalikan sebuah wallet. Jika model tersebut dikompromikan, dimanipulasi melalui prompt, atau sekadar menghasilkan keluaran yang tidak terduga, hasilnya bukan hanya kesalahan perangkat lunak. Itu bisa berubah menjadi transaksi blockchain yang tidak dapat dibatalkan.
Ini adalah salah satu area di mana Protokol Newton mengambil pendekatan yang berbeda. Alih-alih mengasumsikan keputusan agen secara otomatis harus dipercaya, protokol ini memeriksa setiap transaksi yang dihasilkan agen terhadap kebijakan yang telah ditetapkan sebelumnya sebelum transaksi diizinkan dieksekusi. Aturan-aturan tersebut ditulis dalam Rego, sehingga otorisasi menjadi sesuatu yang bisa diprogram, ditinjau, dan diperbarui—bukan sekadar bergantung pada kepercayaan.
Perbedaannya halus namun penting. AI menghasilkan suatu keputusan, sementara kebijakan memutuskan apakah keputusan itu diizinkan untuk menjadi aksi on-chain. Dengan memisahkan dua tanggung jawab ini, jumlah kepercayaan yang diberikan pada model itu sendiri berkurang. Sistem tidak lagi bergantung sepenuhnya pada agen untuk selalu membuat pilihan yang tepat.
Banyak model keamanan dompet mengandalkan allowlist tetap atau persetujuan manual. Model-model tersebut cocok untuk alur kerja yang sederhana, tetapi menjadi lebih sulit dikelola ketika agen otonom mengambil tanggung jawab yang lebih luas. Memperluas izin meningkatkan risiko, sementara kontrol yang terlalu membatasi dapat mengurangi kegunaan otomatisasi.
Lapisan kebijakan Newton berupaya menyeimbangkan kebutuhan yang saling bersaing tersebut. Alih-alih bertanya apakah agen AI ingin melakukan suatu tindakan, ia mengevaluasi apakah tindakan tersebut tetap berada dalam aturan yang telah ditetapkan. Sebuah kebijakan dapat menentukan kontrak mana yang boleh berinteraksi dengan agen, seberapa banyak nilai yang dapat dipindahkan, atau tindakan mana yang memerlukan persetujuan tambahan. Jika sebuah transaksi berada di luar batas itu, transaksi tersebut tidak pernah mencapai eksekusi.
Pemilahan itu juga meningkatkan akuntabilitas. Ketika seorang agen berperilaku tidak terduga, penyelidikan tidak lagi terbatas pada penalaran model. Menjadi mungkin untuk memverifikasi apakah transaksi itu sendiri mematuhi kebijakan otorisasi. Dalam praktiknya, hal ini menciptakan landasan yang lebih jelas untuk audit sistem otonom karena pengambilan keputusan dan izin dinilai secara independen.
Ini tidak menghilangkan setiap tantangan keamanan. Kebijakan tetap memerlukan perancangan yang matang dan pembaruan rutin. Aturan yang lemah dapat menyetujui transaksi yang seharusnya tidak boleh, sementara aturan yang terlalu membatasi dapat mengganggu aktivitas yang sah. Asumsi kepercayaan tidak lenyap—melainkan bergeser ke kualitas kebijakan otorisasi, tempat kebijakan tersebut lebih mudah ditinjau, diuji, dan disempurnakan.
Saat agen otonom mulai menangani perdagangan, manajemen treasury, dan operasi on-chain lainnya, memverifikasi apakah suatu transaksi harus terjadi bisa menjadi sama pentingnya dengan mengeksekusinya secara efisien.Otomatisasi menjadi lebih mudah dipercaya ketika kecerdasan dipasangkan dengan batas yang dapat diberlakukan, bukan dengan otoritas tanpa batas.
Jika agen AI menjadi bagian normal dari keuangan on-chain, apakah otorisasi yang dapat diprogram harus menjadi lapisan standar untuk setiap dompet otonom, atau industri akan mengadopsi cara lain untuk memisahkan keputusan AI dari otoritas transaksi?🤔
