Aku mendapati diri memikirkan sebuah masalah yang tidak banyak mendapat perhatian ketika orang membahas AI dan blockchain.
Kebanyakan pembahasan berputar pada kapabilitas.
Bisakah AI menganalisis pasar lebih cepat daripada manusia?
Bisakah ia mengeksekusi perdagangan dengan lebih efisien?
Dapatkah ia mengoordinasikan alur kerja yang kompleks?
Itu pertanyaan-pertanyaan yang menarik, tetapi semuanya mengasumsikan hal yang sama: bahwa AI harus diizinkan untuk bertindak setelah memutuskan apa yang harus dilakukan.
Semakin lama aku memikirkannya, semakin terasa bahwa asumsi itu tidak lengkap.
Mungkin tantangan yang lebih sulit bukanlah membangun agen otonom.
Mungkin itu memutuskan, dalam lingkungan terdesentralisasi, kapan agen-agen tersebut tidak boleh diizinkan bertindak.
Kesadaran itu benar-benar mengubah cara saya mulai melihat protokol yang dirancang untuk otomatisasi berbasis AI.
Alih-alih bertanya bagaimana mereka membuat AI lebih pintar, saya mulai bertanya bagaimana mereka membuat keputusan otonom lebih aman.
Perubahan sudut pandang itu membawa saya pada pengamatan menarik.
Saat sistem AI semakin mampu, izin mungkin menjadi sumber daya yang lebih berharga daripada komputasi itu sendiri.
Dari Identitas ke Niat
Keamanan blockchain tradisional dibangun di sekitar identitas.
Sebuah dompet menandatangani sebuah transaksi.
Jaringan memverifikasi tanda tangan.
Jika tanda tangan valid dan transaksi memenuhi aturan konsensus, eksekusi berlanjut.
Model ini bekerja dengan sangat baik ketika manusia memulai sebagian besar tindakan.
Manusia berhenti.
Manusia mempertimbangkan kembali.
Manusia sesekali menyadari ada yang terasa keliru sebelum mengklik "Konfirmasi."
Perangkat lunak otonom berperilaku berbeda.
Strategi trading AI tidak menjadi lelah.
Itu tidak tidur.
Itu tidak ragu.
Ia hanya terus membuat keputusan sesuai tujuan yang ditetapkan.
Konsistensi itu adalah salah satu kekuatannya yang paling besar.
Itu juga salah satu risiko terbesarnya.
Jika sebuah sistem otonom menerima otoritas yang luas, ia dapat membuat ribuan transaksi yang valid sepenuhnya yang secara kolektif menghasilkan hasil yang tidak diinginkan.
Tidak ada yang salah secara teknis.
Tanda tangan tetap valid.
Protokol berperilaku persis seperti yang dirancang.
Namun, hasilnya tetap dapat melanggar maksud pencipta aplikasi tersebut.
Ini menunjukkan bahwa identitas saja semakin menjadi primitif keamanan yang lebih lemah.
Mengetahui siapa yang mengirim transaksi memberi tahu kita lebih sedikit daripada memahami apakah transaksi tersebut seharusnya terjadi pada kondisi saat ini.
Izin Sedang Menjadi Dinamis
Satu gagasan yang menonjol saat mempelajari arsitektur blockchain berorientasi AI adalah bahwa otorisasi tidak lagi harus bersifat statis.
Secara historis, izin tampak sederhana.
Sebuah akun sama ada memiliki akses atau tidak.
Sebuah kontrak menerima seorang pemanggil atau menolaknya.
Sistem otonom menghadirkan jauh lebih banyak nuansa.
Mungkin seorang agen seharusnya hanya mengeksekusi transaksi perdagangan ketika volatilitas tetap di bawah ambang tertentu.
Mungkin transfer harus dijeda jika indikator risiko eksternal memburuk.
Mungkin peminjaman harus memerlukan beberapa kondisi independen sebelum modal dapat bergerak.
Ini bukan pertanyaan tentang identitas.
Itu adalah pertanyaan tentang konteks.
Konsekuensi menariknya adalah otorisasi mulai menyerupai evaluasi berkelanjutan, bukan persetujuan satu kali.
Izin menjadi sesuatu yang diperoleh berulang kali, bukan diberikan sekali saja.
Mengapa Memisahkan Pengambilan Keputusan dari Otorisasi?
Awalnya pemisahan ini terasa tidak perlu.
Jika AI sudah memutuskan tindakan apa yang harus dilakukan, mengapa menambahkan lapisan lain?
Jawabannya menjadi lebih jelas setelah memikirkan bagaimana sistem rekayasa sering berevolusi.
Sistem operasi modern tidak mengasumsikan setiap aplikasi boleh mengakses setiap file.
Platform cloud tidak mengasumsikan setiap layanan harus berkomunikasi dengan setiap basis data.
Organisasi besar jarang mengizinkan setiap karyawan akses tanpa batas hanya karena mereka berhasil login.
Sistem yang kompleks semakin memisahkan kemampuan dari izin.
Aplikasi blockchain berbasis AI tampaknya bergerak ke arah yang sama.
Sebuah agen cerdas dapat menghasilkan peluang.
Lapisan kebijakan mengevaluasi apakah mengeksekusi peluang-peluang tersebut memenuhi aturan yang telah ditetapkan.
Lapisan mana pun tidak menggantikan yang lain.
Sebaliknya, masing-masing berspesialisasi.
Satu fokus pada optimasi.
Yang lain berfokus pada kontrol.
Pemilahan itu mengurangi jumlah tanggung jawab yang diberikan kepada satu komponen mana pun.
Andaian Tersembunyi
Namun, arsitektur ini diam-diam memperkenalkan sebuah asumsi.
Kebijakan membutuhkan informasi.
Kadang informasi itu sudah ada di blockchain.
Saldo akun.
Kepemilikan token.
Status kontrak.
Ini relatif mudah karena node blockchain sudah menyepakati hal-hal tersebut.
Situasi lain menjadi lebih rumit.
Misalkan aturan otorisasi bergantung pada kondisi pasar.
Atau persyaratan kepatuhan.
Atau persetujuan organisasi.
Atau metrik risiko perusahaan.
Input tersebut berasal dari tempat lain.
Bahkan jika semuanya diambil dengan aman dan dievaluasi dengan cermat, tetap ada seseorang yang harus memelihara infrastruktur yang memproduksinya.
Pengamatan itu terus menarik perhatian saya menjauh dari logika otorisasi itu sendiri.
Pertanyaan sebenarnya bukan apakah kebijakan bisa menjadi ekspresif.
Apakah informasi pendukung mereka tetap tepercaya dari waktu ke waktu.
Keputusan yang Lebih Baik Bergantung pada Konteks yang Lebih Baik
Sebuah agen otonom jarang gagal karena ia tidak memiliki kemampuan komputasi.
Kebanyakan gagal karena menerima konteks yang tidak lengkap atau menyesatkan.
Pengambilan keputusan manusia bekerja dengan cara yang mirip.
Seorang analis brilian yang bekerja dengan informasi yang ketinggalan dapat menghasilkan kesimpulan yang buruk.
Prinsip yang sama berlaku untuk perangkat lunak.
Menambahkan evaluasi kebijakan tidak secara ajaib meningkatkan penilaian.
Ia meningkatkan kualitas batasan yang ditempatkan pada perilaku otomatis.
Namun, batasan-batasan itu mewarisi kekuatan dan kelemahan dari informasi yang memberinya makan.
Hal ini tidak membatalkan arsitektur tersebut.
Itu hanya mengingatkan kita bahwa kualitas keputusan bergantung pada kualitas konteks.
Tradeoff Jarang Hilang
Satu pola tampak berulang di seluruh ilmu komputer.
Masalah sering berpindah lokasi alih-alih menghilang.
Virtualisasi mengurangi kompleksitas perangkat keras sekaligus meningkatkan kompleksitas orkestrasi.
Komputasi awan menyederhanakan proses penerapan sekaligus memperkenalkan ketergantungan operasional.
Microservices meningkatkan modularitas sekaligus membuat sistem terdistribusi lebih sulit diamati.
Otorisasi AI mengikuti pola yang serupa.
Mesin kebijakan yang kaya mengurangi risiko otomatisasi tanpa batas.
Namun, mereka meningkatkan pentingnya pemeliharaan kebijakan.
Pengembang sekarang memiliki tanggung jawab tambahan.
Kebijakan memerlukan pengujian.
Ketergantungan eksternal memerlukan pemantauan.
Kondisi tak terduga memerlukan penanganan yang baik.
Tidak satu pun dari tanggung jawab ini menunjukkan desain yang keliru.
Mereka adalah bukti bahwa keluwesan punya biaya.
Setiap abstraksi memindahkan kompleksitas ke tempat lain.
Mengapa Ini Penting di Luar Perdagangan
Terlalu menggoda untuk mengaitkan otorisasi AI hanya dengan trading otomatis.
Implikasi yang lebih luas tampaknya lebih menarik.
Bayangkan organisasi terdesentralisasi yang menggunakan manajemen kas otonom.
Rantai pasok yang mengoordinasikan pembayaran secara otomatis.
Protokol asuransi yang mengevaluasi klaim.
Aplikasi konsumen menjadwalkan aktivitas keuangan berulang.
Sistem layanan kesehatan yang menangani izin sensitif.
Dalam setiap skenario, pertanyaannya bukan sekadar apakah otomatisasi ada.
Yaitu apakah otomatisasi tetap selaras dengan tujuan yang terus berkembang.
Izin statis kesulitan dalam lingkungan di mana perilaku yang dapat diterima berubah dari waktu ke waktu.
Otorisasi dinamis berupaya memecahkan masalah yang persis itu.
Apakah itu berhasil bergantung lebih sedikit pada kecanggihan model AI dan lebih banyak pada kualitas tata kelola yang mengelilinginya.
Rekayasa untuk Kegagalan
Salah satu aspek yang saya hargai dari model otorisasi berlapis adalah bahwa ia mengakui sesuatu yang kadang luput diperhatikan para insinyur.
Setiap komponen pada akhirnya mengalami kegagalan.
Jaringan mengalami gangguan.
Layanan eksternal menjadi tidak tersedia.
Data yang tak terduga tiba.
Perangkat lunak berperilaku tidak terduga.
Pertanyaan menariknya bukan apakah kegagalan terjadi.
Apakah sistem terus berperilaku dengan aman setelah hal-hal itu terjadi.
Mendesain dengan mempertimbangkan kegagalan sering menghasilkan arsitektur yang lebih kuat daripada mendesain semata-mata untuk keberhasilan.
Lapisan otorisasi menjadi berharga tidak hanya ketika semuanya berjalan sempurna, tetapi juga ketika ketidakpastian meningkat.
Pada momen-momen itu, menolak tindakan mungkin merupakan keputusan paling aman.
Prinsip itu terasa sangat relevan saat sistem AI memperoleh otonomi operasional yang lebih besar.
Cara Lain untuk Mengukur Kemajuan
Pembahasan teknologi sering menekankan kecepatan.
Latensi lebih rendah.
Throughput lebih tinggi.
Lebih banyak transaksi.
Model yang lebih besar.
Efisiensi yang lebih besar.
Peningkatan itu penting.
Namun saya bertanya-tanya apakah mereka membuat kita mengabaikan metrik lain.
Mungkin infrastruktur AI yang matang juga harus diukur dari kualitas kemampuannya menahan diri.
Seberapa efektif ia dapat mencegah tindakan yang tidak diinginkan?
Seberapa transparan ia dapat menjelaskan keputusan otorisasi?
Seberapa dapat diprediksi perilakunya saat asumsi berhenti berlaku?
Pertanyaan-pertanyaan itu mungkin terbukti sama pentingnya dengan performa mentah.
Bagaimanapun, otomatisasi yang kuat tanpa batas yang dapat diandalkan tidak selalu menghasilkan sistem yang tepercaya.
Ia hanya menghasilkan yang lebih cepat.
Pemikiran Penutup
Semakin lama saya mempelajari arsitektur yang menggabungkan AI dengan eksekusi blockchain, semakin kecil keyakinan saya bahwa kecerdasan adalah tantangan yang menentukan.
Kemampuan terus meningkat di seluruh industri.
Izin tetap jauh lebih sulit.
Merancang sistem yang terus mengevaluasi apakah tindakan otonom tetap sesuai memerlukan pemikiran yang cermat tentang kepercayaan, konteks, tata kelola, dan kegagalan—bukan hanya algoritme.
Mungkin itulah masalah rekayasa yang lebih penting.
Jika agen AI akhirnya menjadi hal yang lumrah di berbagai aplikasi terdesentralisasi, apakah sistem yang berhasil adalah yang memiliki model paling cerdas—atau yang menetapkan batas paling cerdas mengenai apa yang diizinkan dilakukan oleh model-model tersebut?