Bayangkan dua transaksi blockchain.
Keduanya ditandatangani dengan benar. Keduanya memenuhi setiap aturan konsensus. Keduanya dieksekusi persis seperti yang ditentukan oleh kontrak pintar. Dari sudut pandang jaringan, keduanya sama-sama valid.
Bayangkan satu transaksi berasal dari seseorang yang secara sengaja menyetujuinya, sementara yang lain dihasilkan oleh agen AI otonom yang bertindak atas nama pengguna. Tiba-tiba, kedua transaksi itu tidak lagi terasa setara. Blockchain tidak bisa membedakan antara penilaian manusia yang cermat dan penalaran otomatis. Ia hanya memverifikasi tanda tangan dan transisi status.
Pengamatan itu menunjukkan adanya pergeseran arsitektur yang lebih mendalam yang terjadi di Web3. Ketika agen AI menjadi mampu mengelola dompet, memantau pasar, dan berinteraksi dengan aplikasi terdesentralisasi, tantangan keamanan utama bukan lagi eksekusi. Melainkan otorisasi.
Sisi paling menarik dari otomatisasi yang dapat diverifikasi bukanlah bahwa ia membuat AI lebih aman. Melainkan, ia mengubah di mana “kepercayaan” berada di dalam sistem. Alih-alih mempercayai kecerdasan agen otonom, arsitektur berusaha mempercayai bukti bahwa agen tersebut beroperasi dalam batas yang telah ditentukan.
Hal ini mungkin terlihat seperti perbedaan yang halus, tetapi memiliki implikasi penting bagi cara sistem terdesentralisasi berkembang.
Model Kepercayaan Tradisional Mencapai Batasnya
Untuk sebagian besar sejarah blockchain, kepemilikan dan otoritas terhubung erat. Memiliki kunci privat berarti memiliki kemampuan untuk mengotorisasi transaksi. Mekanisme konsensus kemudian memverifikasi bahwa tanda tangan itu autentik sebelum transaksi dimasukkan ke dalam sebuah blok.
Model ini bekerja dengan sangat baik karena manusia tetap menjadi pengambil keputusan utama. Blockchain tidak perlu memahami mengapa seseorang mentransfer token atau berinteraksi dengan sebuah protokol. Niat tetap berada di luar sistem.
Otomatisasi AI mengubah asumsi ini.
Sebuah agen otonom dapat memantau posisi pinjaman dua puluh empat jam sehari, melakukan penyeimbangan likuiditas di banyak rantai, atau mengeksekusi strategi trading yang telah ditentukan tanpa pengawasan manusia yang berkelanjutan. Dalam situasi seperti itu, pengguna tidak lagi mengotorisasi tindakan individual. Sebaliknya, pengguna mengotorisasi sebuah kerangka kerja yang di mana perangkat lunak diizinkan untuk bertindak.
Itu mengubah batas kepercayaan.
Alih-alih bertanya apakah sebuah transaksi ditandatangani dengan benar, pertanyaan yang lebih menarik menjadi apakah transaksi tersebut tetap berada dalam kebijakan yang dimaksud pengguna.
Verifikasi Menjadi Filsafat Desain
Banyak pembahasan tentang keamanan AI berfokus pada membuat model lebih akurat.
Pasti ada nilai dalam membangun model yang lebih baik. Namun, kecerdasan sulit diukur secara konsisten. Bahkan sistem yang sangat mampu pun dapat menghasilkan keluaran yang tak terduga karena mereka merespons masukan yang berubah, kondisi pasar yang berkembang, atau instruksi yang ambigu.
Otomatisasi yang dapat diverifikasi mendekati masalah ini dengan cara yang berbeda.
Alih-alih mengasumsikan bahwa AI akan selalu membuat keputusan yang baik, arsitektur mengasumsikan setiap keputusan harus diperiksa terhadap batasan eksplisit sebelum eksekusi.
Ini adalah filosofi rekayasa yang penting.
Pesawat tidak dianggap aman karena pilot tidak pernah membuat kesalahan. Pesawat dianggap aman karena sistem independen memverifikasi ketinggian, kecepatan, navigasi, dan batas operasional selama penerbangan.
Demikian pula, otomatisasi yang dapat diverifikasi berupaya mengelilingi perangkat lunak otonom dengan pagar pengaman yang dapat diukur, alih-alih hanya mengandalkan keyakinan pada model itu sendiri.
Dalam pengertian ini, verifikasi tidak menggantikan kecerdasan. Verifikasi membatasi konsekuensi dari kecerdasan yang tidak sempurna.
Kebijakan Menjadi Antarmuka yang Sebenarnya
Salah satu konsekuensi dari arsitektur ini adalah kebijakan pengguna menjadi semakin penting.
Alih-alih berinteraksi langsung dengan setiap transaksi blockchain, pengguna mendefinisikan kondisi yang menggambarkan perilaku yang dapat diterima.
Contohnya bisa termasuk batas belanja harian maksimum, protokol yang disetujui, batas alokasi aset, atau ambang frekuensi transaksi.
Perhatikan bahwa kebijakan-kebijakan ini menggambarkan tujuan, bukan tindakan individual.
AI menentukan cara mencapai tujuan-tujuan tersebut, sementara lapisan verifikasi menentukan apakah setiap tindakan yang diusulkan memenuhi batasan yang telah ditetapkan.
Ini pada dasarnya memisahkan pembuatan keputusan dari persetujuan keputusan.
Pemisahan itu menyerupai pola yang sudah dikenal dalam rekayasa perangkat lunak. Sistem operasi modern mengisolasi aplikasi melalui izin, sandbox, dan kontrol akses. Aplikasi tetap berguna karena ia hanya menerima hak istimewa yang diperlukan untuk menyelesaikan tugasnya.
Otomatisasi yang dapat diverifikasi memperkenalkan konsep serupa dengan aktivitas blockchain. Alih-alih memberi wewenang tanpa batas, ia mendorong otomatisasi dengan prinsip least-privilege (hak akses minimum).
Bukti Kriptografis Mengubah Akuntabilitas
Salah satu aspek yang layak mendapat perhatian lebih adalah bagaimana verifikasi memengaruhi akuntabilitas.
Otomatisasi tradisional sering mengandalkan pencatatan peristiwa setelah eksekusi. Jika sesuatu yang tak terduga terjadi, para insinyur menyusun ulang urutan keputusan melalui catatan historis.
Verifikasi kriptografis memperkenalkan model yang berbeda.
Alih-alih meminta penyelidik menentukan apakah perangkat lunak mengikuti kebijakan setelah suatu peristiwa, arsitektur mencoba menghasilkan bukti bahwa kepatuhan kebijakan sudah ada sebelum eksekusi.
Perubahan kecil yang tampaknya sepele ini memengaruhi desain sistem dengan cara yang bermakna.
Kebijakan menjadi eksplisit, bukan implisit. Pengembang harus mengekspresikan batasan dengan presisi yang cukup agar verifikasi otomatis bisa dilakukan. Ekspektasi yang samar menjadi semakin sulit ditegakkan karena komputer membutuhkan aturan yang deterministik.
Akibatnya, arsitektur perangkat lunak secara bertahap bergeser menuju maksud yang dapat diverifikasi oleh mesin, bukan interpretasi manusia.
Tradeoff Tersembunyi: Presisi versus Fleksibilitas
Setiap solusi rekayasa selalu melibatkan kompromi.
Otomatisasi yang dapat diverifikasi tidak terkecuali.
Semakin detail kebijakan, semakin besar keyakinan pengguna bahwa otomatisasi tetap berada dalam batas yang dapat diterima. Namun, kebijakan yang makin ketat dapat mengurangi kemampuan beradaptasi.
Pasar keuangan jarang berperilaku dapat diprediksi.
AI yang merespons kondisi likuiditas yang berubah cepat mungkin memerlukan fleksibilitas yang tidak mudah ditampung oleh kebijakan verifikasi yang kaku. Sebaliknya, izin yang terlalu luas dapat melemahkan keamanan yang justru ingin diberikan oleh sistem.
Ini menciptakan masalah optimasi yang menarik.
Alih-alih memaksimalkan keamanan atau efisiensi secara terpisah, arsitektur berupaya menyeimbangkan keduanya sekaligus.
Berbagai pengguna kemungkinan akan memilih posisi berbeda di sepanjang spektrum ini.
Pengelolaan treasury institusional mungkin memprioritaskan verifikasi yang konservatif dengan otonomi terbatas. Partisipan pasar yang aktif mungkin menerima kebebasan operasional yang lebih luas untuk mengurangi latensi dan meningkatkan responsivitas.
Tidak ada satu pilihan pun yang benar secara universal.
Sebaliknya, otomatisasi yang dapat diverifikasi mengubah kepercayaan menjadi parameter yang bisa dikonfigurasi, bukan sifat biner.
Kebijakan Formal Tidak Dapat Menangkap Setiap Keputusan Manusia
Mungkin batasan paling penting ada di luar kriptografi sama sekali.
Verifikasi mengasumsikan bahwa niat pengguna dapat dinyatakan melalui aturan formal.
Kadang ini terasa mudah.
Batas belanja harian mudah didefinisikan. Protokol yang disetujui bisa dicantumkan secara eksplisit. Ambang paparan aset dapat diukur.
Keputusan lainnya jauh lebih kompleks.
Haruskah sebuah AI keluar dari posisi karena sentimen pasar tampak tidak stabil?
Haruskah ia mengabaikan volatilitas sementara jika kondisi makroekonomi tetap menguntungkan?
Haruskah ia bereaksi secara berbeda selama periode fragmentasi likuiditas yang ekstrem?
Pertanyaan-pertanyaan ini melibatkan penilaian, bukan aturan deterministik.
Tidak ada kerangka verifikasi yang dapat menghilangkan ambiguitas jika tujuan yang mendasarinya tetap ambigu.
Dengan kata lain, verifikasi membuktikan kepatuhan terhadap kebijakan. Ia tidak menjamin bahwa kebijakan itu sendiri mencerminkan niat pengguna yang berkembang.
Mengenali perbedaan ini mencegah ekspektasi yang tidak realistis.
Cara Berbeda untuk Mengevaluasi Infrastruktur AI
Satu pelajaran yang saya ambil dari mempelajari otomatisasi yang dapat diverifikasi adalah bahwa kita mungkin sedang mengevaluasi infrastruktur AI dengan kriteria yang keliru.
Banyak perhatian tertuju pada kualitas model, kemampuan penalaran, dan kecepatan eksekusi.
Karakteristik tersebut tentu saja penting.
Namun pada akhirnya, sistem terdesentralisasi bergantung pada koordinasi yang dapat diprediksi di antara para peserta yang tidak sepenuhnya saling percaya.
Dalam lingkungan itu, perilaku yang dapat dijelaskan dan diverifikasi mungkin menjadi lebih berharga daripada sekadar pengambilan keputusan yang makin canggih.
Mungkin keunggulan kompetitif jangka panjang bukan milik platform yang membangun agen otonom paling cerdas, melainkan yang menghasilkan bukti paling kuat bahwa perilaku otonom tetap berada dalam batas yang telah disepakati.
Itu akan menjadi perubahan yang berarti dalam cara kita memikirkan AI di Web3.
Alih-alih mengganti kepercayaan dengan kecerdasan, tujuannya menjadi mengganti kepercayaan buta dengan batasan yang dapat diverifikasi.
Ini adalah inovasi yang lebih “sunyi” daripada yang disiratkan banyak judul berita, tetapi berpotensi lebih tahan lama karena ia membahas arsitektur kepercayaan, bukan kemampuan dari satu model saja.
Ketika agen otonom menjadi semakin umum di keuangan terdesentralisasi dan aplikasi on-chain, ada satu pertanyaan yang tampaknya layak diperdebatkan:
Apakah masa depan AI di Web3 sebaiknya diukur dari seberapa independen agen dapat bertindak, atau dari seberapa meyakinkan mereka dapat membuktikan bahwa setiap tindakan mematuhi batas yang semula kita maksudkan?
🗳 Jajak Pendapat Komunitas
Prinsip mana yang menurut Anda akan paling berpengaruh bagi generasi berikutnya infrastruktur Web3 bertenagai AI?
🔹 Agen AI otonom yang lebih banyak
🔹 Verifikasi kriptografis yang lebih kuat sebelum eksekusi
🔹 Kerangka kebijakan yang lebih ekspresif yang ditentukan pengguna
🔹 Keseimbangan antara otonomi cerdas dan perlindungan yang dapat diverifikasi
