🚨 Pertanyaan Real tentang AI Bukanlah Kecerdasan—Melainkan Otoritas
Kebanyakan diskusi tentang kecerdasan buatan berputar pada satu gagasan:
"Seberapa kuat AI bisa menjadi?"
Tapi menurut saya, kita sedang mengajukan pertanyaan yang salah.
Yang lebih penting adalah:
Siapa yang memutuskan apa yang diizinkan dilakukan oleh AI?
Membangun model yang lebih cerdas hanyalah bagian dari tantangan. Menentukan batas-batas otoritas mereka mungkin bahkan lebih penting.
🧠 Pelajaran dari Psikologi Manusia
Pada tahun 1961, psikolog Stanley Milgram melakukan eksperimen perintis untuk memahami bagaimana orang merespons otoritas.
Para peserta percaya bahwa mereka membantu studi ilmiah dengan memberikan kejutan listrik yang semakin kuat kepada orang lain. Banyak yang merasa tidak nyaman dan ingin berhenti, namun sejumlah besar tetap melanjutkan setelah mendengar instruksi sederhana:
«"Eksperimen ini mengharuskan Anda untuk melanjutkan."»
Eksperimen itu sebenarnya tidak tentang hukuman.
Ia menunjukkan betapa kuatnya otoritas dapat memengaruhi perilaku. Saat instruksi berasal dari otoritas tepercaya, banyak orang memilih kepatuhan daripada penilaian pribadi.
AI Tidak Mempertanyakan Otoritas
Sekarang bayangkan mengganti para peserta itu dengan AI.
Sebuah agen AI tidak merasakan ragu atau ketidaknyamanan moral. Ia mengikuti tujuan, izin, dan kebijakan yang diberikan kepadanya.
Artinya, masa depan AI tidak hanya akan dibentuk oleh kecerdasan. Masa depan juga akan bergantung pada sistem yang mendefinisikan dan membatasi otoritasnya.
Model AI yang sama bisa membantu dokter dalam mengidentifikasi penyakit—atau mengotomatisasi penipuan keuangan skala besar.
Kecerdasannya tetap sama.
Izin-izin itulah yang membuat perbedaan.
Saat agen AI mulai mengendalikan dompet, mengeksekusi perdagangan, mengelola treasury, dan berinteraksi dengan protokol DeFi, pembedaan ini menjadi semakin penting.
---
Otorisasi Sebelum Eksekusi
Di sinilah Newton Protocol mendekati masalah dengan cara yang berbeda.
Alih-alih sekadar bertanya:
«"Bisakah AI ini melakukan tindakan tersebut?"»
Ia bertanya:
«"Apakah AI ini boleh diberi izin untuk melakukan tindakan tersebut?"»
Perubahan itu sepenuhnya mengubah model keamanan.
Alih-alih memberi AI otoritas tanpa batas setelah ia memiliki akses dompet, Newton memperkenalkan Authorization Before Execution, di mana setiap tindakan diperiksa terhadap kebijakan yang telah ditetapkan sebelum transaksi apa pun terjadi.
Bayangkan sebuah AI yang bertanggung jawab untuk manajemen treasury.
Tanpa pembatasan, ia berpotensi memindahkan dana tanpa batas, mengakses dompet yang tidak berwenang, atau berinteraksi dengan protokol di luar cakupan yang seharusnya.
Newton menggantikan kepercayaan buta dengan aturan yang dapat diprogram.
Pengembang dapat mendefinisikan:
- Dompet mana yang boleh diakses AI.
- Protokol mana yang bisa diinteraksikannya.
- Batasan pengeluaran.
- Ambang risiko.
- Pembatasan berbasis waktu atau konteks.
- Tindakan yang masih memerlukan persetujuan manusia.
Daripada berharap AI berperilaku bertanggung jawab, batasan-batasan itu diberlakukan sejak awal.
---
Aturan Itu Bernilai—Bukti Bahkan Lebih Baik
Menyusun kebijakan hanya setengah dari solusi.
Organisasi pada akhirnya akan mengajukan pertanyaan lain:
Bagaimana kita memverifikasi bahwa AI benar-benar mengikuti kebijakan tersebut?
Newton mengatasi ini melalui Policy Engine-nya, kerangka AI Agent Authorization, dan Verifiable Policy Enforcement.
Otorisasi bukan hanya didokumentasikan—ia menjadi dapat diberlakukan dan dapat diverifikasi.
Itu mengubah kepercayaan dari asumsi menjadi infrastruktur.
---
Kepemilikan Tidak Sama dengan Otorisasi
Teknologi blockchain menjawab satu pertanyaan besar:
Siapa pemilik aset digital?
Keuangan berbasis AI menghadirkan satu hal lagi:
Siapa yang seharusnya diizinkan menggunakannya?
Kepemilikan dan otorisasi memecahkan masalah yang berbeda.
Ketika AI otonom semakin terlibat dalam sistem keuangan, mengendalikan izin bisa menjadi sama pentingnya dengan membuktikan kepemilikan.
Karena itulah saya memandang Newton Protocol sebagai lebih dari sekadar proyek AI lain.
Ini adalah infrastruktur yang dirancang untuk ekonomi di mana agen otonom dapat beroperasi dengan aman, transparan, dan dalam batas-batas yang jelas.
Tujuannya bukan sekadar membuat AI menjadi lebih mampu.
Tujuannya adalah agar AI dapat dimintai pertanggungjawaban.
---
💡 Pikiran Akhir
Bab berikutnya dari AI tidak akan ditentukan hanya oleh kecerdasan.
Ia akan ditentukan oleh kekuatan sistem otorisasi yang mengelilinginya.
Karena risiko terbesar tidak selalu adalah AI paling cerdas.
Ini adalah AI yang beroperasi dengan izin yang seharusnya tidak pernah dimilikinya.