Saya tidak menghabiskan banyak waktu untuk berpikir tentang Newton Protocol untuk pertama kalinya saat saya menemukannya. Dari permukaannya, semuanya terasa familiar. AI, otomatisasi, blockchain, perdagangan. Saya sudah sering melihat kata-kata itu dikelompokkan bersama sehingga mudah untuk mengira Anda sudah memahami ke mana cerita ini akan pergi.
Namun, setelah merenungkannya sejenak, saya akhirnya sadar bahwa saya sedang mengajukan pertanyaan yang salah.
Saya terus bertanya-tanya seberapa cerdas sistem itu bisa menjadi, padahal pertanyaan yang lebih menarik adalah apa yang terjadi setelah sistem itu sudah membuat keputusan. Bagian itulah yang menurut saya sering diremehkan orang. Membuat keputusan hanyalah setengah dari pekerjaan. Memastikan keputusan-keputusan itu sesuai dengan aturan yang benar-benar dipercaya orang adalah tantangan yang sama sekali berbeda.
Kebanyakan sistem terasa dapat diandalkan ketika tidak ada hal yang tidak biasa yang terjadi. Itu benar baik ketika Anda membicarakan pasar keuangan maupun sesuatu yang sehari-hari seperti lalu lintas kota. Sebuah jalan bisa terlihat dirancang sempurna di sore yang tenang. Lalu datang badai besar, satu kecelakaan memblokir sebuah persimpangan, dan tiba-tiba seluruh jaringan mulai melambat. Jalannya tidak berubah. Yang berubah adalah tekanannya.
Saya mulai melihat infrastruktur blockchain dengan cara yang hampir sama.
Saat pasar stabil, hampir semuanya terlihat lebih mulus daripada kenyataannya. Transaksi terselesaikan, strategi dijalankan, dan sistem otomatis bekerja diam-diam sesuai dengan apa yang memang diciptakan untuk mereka lakukan. Mudah sekali percaya bahwa teknologi telah menyelesaikan masalah-masalah sulit itu. Lalu kondisi menjadi tak terduga, informasi mulai datang dengan kecepatan yang berbeda, likuiditas bergeser, dan asumsi yang terasa kokoh beberapa jam sebelumnya tiba-tiba tidak lagi bertahan sebaik itu.
Biasanya, di situlah koordinasi menjadi lebih sulit daripada komputasi.
Dari yang saya pahami, Newton Protocol tampaknya kurang tertarik untuk membuat AI lebih mampu, dan lebih tertarik menciptakan kerangka kerja tentang bagaimana tindakan otomatis seharusnya berperilaku sebelum semuanya menjadi final. Saya merasa perbedaan itu mengejutkan penting. Kapabilitas tanpa batas tidak otomatis menciptakan keandalan. Kadang justru menciptakan kebalikannya.
Saya sudah melihat cukup banyak proyek perangkat lunak untuk tahu bahwa kegagalan jarang disebabkan oleh satu kesalahan besar yang dramatis. Lebih sering, kegagalan adalah akibat dari beberapa keputusan yang masuk akal namun berhenti saling cocok begitu lingkungan berubah. Satu sistem mengharapkan sesuatu, sistem lain mengharapkan yang lain, dan tidak ada yang menyadari ketidakcocokan itu sampai mulai memengaruhi hasil nyata.
Infrastruktur finansial tidak kebal terhadap itu. Bahkan, infrastruktur finansial memperbesar salah paham kecil semacam itu karena transaksi tidak menunggu orang-orang sempat menyusul.
Itu membuat saya memikirkan Newton lebih sedikit sebagai alat untuk otomatisasi dan lebih sebagai upaya untuk mengurangi ketidakpastian terkait perilaku otomatis. Sebelum sesuatu maju, ada kesempatan untuk memeriksa apakah itu masih sesuai dengan kebijakan yang memang dimaksudkan sejak awal.
Saya tidak melihat itu sebagai gesekan yang tidak perlu.
Kurang lebih seperti berjalan melewati bandara. Tidak ada yang menikmati pemeriksaan keamanan, dan itu jelas memperlambat orang. Tapi sebagian besar dari kita juga memahami mengapa pemeriksaan itu ada. Tujuannya bukan untuk menghentikan perjalanan. Tujuannya adalah memastikan pergerakan terjadi dalam aturan yang sudah disepakati semua orang.
Infrastruktur sering bekerja seperti itu. Versi terbaik tidak selalu yang paling cepat. Kadang yang paling baik adalah yang tetap dapat diprediksi ketika semuanya di sekitarnya menjadi kurang dapat diprediksi.
Tentu saja, setiap lapisan tambahan selalu membawa trade-off. Verifikasi membutuhkan waktu. Pemeriksaan kebijakan menambah langkah. Sebagian aplikasi akan selalu memprioritaskan kecepatan dibanding pengawasan tambahan, sementara yang lain dengan senang hati menerima sedikit keterlambatan asalkan itu berarti mengurangi risiko operasional.
Saya tidak berpikir ada jawaban yang universal, karena lingkungan yang berbeda menyelesaikan masalah yang berbeda pula.
Yang saya hargai adalah ketika sebuah proyek mengakui trade-off itu, bukan berpura-pura bahwa trade-off tersebut tidak ada. Sistem menjadi lebih dapat dipercaya ketika mereka mengakui hal yang tidak bisa mereka kendalikan.
Newton tidak bisa mencegah pasar menjadi volatil. Newton tidak bisa memastikan strategi yang dirancang buruk tidak gagal. Newton tidak bisa menjamin setiap model AI membuat keputusan yang masuk akal. Tak satu pun dari hal-hal itu merupakan janji yang realistis untuk protokol mana pun.
Yang bisa dilakukan infrastruktur adalah membuat jenis-jenis kesalahan tertentu lebih mudah terdeteksi sebelum kesalahan itu menjadi mahal. Ini tidak sama dengan menghilangkan risiko, tapi mengurangi kegagalan yang bisa diprediksi tetaplah sesuatu yang berharga.
Hal lain yang sedang saya pikirkan adalah bagaimana kepercayaan sebenarnya berkembang.
Orang sering membicarakan kepercayaan seolah kepercayaan itu diciptakan oleh branding yang bagus atau dokumentasi teknis yang mengesankan. Saya tidak yakin itu caranya. Sebagian besar kepercayaan datang dari pengulangan. Sebuah sistem berperilaku konsisten cukup sering sehingga orang perlahan berhenti mempertanyakan apakah sistem itu akan bekerja besok.
Proses itu tidak bisa dipercepat.
Kalau Newton berhasil dalam jangka panjang, saya ragu itu karena teknologinya terdengar mengesankan di atas kertas. Kemungkinan besar karena para pengembang, operator, dan institusi secara bertahap memutuskan bahwa koordinasi ekstra itu sepadan dengan kompleksitas tambahan. Keputusan-keputusan itu biasanya terjadi tanpa banyak gegap-gempita. Itu bukan momen yang dramatis. Itu serangkaian pilihan kecil yang diulang-ulang sampai menjadi hal yang normal.
Bagi saya, itulah cara infrastruktur menjadi semakin berguna.
Semakin saya memikirkan Newton Protocol, semakin saya tidak tertarik pada narasi AI yang mengelilinginya. Yang membuat perhatian saya tertuju adalah masalah yang lebih tenang yang bersembunyi di bawah semuanya. Saat semakin banyak keputusan diotomatisasi, siapa yang memastikan bahwa keputusan-keputusan itu tetap mengikuti aturan yang memang dimaksudkan oleh orang-orang?
Saya tidak yakin itu adalah jenis pertanyaan yang punya jawaban sempurna.
Tapi saya benar-benar berpikir ini adalah jenis pertanyaan yang menjadi makin penting setiap tahun. Dan kadang proyek yang layak diperhatikan bukan yang berjanji menghapus kompleksitas. Mereka adalah yang mencoba mengelolanya tanpa berpura-pura bahwa kompleksitas itu tidak pernah hilang.