Vesper Valois

Ada jenis kelegaan tertentu saat diberi bukti fisik—entah itu seorang mekanik memegang komponen yang baru saja ia tarik dari mesin, atau seorang dokter mengitari bayangan pada hasil pemindaian. Saya mulai menyadari betapa kelegaan itu datang jauh lebih cepat daripada pemahaman nyata tentang apa yang sebenarnya dikonfirmasikannya.

Kesenjangan itu mudah terlewat, karena benda yang ada di tangan terasa seperti sebuah jawaban. Komponen yang rusak membuktikan ada sesuatu yang gagal. Itu tidak membuktikan bahwa diagnosis yang mengarah ke komponen tersebut memang yang benar, dan saya rasa kebanyakan dari kita melewati perbedaan itu tanpa menyadarinya.

Untuk sebagian besar sejarah, memverifikasi sesuatu dan memahaminya adalah gerakan yang sama—setidaknya sejauh yang saya bisa lihat. Anda menyaksikan seorang pandai besi menguji bilah di depan Anda, atau melihat sebuah transaksi disahkan dengan tangan, dan melihat prosesnya terjadi berarti memahami mengapa hal itu terjadi. Bukti dan penilaian hadir bersamaan, jadi tak ada alasan kuat untuk memisahkan keduanya.

Yang terus saya putar dalam pikiran adalah bagaimana sistem otomatis diam-diam memisahkan paket lama itu. Memastikan bahwa sebuah strategi dieksekusi persis seperti yang dituliskan kini menjadi masalah yang nyaris selesai, hampir mekanis untuk diperiksa. Memastikan bahwa strategi tersebut sebenarnya masuk akal adalah pertanyaan yang lebih sulit—dan sama sekali pertanyaan yang berbeda.

Saya pikir kebingungannya berjalan ke dua arah. Sebagian orang menahan kepercayaan dari sistem yang bisa mereka verifikasi tetapi tidak bisa mereka jelaskan. Yang lain langsung lepas sepenuhnya begitu sebuah catatan muncul, mengira bukti transaksi sebagai alasan.

Saat membaca bagaimana Newton Protocol membingkai rollup untuk strategi trading otomatis, inilah bagian yang paling membekas pada saya. Ini kurang tentang mekanika pasar dan lebih tentang kejujuran yang dibutuhkan untuk menyatakan secara lugas persoalan mana dari dua masalah itu yang sebenarnya sedang Anda selesaikan.

Jika Anda tidak bisa menilai sendiri apakah sebuah keputusan adalah yang tepat, apa sebenarnya arti percaya pada sistem bagi Anda?

@NewtonProtocol $NEWT #Newt $LAB $VANRY

Ini tidak terjadi padaku, tapi aku memikirkannya lebih sering daripada hal-hal yang memang terjadi. Seseorang membuat alat kecil, makro, atau skrip, dan selama berbulan-bulan semuanya berjalan diam-diam dan lancar. Lalu suatu minggu mulai gagal, dan cara mereka membicarakannya berubah hampir dalam semalam: dari "aku yang membuat ini" menjadi "ya, itu cuma makronya yang melakukan bagiannya," seolah ada orang lain yang menulis versi yang dulu pernah berfungsi.

Perubahannya kecil—hampir memalukan—dan aku tidak yakin itu unik hanya pada siapa pun yang mengalaminya. Kebanyakan dari kita secara diam-diam selektif soal kapan kita menyebut sesuatu itu milik kita: cepat mengklaim saat ia bekerja, cepat menjauh saat ia tidak, padahal tidak ada yang berubah dari keterlibatan kita yang sebenarnya di antara dua momen itu.

Yang membuatku berpikir adalah bahwa kepemilikan, dalam praktiknya, tidak benar-benar fakta yang tetap tentang siapa yang mengerjakan. Itu lebih seperti klaim yang kita perbarui atau kita lepas tergantung seberapa nyaman kita berdiri di balik hasil pada hari itu. Itu tidak selalu berarti tidak jujur; ini hanya cara mengambil kredit cenderung berperilaku ketika tidak ada yang benar-benar diuji.

Itu menjadi tidak sesederhana itu begitu sebuah sistem mulai mengambil keputusan sendiri. Pada titik itu, "strategiku" tidak lagi sekadar deskripsi, melainkan ujian keberanian—apakah kamu benar-benar akan mengklaimnya pada hari ia membuatmu merugi, bukan hanya pada hari ia memberi keuntungan.

Itulah sebagian yang membuatku teringat saat melihat Newton Protocol: di sana sebuah pasar memungkinkan orang mengonfigurasi dan menjalankan strategi yang digerakkan AI, alih-alih mengeksekusi setiap keputusan secara manual. Ujian keberanian itu layak diperhatikan dalam diri sendiri sebelum hasil apa pun memaksanya.

Kalau besok ia gagal, apa yang akan kamu sebut saat itu? Apakah itu hal yang sama yang akan kamu sebut pada hari ia berhasil?

@NewtonProtocol

$NEWT

#Newt

$TLM

$HMSTR

Saya sudah memperhatikan betapa belakangan ini kita menggunakan kata "made" secara longgar.
Sebuah playlist yang dibangun dari satu permintaan suasana hati masuk ke kategori kurasi. Foto yang dijalankan melalui satu preset disebut sebagai "gaya" seseorang.

Tak satu pun itu terasa sepenuhnya tidak jujur. Kata itu saja pelan-pelan terlepas dari pekerjaan yang dulu biasa dijelaskannya, dan saya rasa tidak ada orang yang memilih perubahan itu. Ini pergeseran kecil, tapi pergeseran kecil adalah hal-hal yang tidak pernah digubris untuk diperdebatkan.

Dulu, kita menyimpan kata "made" untuk orang yang benar-benar mengeksekusi—yang menulis kodenya, mencampur cat, atau meletakkan warna dengan tangan. Sekarang kata itu mencakup siapa pun yang membuat segelintir pilihan selektif lalu membiarkan sebuah sistem melakukan sisanya. Proses memilih tetap butuh pertimbangan; bagian itu nyata. Hanya saja jenis pertimbangannya berbeda dari yang dulu ditunjuk oleh kata tersebut.

Ada perbandingan lama yang ternyata pas lebih baik dari yang saya kira. Seorang koki yang memasak hidangan dari bahan mentah, dan seorang koki yang menyajikan komponen yang dibuat di tempat lain, sama-sama tetap disebut "koki". Tidak ada yang menganggapnya aneh, dan mungkin itulah sebabnya "kepemilikan" ikut bergerak dengan cara yang sama—dari kepengarangan ke kurasi—tanpa ada yang keberatan.

Tapi kredit tidak pernah menjadi satu-satunya hal yang ditumpangkan oleh kata itu. Tanggung jawab ikut menempel, dan bagian itu belum tersingkron dengan semulus itu. Jika pilihan hasil kurasi keliru, jadi tidak begitu jelas siapa sebenarnya yang sedang mengemudi.

Mungkin pemisahan itu terlalu rapi; memilih dengan baik tetaplah memilih. Tapi menarik untuk diperhatikan bahwa kita mempertahankan kredit itu, dan secara diam-diam mengatur ulang siapa yang disalahkan.

Ini ruang yang sama yang belum terselesaikan yang terus saya putar-putar ketika membahas strategi berbasis AI di marketplace seperti Newton Protocol. Menyusun strategi bukan hal sepele, tapi kalau performanya tidak sesuai, saya tidak yakin apakah "saya membuat ini dengan salah" dan "saya memilih dengan salah" adalah jenis kesalahan yang sama.

Mungkin celah itu memang sudah ada sejak dulu, dan hanya butuh sistem yang cukup cepat sehingga kita tersandung di atasnya.

Lain kali Anda mengatakan "Saya membuat ini" tentang sesuatu yang sebenarnya dieksekusi oleh sebuah sistem, apakah itu masih kata yang tepat untuk dipakai?

@NewtonProtocol $NEWT #Newt $THE $MAGMA

Ada satu momen yang hampir dialami siapa pun yang menjalankan sistem otomatis: meski jarang dibicarakan. Anda membangun sebuah proses, itu berjalan dengan benar, lalu secara bertahap Anda berhenti mengecek—bukan karena malas, melainkan karena mengecek sudah tidak lagi terasa perlu. Lalu suatu hari, karena alasan yang sama sekali tidak terkait, Anda ingin melihat ke dalam dan mengetahui apa yang sebenarnya dikerjakannya. Dan Anda menyadari: tidak ada cara untuk melihatnya.

Saya mengalami titik yang persis sama dengan sebuah bot yang melacak posisi untuk saya. Bot itu berjalan diam-diam selama berminggu-minggu, sampai saya lupa bahkan bahwa bot itu ada. Kemudian saya perlu melakukan pengecekan silang beberapa angka untuk hal lain, dan baru saat itulah saya menemukan: tidak ada log yang disimpan, tidak ada dasbor, tidak ada cara untuk memunculkan riwayat dari apa yang sudah dikerjakannya. Bot itu memang tidak disembunyikan. Tidak ada yang merasa perlu untuk melihat, jadi tidak ada yang menyadari bahwa Anda tidak bisa.

Saat itulah saya mulai mempertanyakan konsep “hands-off.” Kedengarannya seperti satu permintaan, padahal sebenarnya ada dua yang tergabung: terbebas dari keharusan untuk mengecek, dan tetap memiliki kebebasan untuk mengecek kalau memang Anda mau. Kebanyakan dari kita hanya pernah meminta yang pertama.

Bagian yang belum saya pertimbangkan sampai belakangan adalah ini: menghapus kemampuan untuk mengecek jauh lebih murah untuk dibangun daripada mendapatkan kepercayaan yang membuat pengecekan terasa tidak perlu. Jadi sistem cenderung memilih versi yang murah, lalu memasarkan versi itu sebagai yang “paling murah hati.”

Saya mulai memperhatikan sistem mana yang menjadikan visibilitas sebagai default, bukan fitur yang ditempel setelah ada keluhan. Cara Newton Protocol menangani hal ini membuat saya berhenti dan berpikir: opsi untuk melihat bukan sesuatu yang ditambahkan kemudian—itu sudah ada sejak awal. Dan ketika Anda benar-benar merenungkannya, itu hal yang aneh untuk harus ditunjukkan. Mengapa sesuatu yang begitu jelas harus tetap dinyatakan sebagai sebuah pilihan?

Jadi mungkin pertanyaan yang lebih berguna, lain kali ada sesuatu yang disebut “hands-off,” adalah: yang mana sebenarnya yang dimaksud. Tidak ingin mengeceknya. Atau tidak ingin bisa mengeceknya.

@NewtonProtocol $NEWT #Newt $TAIKO $NFP

Seorang teman menunjukkan Discover Weekly-nya beberapa minggu lalu, sambil tertawa kecil karena terasa janggal. Lagu indie bernuansa muram yang sama, tempo lambat yang sama, semuanya jelas turun dari putus cinta yang berakhir lebih dari setahun lalu—entah bagaimana tetap sempurna secara teknis. Hanya saja, rasanya tidak lagi seperti dirinya; lebih seperti foto seseorang yang dulu pernah ia jadi.

Itu membuatku memikirkan seberapa banyak hal yang disebut “dipersonalisasi” sebenarnya hanya terjaga dengan baik. Algoritmanya tidak salah—ia hanya berjalan pada versi dirimu yang sudah berhenti diperbarui sejak beberapa waktu lalu. Jarang kita menyadarinya pada saat itu, karena rekomendasinya masih terasa cukup akurat untuk “lolos”.

Aku terus kembali pada gagasan bahwa identitas itu bukan sesuatu yang kamu miliki, melainkan sesuatu yang sedang kamu revisi—biasanya tanpa sadar, sampai nanti. Sistem yang dilatih dengan perilaku masa lalu memperlakukan perilaku itu sebagai sinyal yang stabil, padahal sebenarnya itu hanya satu frame dari dirimu yang sempat diam.

Yang aneh—dan aku hanya setengah percaya pada pikiranku sendiri—adalah bahwa ketidakcocokan itu kadang justru satu-satunya cara aku menyadari aku berubah. Rekomendasi yang salah berubah menjadi bukti, bukan bahwa sistemnya rusak, melainkan bahwa ada “diri” yang sudah bergerak maju tanpa memberi tahu siapa pun, termasuk aku.

Itu adalah pertanyaan yang sama yang kubayangkan harus dihadapi pada akhirnya oleh strategi trading berbasis AI mana pun, termasuk Newton Protocol. Entah ia terus menyempurnakan gambaran tentang siapa dirimu dulu, atau ia menemukan cara untuk menyadari siapa dirimu yang sedang menjadi.

Aku tidak punya jawaban yang rapi. Jika ada sesuatu yang membangun model yang benar-benar akurat tentang siapa kamu dulu, apakah kamu benar-benar ingin model itu mengoptimalkan untuk orang tersebut, atau berusaha—secara tidak sempurna—untuk mengejar siapa kamu sekarang?

@NewtonProtocol
$NEWT $NFP $TAIKO
#Newt

Bertahun-tahun lalu, GPS saya mengalihkan rute saya ke jalan tanah kerikil, tanpa sinyal seluler, dengan hamparan ladang di kedua sisi. Semua naluri saya menyuruh saya untuk memutar balik. Saya tetap mengikutinya.

Aneh sekali betapa mudahnya kita menyerahkan keputusan-keputusan kecil seperti itu. Sebuah playlist memilih lagu berikutnya, aplikasi peta mengalihkan kita menjauhi macet yang tidak bisa kita lihat, dan kita hampir tidak menyadarinya sebagai bentuk kepercayaan.

Tapi begitu sebuah sistem menyentuh sesuatu yang benar-benar penting, seperti uang, kemudahan yang sama itu lenyap. Kita tiba-tiba ingin penjelasan, jaminan, dan alasan untuk percaya.

Saya terus memikirkan celah itu, dan saya tidak yakin ini benar-benar soal algoritmanya. Ini tentang apa yang mampu kita periksa.

GPS itu mendapat kepercayaan saya karena saya bisa menyaksikannya bekerja secara real-time, langkah demi langkah, dan melihat logikanya selaras dengan apa yang saya lihat di luar jendela.

Kalau saja GPS itu hanya berkata, "Percayalah, ini benar" tanpa cara untuk mengonfirmasi apa pun, saya pasti akan berhenti di pinggir jalan.

Sepertinya itulah perbedaannya yang sebenarnya. "Percayalah" adalah sebuah klaim, sementara jejak yang terlihat adalah bukti.

Yang satu meminta iman. Yang lain memberi Anda kesempatan untuk memeriksa pekerjaannya.

Itu bagian dari alasan mengapa Newton Protocol menarik perhatian saya. Pendekatan berbasis rollup untuk strategi yang digerakkan AI cenderung mengarah pada membuat aktivitas tersebut bisa diverifikasi, alih-alih meminta siapa pun menerima kotak hitam begitu saja.

Saya masih belum yakin apa yang sebenarnya perlu terjadi agar saya menyerahkan sesuatu yang penting kepada sebuah algoritma. Mungkin pertanyaan yang lebih jujur adalah: apa yang diperlukan untuk itu.

@NewtonProtocol
$NEWT
#Newt
$CAP
$SYN

Pukul 1 pagi, jam yang biasanya kamu ketikkan ke bilah pencarian, bukan menelepon seseorang. Aku mengetik "apakah normal merasa..." dan setelah tiga kata, bilah itu sudah menyelesaikannya: "terbebani di usia kamu." Aku belum mengetik itu, tapi aku tetap mengkliknya, karena memang ada di sana. Pertanyaan yang mungkin sempat ingin kutuntaskan sendiri tidak pernah sempat diketik.

Yang menggangguku bukanlah saran itu salah. Yang menggangguku adalah aku tidak menyadari substitusi itu terjadi. Pertanyaan di layar terlihat seperti milikku, masuk lewat keyboardku, pada jam ketika aku paling kecil kemungkinan untuk memeriksanya, tapi kalimat itu telah dibentuk oleh model tentang apa yang biasanya ditanyakan orang-orang yang mengetik seperti aku.

Inilah bagian yang sering terlewat: jawaban yang keliru meninggalkan jejak. Kamu bisa menangkap halusinasi, membandingkannya dengan sumber lain, menunjuk bagian mana sistem mengatakan sesuatu yang tidak benar. Pertanyaan yang tidak pernah muncul dalam benakmu tidak meninggalkan apa pun untuk ditunjuk. Tidak ada kesalahan untuk diberi tanda, tidak ada keluaran untuk dicek, karena tidak ada yang terjadi. Ketidakseimbangan inilah yang membuat lapisan ini lebih sulit diteliti daripada lapisan yang diperdebatkan semua orang.

Autocomplete dan prompt yang disarankan tidak menunggu pemikiranmu benar-benar terbentuk. Mereka menyambutnya setengah jalan, dan separuh yang mereka sumbangkan adalah separuh yang tidak pernah kamu sadari.

Akibatnya bukan cuma personal: ketika sistem yang sama mengarahkan pertanyaan satu miliar orang, kita melihat kesan adanya penelusuran yang beragam, padahal kenyataannya sesuatu jauh lebih sempit. Jika semua orang didorong menuju segelintir pertanyaan yang sama, bagian-bagian realitas yang tidak pernah ditunjuk oleh saran-saran itu akan tetap tidak terucapkan.

Aku terus kembali pada satu detail tentang OpenGradient: ia memperlakukan inferensi sebagai sesuatu yang seharusnya bisa diperiksa, bukan dipercaya. Kamu tidak bisa memberi tanda pada manipulasi yang tidak bisa kamu verifikasi sedang terjadi. Itu tidak menyelesaikan masalahnya, tapi menjadi prasyarat agar kita bahkan bisa melihatnya.

Jika pertanyaan yang ditanyakan oleh sebuah peradaban menentukan apa yang akhirnya ia ketahui, dan pertanyaan-pertanyaan itu diam-diam dipilih terlebih dahulu oleh sistem yang tidak bisa diperiksa siapa pun, lantas apa yang terjadi pada pengetahuan yang tidak pernah dimunculkan sama sekali karena pertanyaannya tak pernah diajukan?

@OpenGradient $OPG #OPG $SYN $AIGENSYN

Tahun lalu saya mencoba memperkirakan biaya sebenarnya untuk menjalankan inferensi Llama pada skala produksi yang sederhana. Bukan pelatihan. Hanya melayani respons untuk aplikasi kecil dengan sekitar sepuluh ribu permintaan harian.

Angka yang terus saya dapatkan mendekati tiga ribu dolar per bulan, hanya untuk komputasi. Saya menghitungnya tiga kali.

Perdebatan kepemilikan dalam AI hampir selalu berputar pada model dan data. Siapa yang merilis bobot secara publik, siapa yang membatasi lisensi, lab mana yang dihitung sebagai "open". Kerangka berpikir itu terasa intuitif.

Tapi ada sesuatu yang diam-diam terlewat: model open-source tidak mengurangi kebutuhan komputasi terpusat. Mereka justru meningkatkannya. Setiap model yang tersedia bebas dan benar-benar mencapai adopsi akan mengarahkan beban inferensinya melalui perangkat keras fisik di suatu tempat. Dan perangkat keras itu berada di tangan sejumlah kecil pemilik.

Jadi open-source mungkin melakukan sesuatu yang paradoksal di lapisan infrastruktur. Ia menciptakan pengalaman akses yang terdemoskratisasi sambil memperdalam ketergantungan pada siapa pun yang mengendalikan chip. Yang "open" dalam open-source selalu merujuk pada kodenya. Ia tidak pernah menggambarkan lahan tempat kode itu dijalankan.

Kesenjangan antara lisensi dan lahan itulah tempat hegemoni sebenarnya berada. Anda bisa melakukan fork pada model. Anda tidak bisa melakukan fork pada pusat data.

Saya mengikuti alur pemikiran ini ketika saya menemukan OpenGradient, yang sedang membangun infrastruktur untuk mendistribusikan hosting dan inferensi di antara sejumlah peserta yang terdesentralisasi, bukan memusatkannya. Saya masih mengolah apa artinya pada beban inferensi yang nyata.

Tapi pertanyaan yang terus saya putar adalah: jika AI open-source terus mempercepat lonjakan kebutuhan inferensi sementara kepemilikan perangkat keras tetap sempit, terbuka itu sebenarnya untuk siapa?

@OpenGradient
$OPG
#OPG
$TAC
$RAVE

Saya menggunakan berbagai alat AI untuk konteks yang berbeda. Satu untuk draf kerja. Yang lain untuk pemikiran santai larut malam. Yang lain lagi untuk keputusan berbelanja.

Bulan lalu, salah satu di antaranya menyarankan struktur catatan yang selama ini hanya pernah saya jelaskan ke aplikasi lain, dalam percakapan yang sama sekali terpisah. Bukan saran generik. Cara spesifik bagaimana saya mengatur pikiran-pikiran yang belum selesai.

Saya sudah memikirkannya sejak saat itu.

Naluri saya adalah mengasumsikan ada kebocoran data, semacam jabat tangan API, atau klausul ketentuan layanan yang saya lewati begitu saja. Tapi penjelasan yang lebih tidak nyaman ternyata lebih sederhana: tidak perlu ada data yang dibagikan secara langsung.

Isyarat perilaku adalah pola yang terbaca. Ritme cara Anda mengungkapkan ketidakpastian, waktu saat Anda mencari sesuatu dibandingkan dengan apa yang Anda tanyakan dengan suara, pola-pola itu bisa dikenali oleh perantara yang berada di antara aplikasi-aplikasi—mereka yang tidak pernah memegang data Anda secara langsung.

Fragmentasi itu nyaris menjadi inti persoalannya.

Ketika tidak ada satu platform pun yang memegang seluruh gambaran, rasanya lebih privat. Tapi sebuah komposit bisa terbentuk di hilir, disusun dari potongan-potongan yang masing-masing terlihat tidak berbahaya bila berdiri sendiri. Ilusi keterpisahan sedang menjalankan pekerjaan yang seharusnya dilakukan oleh pemisahan yang benar.

Ini membawa pertanyaan yang paling sering dihindari secara diam-diam dalam percakapan tentang privasi: siapa yang duduk di lapisan infrastruktur itu, dan insentif apa yang mereka bawa?

Saya mengikuti OpenGradient karena alasan ini. Arsitektur mereka dirancang untuk mengatasi masalah akumulasi di lapisan tersebut, sebelum sampai ke aplikasi-aplikasi yang benar-benar bisa dilihat orang.

Pernahkah Anda merasa seperti dua alat AI yang benar-benar terpisah entah bagaimana mengetahui hal yang sama tentang Anda, dan tidak bisa menjelaskan caranya?

@OpenGradient
$OPG
#OPG
$VELVET
$MYX

Beberapa bulan lalu, saya sedang mengedit sebuah naskah menggunakan alat yang sudah saya andalkan selama sekitar dua tahun. Di tengah jalan, saya membuka ketentuan platformnya. Bukan karena ada sesuatu yang terasa salah. Hanya kebiasaan yang sudah saya kembangkan. Bagian bantuan berbasis AI telah banyak diperbarui, dan saya membacanya tiga kali tanpa benar-benar yakin apa artinya bagi pekerjaan yang sudah pernah saya terbitkan.

Namun, yang terus saya pikirkan adalah ini: kebanyakan orang memperlakukan kepemilikan AI sebagai pertanyaan hukum. Begitu hukum mengikuti, masalahnya selesai. Saya tidak yakin itu kerangka yang tepat.

Bahkan jika perundang-undangan menjadi jelas besok pun, Anda tetap perlu membuktikan apa yang benar-benar terjadi. Model mana yang memproses naskah Anda. Input apa yang digunakan. Apakah data pelatihan model membentuk keluaran dengan cara yang relevan secara hukum. Klaim kepemilikan tanpa catatan yang dapat diverifikasi tentang proses penciptaannya, pada dasarnya, hanyalah klaim.

Norma yang sedang dibentuk sekarang tidak terutama berasal dari pengadilan atau lembaga legislatif. Itu sedang ditulis oleh tim legal perusahaan melalui ketentuan layanan yang sebagian besar pengguna tidak pernah dibaca dengan cukup cermat untuk menyadarinya. Itu bukan zona abu-abu hukum. Itu adalah proses privat yang perlahan berubah menjadi standar publik.

Pertanyaan tentang asal-usul adalah hal yang paling sering saya pikirkan. Mengetahui model mana yang menghasilkan apa, dalam kondisi seperti apa, adalah lapisan yang akan membuat klaim kepemilikan benar-benar dapat diverifikasi. Saya menemukan OpenGradient saat mengikuti alur pemikiran ini, dan itu adalah salah satu dari sedikit tempat yang pernah saya lihat memperlakukan ini sebagai masalah infrastruktur, bukan masalah hukum.

Saat Anda membuat sesuatu dengan bantuan AI, siapa yang Anda anggap memiliki karya itu, dan mengapa?

@OpenGradient
$OPG
#OPG
$VELVET
$AGLD

Minggu lalu saya bertanya kepada asisten AI sesuatu yang tidak akan pernah saya ketikkan ke mesin pencari. Sesuatu yang personal. Saya mendapat jawaban dalam hitungan detik, menutup tab, dan baru kemudian menyadari saya tidak tahu apa yang terjadi di antaranya.

Kesenjangan itu mengganggu saya lebih dari yang saya kira.

Ada biaya dari jenis kelancaran seperti itu yang hampir tidak pernah disebut. Ketika sebuah pengalaman bekerja seketika dan tanpa usaha, ia tidak mengundang rasa ingin tahu tentang apa yang berjalan di baliknya. Gesekan menghilang, begitu pula pertanyaannya.

Kenyamanan—menurut saya—kadang hanya semacam ketidakjelasan dengan desain yang lebih baik.

Semakin sesuatu terasa mulus, semakin sedikit yang kita tanyakan: server mana yang memproses ini, siapa yang memiliki visibilitas terhadap permintaan itu, aturan apa yang mengatur lapisan tak terlihat tersebut. Tapi bukan sekadar bahwa orang tidak peduli. Ada sesuatu yang lebih halus yang terjadi. Kita telah dibiasakan untuk membaca “tanpa gesekan” sebagai “dipercaya”. Antarmuka yang mulus menandakan kompetensi. Ia jarang sekali menandakan penyembunyian, bahkan ketika itu juga sama-sama benar.

Kekeliruan ini—kemudahan sebagai bukti keamanan—mungkin merupakan asumsi desain paling menentukan yang belum pernah benar-benar kita setujui secara sadar.

Yang mengganggu saya adalah ini bukan semata masalah teknis. Ini masalah kerangka. Entah di mana, kita menerima versi AI yang memperlakukan transparansi dan kemudahan penggunaan sebagai hal yang saling berlawanan, seolah mempertanyakan sistem akan mematahkan mantra.

Saya baru-baru ini menemukan OpenGradient. Yang paling membekas bukan arsitektur teknisnya, melainkan asumsi yang tampaknya ingin ditolaknya: bahwa kemudahan penggunaan dan kemampuan untuk memverifikasi apa yang terjadi di baliknya adalah sesuatu yang saling eksklusif.

Apakah asumsi itu benar pada skala besar masih sesuatu yang sedang saya pantau. Tapi pertanyaan yang sedang dicoba dijawabnya terasa nyata.

Seberapa sering Anda memilih kenyamanan tanpa bertanya apa yang diam-diam Anda lepaskan sebagai gantinya?

@OpenGradient
$OPG
#OPG
$SYN
$BAS

Saya terus mencatat di ponsel saya setiap alat yang berhubungan dengan pekerjaan saya yang sebenarnya. Bukan aplikasi yang saya gunakan secara santai. Yang benar-benar sudah melalui proses pengambilan keputusan.

Saya mulai melakukannya setelah sesuatu yang dijelaskan oleh seorang rekan tahun lalu.

Dia telah menggunakan alat ringkasan AI untuk memproses laporan riset pasar untuk proyek klien. Berguna, efisien, tidak ada yang dia pikirkan dua kali. Kemudian klien menolak rekomendasi tersebut, merujuk pada kesimpulan yang tidak ada dalam ringkasannya. Ketika dia kembali ke dokumen asli, dia menemukan bahwa alat tersebut telah menimbang informasi dengan cara yang berbeda dari yang dia ingat. Outputnya tidak salah, tepatnya. Hanya cukup berbeda untuk berpengaruh.

Dia tidak memiliki cara untuk menunjukkan apa yang dihasilkan versi sebelumnya.
Apa yang membuat saya merasa tidak nyaman bukanlah kesalahan itu sendiri. Itu adalah ketiadaan titik tetap untuk kembali. Jika perilaku alat bisa berubah tanpa catatan atau pemberitahuan, maka semuanya yang dibangun di atasnya menjadi tidak dapat diandalkan dengan cara yang mungkin tidak pernah muncul.

Dan kemudian saya mulai berpikir tentang siapa yang memegang perubahan itu. Bukan siapa yang membangun modelnya, tetapi siapa yang memutuskan kapan perilakunya berubah, siapa yang membatasi akses, siapa yang mematikannya. Otoritas itu saat ini berada di tangan sejumlah kecil entitas. Ini tidak diumumkan. Tidak ada proses yang terlihat dari luar.

Itu adalah kekuatan yang berbeda dari kepemilikan. Ini adalah penulisan berkelanjutan atas sistem yang sudah terjalin dengan cara orang bekerja.

Saya menemukan OpenGradient saat merenungkan ini. Jaringan ini dirancang agar tidak ada pihak tunggal yang bisa mengubah perilaku model tanpa perubahan itu menjadi terlihat di seluruh sistem. Itu terasa seperti jawaban teknis yang pertama kali koheren untuk apa yang terus saya pikirkan.

Jika sebuah alat membentuk keputusan yang Anda buat enam bulan lalu dan sejak itu telah berubah, siapa yang akan Anda tanyakan?

@OpenGradient
$OPG
#OPG
$BTC
$BAS

Beberapa bulan yang lalu, seorang teman dekat bilang dia sudah bertanya kepada asisten AI tentang sesuatu yang sangat pribadi. Dia mendapat jawaban yang hati-hati dan terukur dalam hitungan detik dan merasa benar-benar terbantu. Saya mendengarkan, mengangguk, dan tidak mengatakan apa-apa.

Apa yang tidak saya katakan adalah bahwa saya melakukan hal yang sama persis seminggu sebelumnya, dengan kurangnya pemikiran tentang ke mana pertanyaan saya sebenarnya pergi.

Momen ketidakpahaman bersama itu tetap membekas di benak saya. Kelancaran pengalaman itu hampir menjadi inti. Semakin baik AI dalam memberikan jawaban, semakin sedikit kita merasa perlu bertanya tentang sistem yang memberikan jawaban. Kenyamanan berfungsi seperti semacam sedasi: itu tidak hanya mengatasi ketidakpastian, tetapi perlahan-lahan menghapus insting untuk mencari lebih jauh.

Apa yang diperdagangkan secara diam-diam adalah visibilitas. Bukan privasi dalam arti tradisional, yang setidaknya terasa mendesak. Sesuatu yang lebih halus: kemampuan untuk bertanya siapa yang memproses permintaan, di mana model dijalankan, infrastruktur apa yang membuat semua ini mungkin.

Polanya tidak baru. Sejarawan teknologi telah mencatatnya di setiap pergeseran infrastruktur besar, dari rel kereta api hingga telekomunikasi. Siapa pun yang mengendalikan ke mana barang bergerak dan bagaimana mereka diproses akhirnya membentuk apa yang diizinkan, dan untuk siapa. Kami belajar ini secara lambat dan menyakitkan dengan jaringan data. Kami tampaknya sampai pada pelajaran yang sama lagi, kali ini dengan inferensi.

Infrastruktur adalah tempat konsentrasi kontrol yang nyata berada. Itu biasanya tidak terlihat, hampir disengaja, karena visibilitas akan memperlambat adopsi yang membuat infrastruktur tersebut bernilai. Perdagangan ini bersifat struktural, bukan kebetulan.

Itulah yang membuat OpenGradient layak diperhatikan bagi saya. Bukan sebagai klaim produk, tetapi sebagai pertanyaan desain: dapatkah inferensi didesentralisasi tanpa menjadi tidak nyaman? Dapatkah verifiabilitas dan kemudahan penggunaan benar-benar coexist, alih-alih diperdagangkan satu sama lain?

Saya belum tahu. Tapi saya menyadari saya sedang mengajukan pertanyaan itu sekarang, yang tidak saya lakukan beberapa bulan yang lalu.

Seberapa sering Anda memilih kenyamanan tanpa bertanya apa yang diam-diam Anda perdagangkan untuk itu?

@OpenGradient
$OPG
#OPG
$HEI
$SLX

Tiga minggu yang lalu, saya bertanya kepada AI tentang sebuah pertanyaan yang sudah saya miliki pandangan yang kuat, mengubahnya dalam empat atau lima cara berbeda untuk melihat apa yang akan berubah. Hampir tidak ada yang berubah. Kerangka pikirnya tetap berada di tempat yang sama. Yang mengganggu saya bukanlah kesimpulannya. Tapi konsistensinya.

Kita telah membangun kebiasaan hati-hati untuk membaca bias dalam sebuah koran atau laporan think tank. Kita bertanya siapa yang mendanainya, siapa yang mengeditnya. Hampir tidak ada yang mengajukan pertanyaan itu kepada sebuah model.

Setiap AI tiba dalam bentuk yang sudah dibentuk sebelumnya. Apa yang dihitung sebagai sinyal pelatihan yang benar, apa yang disaring, apa yang mendapatkan bobot lebih. Ini bukan bug. Ini adalah keputusan. Masalahnya adalah keputusan tersebut terbenam daripada terdokumentasi.

Ada asimetri aneh di sini. Sebuah jam dapat dibongkar, logikanya ditelusuri gear demi gear. Kepemilikan sebuah koran terletak dalam dokumen pengungkapan. Tetapi pilihan yang membentuk pemahaman model tentang apa yang benar, apa yang seimbang, kesimpulan mana yang "masuk akal," itu terletak di dalam bobot, tidak dapat diakses oleh siapa pun yang menjalankan model.

Kita telah mempercayai memori institusional sebelumnya tanpa memeriksa arsitekturnya. Model penilaian kredit dari tahun 1980-an menyandi asumsi tentang risiko yang memerlukan beberapa dekade untuk muncul dan ditantang. Yang berbeda sekarang adalah skala dan kedekatan. Kerangka telah menjadi percakapan. Ia berdiskusi denganmu. Kedekatan itu membuat distorsi lebih sulit untuk diperhatikan.

Hal yang secara struktural mengubah ini bukanlah lebih banyak pengungkapan dari para pembangun. Ini adalah infrastruktur yang memungkinkan verifikasi dari luar hubungan pembangun. Itulah yang menarik perhatian saya ke OpenGradient, yang bekerja di lapisan ini.

Saya tidak yakin kebanyakan orang ingin melihat dengan begitu dekat.
Tapi jika kamu menemukan asumsi yang membentuk AI yang paling sering kamu gunakan telah dibangun di sekitar prioritas yang akan kamu tolak, apakah kamu ingin tahu?

@OpenGradient
$OPG
#OPG
$SYN
$BEL