Aku terus memikirkan kontradiksi aneh dalam AI.
Semua orang membicarakan kecerdasan seolah-olah itu sumber daya yang langka. Model yang lebih baik. Agen yang lebih baik. Penalaran yang lebih baik.
Tapi semakin aku melihat infrastruktur AI, semakin terasa ada sesuatu yang janggal.
Kecerdasan makin murah setiap tahun.
Verifikasi tidak.
Aku mulai menyebut ini Trust Congestion.
Ini yang terjadi ketika produksi kecerdasan tumbuh lebih cepat daripada kemampuan untuk memverifikasinya.
Awalnya, semakin banyak model menciptakan semakin banyak nilai. Lalu titik puncak mulai muncul.
Output menjadi melimpah.
Keyakinan menjadi melimpah.
Klaim menjadi melimpah.
Namun bukti tetap langka.
Di situlah insentif berubah.
Pelaku rasional berhenti mengoptimalkan agar benar dan mulai mengoptimalkan agar diterima sebagai benar.
Pasar secara perlahan memberi imbalan pada keluaran yang lebih persuasif daripada yang bisa diverifikasi.
Yang tadinya terlihat seperti ekonomi kecerdasan diam-diam berubah menjadi ekonomi kepercayaan.
Itulah sebabnya aku menganggap OpenGradient menarik.
Bukan karena itu membantu menghasilkan kecerdasan.
Melainkan karena itu mengarah pada kemacetan yang berbeda.
Di kebanyakan pasar digital, lapisan nilai tertinggi bukanlah penciptaan. Itu koordinasi.
Pencarian mengoordinasikan informasi.
Pertukaran mengoordinasikan modal.
Jaringan verifikasi pada akhirnya mungkin akan mengoordinasikan kecerdasan.
Jika itu terjadi, pertanyaan paling penting untuk AI tidak lagi "Seberapa pintar model bisa menjadi?"
Melainkan:
"Seberapa murah masyarakat bisa memverifikasi apa yang dihasilkan model?"
Jawaban atas pertanyaan itu mungkin akan menentukan di mana nilai akhirnya terkumpul dalam ekonomi AI.
Dan itu terasa jauh lebih penting daripada perlombaan untuk model yang lebih besar.
$OPG #OPG @OpenGradient
Semua orang membicarakan kecerdasan seolah-olah itu sumber daya yang langka. Model yang lebih baik. Agen yang lebih baik. Penalaran yang lebih baik.
Tapi semakin aku melihat infrastruktur AI, semakin terasa ada sesuatu yang janggal.
Kecerdasan makin murah setiap tahun.
Verifikasi tidak.
Aku mulai menyebut ini Trust Congestion.
Ini yang terjadi ketika produksi kecerdasan tumbuh lebih cepat daripada kemampuan untuk memverifikasinya.
Awalnya, semakin banyak model menciptakan semakin banyak nilai. Lalu titik puncak mulai muncul.
Output menjadi melimpah.
Keyakinan menjadi melimpah.
Klaim menjadi melimpah.
Namun bukti tetap langka.
Di situlah insentif berubah.
Pelaku rasional berhenti mengoptimalkan agar benar dan mulai mengoptimalkan agar diterima sebagai benar.
Pasar secara perlahan memberi imbalan pada keluaran yang lebih persuasif daripada yang bisa diverifikasi.
Yang tadinya terlihat seperti ekonomi kecerdasan diam-diam berubah menjadi ekonomi kepercayaan.
Itulah sebabnya aku menganggap OpenGradient menarik.
Bukan karena itu membantu menghasilkan kecerdasan.
Melainkan karena itu mengarah pada kemacetan yang berbeda.
Di kebanyakan pasar digital, lapisan nilai tertinggi bukanlah penciptaan. Itu koordinasi.
Pencarian mengoordinasikan informasi.
Pertukaran mengoordinasikan modal.
Jaringan verifikasi pada akhirnya mungkin akan mengoordinasikan kecerdasan.
Jika itu terjadi, pertanyaan paling penting untuk AI tidak lagi "Seberapa pintar model bisa menjadi?"
Melainkan:
"Seberapa murah masyarakat bisa memverifikasi apa yang dihasilkan model?"
Jawaban atas pertanyaan itu mungkin akan menentukan di mana nilai akhirnya terkumpul dalam ekonomi AI.
Dan itu terasa jauh lebih penting daripada perlombaan untuk model yang lebih besar.
$OPG #OPG @OpenGradient