Saya terus mencatat di ponsel saya setiap alat yang berhubungan dengan pekerjaan saya yang sebenarnya. Bukan aplikasi yang saya gunakan secara santai. Yang benar-benar sudah melalui proses pengambilan keputusan.
Saya mulai melakukannya setelah sesuatu yang dijelaskan oleh seorang rekan tahun lalu.
Dia telah menggunakan alat ringkasan AI untuk memproses laporan riset pasar untuk proyek klien. Berguna, efisien, tidak ada yang dia pikirkan dua kali. Kemudian klien menolak rekomendasi tersebut, merujuk pada kesimpulan yang tidak ada dalam ringkasannya. Ketika dia kembali ke dokumen asli, dia menemukan bahwa alat tersebut telah menimbang informasi dengan cara yang berbeda dari yang dia ingat. Outputnya tidak salah, tepatnya. Hanya cukup berbeda untuk berpengaruh.
Dia tidak memiliki cara untuk menunjukkan apa yang dihasilkan versi sebelumnya.
Apa yang membuat saya merasa tidak nyaman bukanlah kesalahan itu sendiri. Itu adalah ketiadaan titik tetap untuk kembali. Jika perilaku alat bisa berubah tanpa catatan atau pemberitahuan, maka semuanya yang dibangun di atasnya menjadi tidak dapat diandalkan dengan cara yang mungkin tidak pernah muncul.
Dan kemudian saya mulai berpikir tentang siapa yang memegang perubahan itu. Bukan siapa yang membangun modelnya, tetapi siapa yang memutuskan kapan perilakunya berubah, siapa yang membatasi akses, siapa yang mematikannya. Otoritas itu saat ini berada di tangan sejumlah kecil entitas. Ini tidak diumumkan. Tidak ada proses yang terlihat dari luar.
Itu adalah kekuatan yang berbeda dari kepemilikan. Ini adalah penulisan berkelanjutan atas sistem yang sudah terjalin dengan cara orang bekerja.
Saya menemukan OpenGradient saat merenungkan ini. Jaringan ini dirancang agar tidak ada pihak tunggal yang bisa mengubah perilaku model tanpa perubahan itu menjadi terlihat di seluruh sistem. Itu terasa seperti jawaban teknis yang pertama kali koheren untuk apa yang terus saya pikirkan.
Jika sebuah alat membentuk keputusan yang Anda buat enam bulan lalu dan sejak itu telah berubah, siapa yang akan Anda tanyakan?
@OpenGradient
$OPG
#OPG
$BTC
$BAS
Saya mulai melakukannya setelah sesuatu yang dijelaskan oleh seorang rekan tahun lalu.
Dia telah menggunakan alat ringkasan AI untuk memproses laporan riset pasar untuk proyek klien. Berguna, efisien, tidak ada yang dia pikirkan dua kali. Kemudian klien menolak rekomendasi tersebut, merujuk pada kesimpulan yang tidak ada dalam ringkasannya. Ketika dia kembali ke dokumen asli, dia menemukan bahwa alat tersebut telah menimbang informasi dengan cara yang berbeda dari yang dia ingat. Outputnya tidak salah, tepatnya. Hanya cukup berbeda untuk berpengaruh.
Dia tidak memiliki cara untuk menunjukkan apa yang dihasilkan versi sebelumnya.
Apa yang membuat saya merasa tidak nyaman bukanlah kesalahan itu sendiri. Itu adalah ketiadaan titik tetap untuk kembali. Jika perilaku alat bisa berubah tanpa catatan atau pemberitahuan, maka semuanya yang dibangun di atasnya menjadi tidak dapat diandalkan dengan cara yang mungkin tidak pernah muncul.
Dan kemudian saya mulai berpikir tentang siapa yang memegang perubahan itu. Bukan siapa yang membangun modelnya, tetapi siapa yang memutuskan kapan perilakunya berubah, siapa yang membatasi akses, siapa yang mematikannya. Otoritas itu saat ini berada di tangan sejumlah kecil entitas. Ini tidak diumumkan. Tidak ada proses yang terlihat dari luar.
Itu adalah kekuatan yang berbeda dari kepemilikan. Ini adalah penulisan berkelanjutan atas sistem yang sudah terjalin dengan cara orang bekerja.
Saya menemukan OpenGradient saat merenungkan ini. Jaringan ini dirancang agar tidak ada pihak tunggal yang bisa mengubah perilaku model tanpa perubahan itu menjadi terlihat di seluruh sistem. Itu terasa seperti jawaban teknis yang pertama kali koheren untuk apa yang terus saya pikirkan.
Jika sebuah alat membentuk keputusan yang Anda buat enam bulan lalu dan sejak itu telah berubah, siapa yang akan Anda tanyakan?
@OpenGradient
$OPG
#OPG
$BTC
$BAS