#newt $NEWT Semakin saya memikirkan Newton Protocol, semakin kecil keyakinan saya bahwa inovasi terbesarnya adalah membuktikan apa yang dilakukan oleh sebuah agen AI.
Bagian yang menarik justru apa yang tidak dibuktikannya.
Jika sebuah agen AI mengikuti setiap aturan dengan tepat, itu bagus. Newton bisa memberikan bukti bahwa agen tersebut tetap berada dalam batas yang telah ditetapkan.
Namun, ada pertanyaan yang membuat tidak nyaman:
Bagaimana jika aturan-aturan itu sendiri sebenarnya tidak bagus?
Bukti kriptografis dapat memverifikasi kepatuhan. Bukannya dapat memverifikasi penilaian.
Bayangkan dua perusahaan yang memakai sistem AI yang sama. Kedua agen mengikuti kebijakan dengan sempurna. Keduanya menghasilkan bukti yang valid. Namun satu perusahaan memiliki kebijakan yang dipikirkan matang, disusun untuk situasi dunia nyata, sementara perusahaan lainnya terburu-buru menyusun aturannya hanya agar bisa mengotomatisasi lebih cepat.
Secara teknis, kedua agen AI berhasil.
Namun secara praktis, hasilnya bisa benar-benar berbeda.
Itulah sebabnya saya berpikir Newton tidak menggantikan penilaian manusia—Newton justru menunjukkan di mana penilaian manusia sebenarnya paling penting.
Saat AI menjadi lebih mudah untuk diverifikasi, tantangan nyata mungkin tidak lagi sekadar bertanya, "Apakah agen itu mengikuti aturan?"
Sebaliknya, kita harus bertanya, "Siapa yang menulis aturan-aturan itu, dan apakah aturan tersebut masih yang tepat?"
Mungkin itulah percakapan yang lebih dibutuhkan dalam tata kelola AI.
@NewtonProtocol #Newt $NEWT
Bagian yang menarik justru apa yang tidak dibuktikannya.
Jika sebuah agen AI mengikuti setiap aturan dengan tepat, itu bagus. Newton bisa memberikan bukti bahwa agen tersebut tetap berada dalam batas yang telah ditetapkan.
Namun, ada pertanyaan yang membuat tidak nyaman:
Bagaimana jika aturan-aturan itu sendiri sebenarnya tidak bagus?
Bukti kriptografis dapat memverifikasi kepatuhan. Bukannya dapat memverifikasi penilaian.
Bayangkan dua perusahaan yang memakai sistem AI yang sama. Kedua agen mengikuti kebijakan dengan sempurna. Keduanya menghasilkan bukti yang valid. Namun satu perusahaan memiliki kebijakan yang dipikirkan matang, disusun untuk situasi dunia nyata, sementara perusahaan lainnya terburu-buru menyusun aturannya hanya agar bisa mengotomatisasi lebih cepat.
Secara teknis, kedua agen AI berhasil.
Namun secara praktis, hasilnya bisa benar-benar berbeda.
Itulah sebabnya saya berpikir Newton tidak menggantikan penilaian manusia—Newton justru menunjukkan di mana penilaian manusia sebenarnya paling penting.
Saat AI menjadi lebih mudah untuk diverifikasi, tantangan nyata mungkin tidak lagi sekadar bertanya, "Apakah agen itu mengikuti aturan?"
Sebaliknya, kita harus bertanya, "Siapa yang menulis aturan-aturan itu, dan apakah aturan tersebut masih yang tepat?"
Mungkin itulah percakapan yang lebih dibutuhkan dalam tata kelola AI.
@NewtonProtocol #Newt $NEWT