Semakin banyak waktu yang saya habiskan untuk memikirkan AI, semakin saya merasa bahwa keandalan berarti lebih daripada sekadar mendapatkan jawaban yang benar.
Kebanyakan percakapan masih berfokus pada akurasi. Seberapa sering model itu benar? Apakah model itu mengalahkan sebuah tolok ukur? Apakah kinerjanya lebih baik daripada versi sebelumnya?
Hal-hal itu penting. Tetapi dalam dunia nyata, tidak ada sistem yang sempurna.
Model akan membuat kesalahan. Data akan berubah. Situasi yang tak terduga akan muncul. Kegagalan adalah bagian dari setiap sistem kompleks.
Yang lebih menarik bagi saya adalah apa yang terjadi setelah sesuatu berjalan salah.
Bisakah kita mencari tahu mengapa sistem itu gagal? Bisakah kita menelusuri kembali dan memahami apa yang mengarah pada hasil tersebut? Apakah ada cukup informasi untuk menyelidiki apa yang terjadi, atau kita hanya dibiarkan menebak?
Inilah salah satu alasan mengapa OpenGradient sudah ada di radar saya.
Awalnya, saya mengira penarikan kesimpulan yang dapat diverifikasi terutama tentang membuktikan bahwa sebuah komputasi telah terjadi. Sekarang saya melihatnya dengan cara yang berbeda. Nilai nyatanya mungkin terletak pada membuat sistem AI lebih mudah dipahami dan diaudit ketika kepercayaan dipertanyakan.
Bayangkan dua sistem AI membuat kesalahan yang sama.
Yang satu meninggalkan catatan yang jelas yang menunjukkan bagaimana keputusan itu diambil.
Yang lain hanya memberikan keluaran tanpa penjelasan.
Keduanya gagal, tetapi hanya satu yang memberi kita kesempatan untuk belajar, meningkatkan, dan membangun kembali kepercayaan.
Saat AI semakin terlibat dalam keputusan keuangan, operasional, dan keputusan penting lainnya, perbedaan itu bisa sangat berarti.
Akurasi memberi tahu kita apakah sebuah sistem benar.
Memahami mengapa ia salah mungkin sama pentingnya.
@OpenGradient #OPG $OPG
Kebanyakan percakapan masih berfokus pada akurasi. Seberapa sering model itu benar? Apakah model itu mengalahkan sebuah tolok ukur? Apakah kinerjanya lebih baik daripada versi sebelumnya?
Hal-hal itu penting. Tetapi dalam dunia nyata, tidak ada sistem yang sempurna.
Model akan membuat kesalahan. Data akan berubah. Situasi yang tak terduga akan muncul. Kegagalan adalah bagian dari setiap sistem kompleks.
Yang lebih menarik bagi saya adalah apa yang terjadi setelah sesuatu berjalan salah.
Bisakah kita mencari tahu mengapa sistem itu gagal? Bisakah kita menelusuri kembali dan memahami apa yang mengarah pada hasil tersebut? Apakah ada cukup informasi untuk menyelidiki apa yang terjadi, atau kita hanya dibiarkan menebak?
Inilah salah satu alasan mengapa OpenGradient sudah ada di radar saya.
Awalnya, saya mengira penarikan kesimpulan yang dapat diverifikasi terutama tentang membuktikan bahwa sebuah komputasi telah terjadi. Sekarang saya melihatnya dengan cara yang berbeda. Nilai nyatanya mungkin terletak pada membuat sistem AI lebih mudah dipahami dan diaudit ketika kepercayaan dipertanyakan.
Bayangkan dua sistem AI membuat kesalahan yang sama.
Yang satu meninggalkan catatan yang jelas yang menunjukkan bagaimana keputusan itu diambil.
Yang lain hanya memberikan keluaran tanpa penjelasan.
Keduanya gagal, tetapi hanya satu yang memberi kita kesempatan untuk belajar, meningkatkan, dan membangun kembali kepercayaan.
Saat AI semakin terlibat dalam keputusan keuangan, operasional, dan keputusan penting lainnya, perbedaan itu bisa sangat berarti.
Akurasi memberi tahu kita apakah sebuah sistem benar.
Memahami mengapa ia salah mungkin sama pentingnya.
@OpenGradient #OPG $OPG