Saya pikir bagian yang berisiko pada inferensi private OpenGradient adalah enclave.
Tapi saya malah terus kembali ke hash permintaan.
Itu tanda buruk.
Karena versi yang rapi terdengar sangat bagus. Permintaan yang disegel masuk. TEE menjawabnya. Output yang ditandatangani kembali. SDK memeriksa "tee_request_hash" dan melihat itu cocok dengan apa yang benar-benar dikirim klien.
Objek penghibur kecil yang nyaman.
Tapi yang berbahaya.
Misalnya ada desk risiko internal yang menggunakan inferensi private OpenGradient pada memo kredit atau catatan sanksi. Prompt-nya dibingkai di hulu. Buruknya, mungkin terlalu sempit. Kurang konteks. Seseorang menyelundupkan asumsi busuk dan menyebutnya konteks. Lalu permintaan yang disegel masuk, TEE menjawab, output yang ditandatangani kembali, SDK memeriksa "tee_request_hash", semua orang menghela napas setengah langkah terlalu cepat.
Itulah pemisahannya.
@OpenGradient "tee_request_hash" cocok.
SDK puas.
Pembingkaian prompt masih bisa jadi sampah.
Bagian itu terus mengganggu saya.
Karena setelah SDK melihat "tee_request_hash" cocok, prompt mulai “meminjam” peninjauan yang tak pernah didapatnya. Itu membuktikan korespondensi. Hanya itu.
Permintaan terselubung (sealed request) yang sama masuk.
Permintaan terselubung (sealed request) yang sama dijawab.
Oke.
Tapi bisa saja prompt-nya yang salah.
Saya sudah pernah melihat langkah seperti itu sebelumnya. Satu pemeriksaan kecil yang persis lulus dan seluruh ruangan mulai rileks di tempat yang salah. Review jadi longgar. Output tertandatangan ada di OpenGradient. "tee_request_hash" ada di sana. Tiba-tiba tidak ada yang mau membuka lagi pembingkaian prompt.
Indah.
Dan pada saat itu, OpenGradient sudah melakukan tugasnya. Jalur TEE terlewati. "tee_request_hash" cocok. Output tertandatangan ada di sana. Bagian yang buruk justru terjadi lebih awal. Pembingkaian prompt. Penilaian input. Apa pun shortcut manusia kecil yang sempat dimasukkan sebelum enclave pernah melihat file.
Jadi di mana letak kesalahannya?
Bukan di hash.
Itulah bagian yang mengganggu.
Kalau prompt-nya salah dan "tee_request_hash" benar, apa sebenarnya yang diverifikasi selain kesalahan yang terkirim tetap sampai utuh?
Hal yang salah. Terkirim dengan benar. apa pun.
@OpenGradient $OPG #OPG
Tapi saya malah terus kembali ke hash permintaan.
Itu tanda buruk.
Karena versi yang rapi terdengar sangat bagus. Permintaan yang disegel masuk. TEE menjawabnya. Output yang ditandatangani kembali. SDK memeriksa "tee_request_hash" dan melihat itu cocok dengan apa yang benar-benar dikirim klien.
Objek penghibur kecil yang nyaman.
Tapi yang berbahaya.
Misalnya ada desk risiko internal yang menggunakan inferensi private OpenGradient pada memo kredit atau catatan sanksi. Prompt-nya dibingkai di hulu. Buruknya, mungkin terlalu sempit. Kurang konteks. Seseorang menyelundupkan asumsi busuk dan menyebutnya konteks. Lalu permintaan yang disegel masuk, TEE menjawab, output yang ditandatangani kembali, SDK memeriksa "tee_request_hash", semua orang menghela napas setengah langkah terlalu cepat.
Itulah pemisahannya.
@OpenGradient "tee_request_hash" cocok.
SDK puas.
Pembingkaian prompt masih bisa jadi sampah.
Bagian itu terus mengganggu saya.
Karena setelah SDK melihat "tee_request_hash" cocok, prompt mulai “meminjam” peninjauan yang tak pernah didapatnya. Itu membuktikan korespondensi. Hanya itu.
Permintaan terselubung (sealed request) yang sama masuk.
Permintaan terselubung (sealed request) yang sama dijawab.
Oke.
Tapi bisa saja prompt-nya yang salah.
Saya sudah pernah melihat langkah seperti itu sebelumnya. Satu pemeriksaan kecil yang persis lulus dan seluruh ruangan mulai rileks di tempat yang salah. Review jadi longgar. Output tertandatangan ada di OpenGradient. "tee_request_hash" ada di sana. Tiba-tiba tidak ada yang mau membuka lagi pembingkaian prompt.
Indah.
Dan pada saat itu, OpenGradient sudah melakukan tugasnya. Jalur TEE terlewati. "tee_request_hash" cocok. Output tertandatangan ada di sana. Bagian yang buruk justru terjadi lebih awal. Pembingkaian prompt. Penilaian input. Apa pun shortcut manusia kecil yang sempat dimasukkan sebelum enclave pernah melihat file.
Jadi di mana letak kesalahannya?
Bukan di hash.
Itulah bagian yang mengganggu.
Kalau prompt-nya salah dan "tee_request_hash" benar, apa sebenarnya yang diverifikasi selain kesalahan yang terkirim tetap sampai utuh?
Hal yang salah. Terkirim dengan benar. apa pun.
@OpenGradient $OPG #OPG