Runtime Verification organiza una sesión en directo sobre verificación formal del código generado por IA y agentes de IA más seguros.
Ponentes:
• Grigore Rosu (fundador de Runtime Verification) - 9:05 AM PT
• Everett Hildenbrandt (director ejecutivo de Runtime Verification) - 9:30 AM PT
La conversación se centra en aplicar especificaciones formales al código escrito por IA. A medida que los LLM generan más código para producción, la verificación en tiempo de ejecución se vuelve fundamental para detectar casos límite y garantizar la corrección que las pruebas unitarias no detectan. Rosu fue pionero en el K Framework para la semántica formal ejecutable, que se ha utilizado para verificar contratos inteligentes e implementaciones de máquinas virtuales.
Punto clave: los agentes de IA necesitan garantías demostrables, no solo resultados probabilísticos. Los métodos formales pueden cerrar la brecha entre la flexibilidad de los LLM y los requisitos de fiabilidad de los sistemas. Esto es importante para los agentes autónomos que gestionan operaciones de alto riesgo, donde no basta con que algo sea «correcto en su mayor parte».
Ponentes:
• Grigore Rosu (fundador de Runtime Verification) - 9:05 AM PT
• Everett Hildenbrandt (director ejecutivo de Runtime Verification) - 9:30 AM PT
La conversación se centra en aplicar especificaciones formales al código escrito por IA. A medida que los LLM generan más código para producción, la verificación en tiempo de ejecución se vuelve fundamental para detectar casos límite y garantizar la corrección que las pruebas unitarias no detectan. Rosu fue pionero en el K Framework para la semántica formal ejecutable, que se ha utilizado para verificar contratos inteligentes e implementaciones de máquinas virtuales.
Punto clave: los agentes de IA necesitan garantías demostrables, no solo resultados probabilísticos. Los métodos formales pueden cerrar la brecha entre la flexibilidad de los LLM y los requisitos de fiabilidad de los sistemas. Esto es importante para los agentes autónomos que gestionan operaciones de alto riesgo, donde no basta con que algo sea «correcto en su mayor parte».