#opg $OPG
Estos días he estado pensando en una cuestión que pocos en el círculo de IA mencionan, pero que considero súper importante: todos están a toda máquina tratando de hacer que la IA sea más inteligente y rápida, pero ¿cómo hacemos para que sepa cuándo «dejar de operar»?
Suena un poco gracioso, pero piénsalo. Si en el futuro realmente le entregamos nuestra cartera a la IA para que gestione nuestras finanzas y realice órdenes automáticamente, lo que más me preocupa no es que se vuelva perezosa, sino que empiece a «cometer errores graves» con seriedad. Los humanos dudan y tienen miedo al equivocarse, pero la IA no tiene emociones. Si su lógica falla, realmente puede arruinar todo con la máxima eficiencia.
Por eso he estado revisando @OpenGradient ($OPG ) últimamente.
La gente afuera puede pensar que es para demostrar que la IA no puede engañar (o por esas tecnologías de blockchain), pero yo valoro su «razonamiento verificable».
Este concepto es como la caja negra de un avión; aunque no necesariamente te salve, cuando la IA realmente falla, al menos puedes revisar los registros y ver claramente en qué paso se equivocó.
Sé que documentar todo el proceso de pensamiento de la IA tiene un costo de mantenimiento altísimo, suena agotador. Pero piensa en cómo al principio, cuando programábamos, todos creían que escribir registros y hacer copias de seguridad era un fastidio y que no tenía mucho sentido. ¿Y ahora? ¿No se ha convertido en el «conocimiento básico» del funcionamiento del sistema?
Así que ahora, al mirar #opg , la verdad es que estoy muy conflictuado. Siento que es un «imprescindible» del futuro, pero la tecnología aún parece un poco torpe. Pero pensándolo bien, ¿no es así como evoluciona la tecnología? De un «sprint ciego» desordenado, a convertirse lentamente en un «estándar industrial» ordenado.
Estos días he estado pensando en una cuestión que pocos en el círculo de IA mencionan, pero que considero súper importante: todos están a toda máquina tratando de hacer que la IA sea más inteligente y rápida, pero ¿cómo hacemos para que sepa cuándo «dejar de operar»?
Suena un poco gracioso, pero piénsalo. Si en el futuro realmente le entregamos nuestra cartera a la IA para que gestione nuestras finanzas y realice órdenes automáticamente, lo que más me preocupa no es que se vuelva perezosa, sino que empiece a «cometer errores graves» con seriedad. Los humanos dudan y tienen miedo al equivocarse, pero la IA no tiene emociones. Si su lógica falla, realmente puede arruinar todo con la máxima eficiencia.
Por eso he estado revisando @OpenGradient ($OPG ) últimamente.
La gente afuera puede pensar que es para demostrar que la IA no puede engañar (o por esas tecnologías de blockchain), pero yo valoro su «razonamiento verificable».
Este concepto es como la caja negra de un avión; aunque no necesariamente te salve, cuando la IA realmente falla, al menos puedes revisar los registros y ver claramente en qué paso se equivocó.
Sé que documentar todo el proceso de pensamiento de la IA tiene un costo de mantenimiento altísimo, suena agotador. Pero piensa en cómo al principio, cuando programábamos, todos creían que escribir registros y hacer copias de seguridad era un fastidio y que no tenía mucho sentido. ¿Y ahora? ¿No se ha convertido en el «conocimiento básico» del funcionamiento del sistema?
Así que ahora, al mirar #opg , la verdad es que estoy muy conflictuado. Siento que es un «imprescindible» del futuro, pero la tecnología aún parece un poco torpe. Pero pensándolo bien, ¿no es así como evoluciona la tecnología? De un «sprint ciego» desordenado, a convertirse lentamente en un «estándar industrial» ordenado.