Antes pensaba que la inteligencia sería el problema más difícil que las máquinas tendrían que resolver alguna vez. Si una IA pudiera razonar más rápido que las personas, reconocer patrones con más precisión y tomar mejores decisiones bajo presión, asumía que la confianza seguiría naturalmente. Parecía evidente. La historia siempre ha recompensado a quien resolvió el problema técnico más difícil. Los mejores motores reemplazaron a los más lentos. Los mejores algoritmos reemplazaron a los más simples. Las mejores herramientas reemplazaron a los hábitos desactualizados. Creía que la IA seguiría el mismo camino: que, cuando las máquinas fueran lo suficientemente inteligentes, el resto se resolvería por sí solo.
Ya no creo eso.
Cuanto más veo que la IA va más allá de los laboratorios de investigación y entra en sistemas financieros, trading autónomo y toma de decisiones en cadena, más me doy cuenta de que la inteligencia solo es el precio de entrada. el verdadero reto comienza después de que el modelo produce su primera respuesta. Lo que importa no es si puede tomar una decisión brillante. Lo que importa es si puede tomar diez mil decisiones responsables sin desviarse en silencio hacia el fallo. La confianza no surge de una puntuación en un benchmark ni de una demo cuidadosamente diseñada. Se acumula a través del comportamiento. Lentamente. En silencio. Casi imperceptiblemente.
Ese descubrimiento cambió la forma en que pienso sobre la IA.
Durante años, la conversación giró en torno a modelos más grandes, inferencia más rápida, costos más bajos y mayor precisión. Cada avance parecía un paso más hacia un futuro en el que las máquinas superarían a los humanos en casi cualquier tarea cognitiva. Celebrábamos la inteligencia como si fuera el destino final. Mirando hacia atrás, me pregunto si era solo el comienzo. La inteligencia se está volviendo cada vez más accesible. Los modelos abiertos mejoran cada mes. El hardware se vuelve más eficiente. El conocimiento se difunde rápidamente. Lo que antes se sentía extraordinario ahora se da por hecho. Cuando la abundancia reemplaza la escasez, el valor se desplaza a otro lugar.
Quizá ese “en otro lugar” es la reputación.
Los humanos siempre han dependido de la reputación porque el futuro es incierto. Confiamos en las personas que muestran buen criterio de forma constante, no porque sean perfectas, sino porque han demostrado repetidamente fiabilidad cuando las circunstancias cambiaron. La reputación es, en realidad, historia comprimida. Es un registro de conductas que nos ayuda a predecir qué es probable que haga alguien a continuación. Lo extraño es que, aunque los mercados se han vuelto increíblemente eficientes valorando activos, siguen siendo notablemente ineficientes valorando la fiabilidad. Podemos ver cómo se mueven miles de millones de dólares cada segundo, pero aun así nos cuesta medir si los sistemas que toman esas decisiones merecen nuestra confianza.
La IA hereda este problema en una forma aún más dura.
Una máquina puede ejecutar miles de acciones exitosas sin que nadie las recuerde. Puede prevenir errores en silencio, optimizar operaciones y seguir las políticas exactamente como se le indicó durante meses. Sin embargo, una sola falla catastrófica puede borrar todo el éxito previo en la imaginación pública. Los humanos reciben el beneficio del contexto. Las máquinas rara vez lo hacen. Entendemos que las personas se cansan, se vuelven emocionales, se distraen o se sienten desbordadas. A menudo perdonamos porque nos reconocemos en esas imperfecciones. Las máquinas no reciben esa empatía. Se espera que sean consistentemente correctas mientras operan dentro de entornos definidos por la irracionalidad humana. Esa carga de la prueba nunca desaparece realmente.
Cuanto más lo pienso, menos convencido estoy de que el futuro pertenezca a la IA más inteligente. Sospecho que pertenecerá a la IA cuya historia pueda resistir el escrutinio. La inteligencia responde a la pregunta: “¿Puede este sistema resolver el problema?”. La reputación responde otra pregunta, y quizá más importante: “¿Debería confiarse en este sistema para resolverlo de nuevo mañana?”.
Esa diferencia se siente sutil, pero cambia casi todo.
Cuanto más veo que la IA se convierte en parte de los sistemas financieros, menos creo que la inteligencia “cruda” determine a los ganadores. La inteligencia se está volviendo abundante. Los modelos mejoran, los costos bajan y las capacidades se difunden más rápido que casi cualquiera había previsto. Lo que parece mucho más difícil de reproducir es una historia creíble de buenas decisiones. Esto es algo que no dejo de notar. Hemos pasado años construyendo mercados que valoran activos cada segundo, pero aun así nos cuesta valorar la fiabilidad. Quizá ese sea el siguiente recurso escaso.
@NewtonProtocol #Newt #newt $NEWT
