Ultimamente tenho pensado em como toda conversa sobre IA parece voltar à mesma coisa. Modelos mais rápidos, conjuntos de dados maiores, previsões mais inteligentes. É quase como se o progresso fosse medido apenas pela rapidez com que uma IA consegue fazer algo em comparação com ontem. Eu entendo por que isso é empolgante, mas também sinto que estamos começando a deixar de lado outra pergunta que pode importar tanto quanto.

O que acontece depois que uma IA toma uma decisão?

Isso parece simples, mas eu não acho que isso seja discutido o bastante. Se uma IA recomenda um investimento, movimenta ativos digitais ou toma decisões que envolvem dinheiro de verdade, não deveria existir uma forma de voltar no tempo e entender o que realmente aconteceu? Não necessariamente cada cálculo minúsculo dentro do modelo, mas pelo menos algum jeito confiável de verificar se a ação realmente aconteceu do jeito que deveria.