La prima volta che un'azienda dice: “l'IA suggerisce solo”, puoi quasi sentire il dipartimento legale respirare più facilmente.

Perché “suggerimento” è uno scudo conveniente. Il modello produce l'output. Un umano clicca su approva. Se qualcosa va storto, la responsabilità si dissolve in diagrammi di processo e grafici di flusso. Il sistema ha agito, ma nessuno possedeva veramente l'azione.

Questa è la vera crisi di responsabilità nell'IA. Non si tratta principalmente di precisione del modello, costi o latenza. Si tratta di responsabilità. Quando una decisione guidata dall'IA causa danno — un prestito negato, una transazione segnalata, una raccomandazione medica, un avviso di conformità — chi si fa carico dell'onere della prova?