@NewtonProtocol $NEWT #newt Jeder spricht davon, autonome Agenten intelligenter zu machen.
Wir vergleichen Modelle, Denkfähigkeit, Geschwindigkeit und Vorhersagequalität, als wäre Intelligenz das Einzige, was zwischen der heutigen Automatisierung und der Infrastruktur von morgen steht.
Ich glaube nicht, dass das die ganze Geschichte ist.
Während ich über das Newton-Protokoll nachdachte, zog eine andere Frage meine Aufmerksamkeit immer wieder von der Modellleistung weg.
Was passiert zwischen einer Entscheidung und ihrer Umsetzung?
Es ist ein erstaunlich kleines Zeitfenster.
Manchmal sind es nur Sekunden.
Manchmal Millisekunden.
Und doch ist dieses winzige Zeitfenster der Ort, an dem sich der Kontext unbemerkt verändern kann.
Liquidität verschiebt sich.
Berechtigungen ändern sich.
Richtlinien entwickeln sich.
Neue Informationen tauchen auf.
Ein Agent kann eine vollkommen rationale Entscheidung auf Basis der Informationen treffen, die er zu Beginn eines Workflows hatte, und dennoch die falsche Aktion ausführen, weil sich die Realität geändert hat, bevor die Ausführung erfolgt.
Diese Idee hat mich dazu gebracht, die Automatisierung selbst neu zu durchdenken.
Vielleicht ist Intelligenz nicht die Ebene, der die meiste Aufmerksamkeit zusteht.
Vielleicht ist der fragile Teil autonomer Systeme die Annahme, dass die Umgebung stabil bleibt, während Entscheidungen sich auf dem Weg zur Ausführung bewegen.
Das Newton Protocol hat mir einen anderen Denkansatz für diese Annahme gegeben.
Anstatt die Ausführung als automatische Folge einer vorherigen Entscheidung zu behandeln, wirkt die Architektur so gestaltet, dass sie der Tatsache Rechnung trägt, dass der Kontext niemals eingefroren ist.
Das Protokoll fragt nicht nur, ob eine Aktion korrekt war, als sie geplant wurde.
Es ermutigt uns zu überlegen, ob es immer noch richtig ist, wenn es schließlich ausgeführt wird.
Diese Unterscheidung klingt klein.
Ich glaube nicht, dass das so ist.
Da autonome Systeme für größere Finanzentscheidungen verantwortlich werden, werden die Kosten veralteter Annahmen weiter steigen.
Vielleicht wird die nächste Generation der Infrastruktur nicht dadurch definiert, wie schnell KI Entscheidungen treffen kann.
Vielleicht wird es dadurch definiert, wie sorgfältig Systeme bestätigen, dass eine Entscheidung noch in der Gegenwart verankert ist, bevor sie dauerhaft wird.
Das war der Gedanke, den ich nach dem Studium dieses Teils des Newton Protocols nicht loswerden konnte.
Vielleicht ist die Zukunft vertrauenswürdiger Automatisierung nicht schnellere Intelligenz.
Vielleicht ist es kontinuierliche Aufmerksamkeit.
