#OPG @OpenGradient
Ich habe letzte Nacht über die erste transkontinentale Eisenbahn gelesen. Jede Stadt arbeitete nach ihrer eigenen lokalen Sonnenzeit, also war die Planung der Züge ein Albtraum. Die Ingenieure haben nicht nur Gleise gebaut. Sie haben standardisierte Zeitzonen im ganzen Land eingeführt.
Ich denke immer wieder darüber nach, während ich über @OpenGradient lese.
Zuerst nahm ich an, die Herausforderung sei technisch. Kryptografische Nachweise schneller machen. Modelle in vertrauenswürdigen Ausführungsumgebungen betreiben. Einfaches Skalierungsproblem.
Je mehr ich lese, desto unsicherer bin ich.
Zu verifizieren, dass ein Modell ausgeführt wurde, ist das eine. Zu verifizieren, dass es korrekt ausgeführt wurde, ist etwas ganz anderes. Sprachmodelle sind nicht-deterministisch. Dieselbe Eingabe kann verschiedene Ausgaben produzieren, die alle vernünftig sind. Das Netzwerk muss also in Echtzeit definieren, was „gut genug“ bedeutet.
Ich bin mir nicht sicher, ob das überhaupt im großen Maßstab möglich ist.
Die Overhead-Kosten könnten den Wert dessen, was der Agent tut, übersteigen. Und autonome Agenten treffen Entscheidungen mit Maschinen Geschwindigkeit. Aber die Verifizierung könnte erfordern, dass man über Wahrhaftigkeit und Qualität nachdenkt. Das Zeitversatzgefühl fühlt sich wie ein echtes Engpassproblem an.
Ich komme immer wieder auf Anreize zurück. Wenn Betreiber für schlechte Ausgaben bestraft werden können, werden sie konservativer. Das System wird sicherer, verliert aber seine kreative Flexibilität.
Vielleicht konzentriere ich mich auf das falsche. Was OpenGradient aufbaut, ist nicht nur Infrastruktur. Es ist eine neue Institution, die zwischen Berechnung und Konsens sitzt. Und wie die Eisenbahngesellschaften könnte es letztendlich die Realität mehr formen, als es sich bewusst ist.
Ich bleibe mit einer Frage zurück: Verifiziert es Intelligenz oder definiert es unbeabsichtigt, was Intelligenz überhaupt bedeutet?
@OpenGradient
#OPG
$OPG
$AIO
$LAB
Ich habe letzte Nacht über die erste transkontinentale Eisenbahn gelesen. Jede Stadt arbeitete nach ihrer eigenen lokalen Sonnenzeit, also war die Planung der Züge ein Albtraum. Die Ingenieure haben nicht nur Gleise gebaut. Sie haben standardisierte Zeitzonen im ganzen Land eingeführt.
Ich denke immer wieder darüber nach, während ich über @OpenGradient lese.
Zuerst nahm ich an, die Herausforderung sei technisch. Kryptografische Nachweise schneller machen. Modelle in vertrauenswürdigen Ausführungsumgebungen betreiben. Einfaches Skalierungsproblem.
Je mehr ich lese, desto unsicherer bin ich.
Zu verifizieren, dass ein Modell ausgeführt wurde, ist das eine. Zu verifizieren, dass es korrekt ausgeführt wurde, ist etwas ganz anderes. Sprachmodelle sind nicht-deterministisch. Dieselbe Eingabe kann verschiedene Ausgaben produzieren, die alle vernünftig sind. Das Netzwerk muss also in Echtzeit definieren, was „gut genug“ bedeutet.
Ich bin mir nicht sicher, ob das überhaupt im großen Maßstab möglich ist.
Die Overhead-Kosten könnten den Wert dessen, was der Agent tut, übersteigen. Und autonome Agenten treffen Entscheidungen mit Maschinen Geschwindigkeit. Aber die Verifizierung könnte erfordern, dass man über Wahrhaftigkeit und Qualität nachdenkt. Das Zeitversatzgefühl fühlt sich wie ein echtes Engpassproblem an.
Ich komme immer wieder auf Anreize zurück. Wenn Betreiber für schlechte Ausgaben bestraft werden können, werden sie konservativer. Das System wird sicherer, verliert aber seine kreative Flexibilität.
Vielleicht konzentriere ich mich auf das falsche. Was OpenGradient aufbaut, ist nicht nur Infrastruktur. Es ist eine neue Institution, die zwischen Berechnung und Konsens sitzt. Und wie die Eisenbahngesellschaften könnte es letztendlich die Realität mehr formen, als es sich bewusst ist.
Ich bleibe mit einer Frage zurück: Verifiziert es Intelligenz oder definiert es unbeabsichtigt, was Intelligenz überhaupt bedeutet?
@OpenGradient
#OPG
$OPG
$AIO
$LAB