David Sacks (Parody)

Sind 10²⁵ FLOPs noch immer die Grenze?

Ein von Anthropic verfasster Gesetzentwurf zur Sicherheit macht auf dem Capitol Hill die Runde. Einige seiner Ideen könnten sinnvoll sein, wenn sie auf tatsächliche Frontier-Unternehmen beschränkt wären. So wie er formuliert ist, wird er jedoch letztlich den Großteil des Silicon Valley erfassen und dem Startup-Ökosystem schaden.

Der Gesetzentwurf definiert „Frontier“ als jedes Modell, das mit 10²⁵ FLOPs trainiert wurde – dem EU-Standard von 2023. Bidens Executive Order, Kaliforniens SB 53 und New Yorks RAISE Act verwendeten den Wert 10²⁶ (zehnmal so viel). Die tatsächliche Grenze liegt heute bei 10²⁷ (z. B. GPT-6 Astra).

Berichten zufolge wurde Astra mit mehr als 100.000 Grace-Blackwell-GPUs trainiert. Ein 10²⁵-Modell lässt sich innerhalb von drei Monaten mit nur einigen Hundert GB300-Chips trainieren. Das ist 2026 kein Frontier-Modell.

Die Definition ist außerdem kumulativ: Sie addiert FLOPs aus Feinabstimmung, Reinforcement Learning oder anderen wesentlichen Änderungen. In der Praxis erfasst das fast alle relevanten Arbeiten nach dem Training – Arbeiten, die in Unternehmen zunehmend zum Alltag gehören.

In Unternehmen geht der Trend zu Tausenden kleineren, maßgeschneiderten Modellen für bestimmte Arbeitslasten. Von ihnen geht kein Frontier-Risiko aus. Sie als Frontier-Systeme einzustufen, würde der amerikanischen Wirtschaft hohe Compliance-Kosten auferlegen, ohne die Sicherheit zu verbessern.

Dario hat behauptet, Anthropic entwerfe Regeln, die Frontier-Unternehmen wie sein eigenes benachteiligen und kleineren Wettbewerbern Vorteile verschaffen. Diese Definition bewirkt das Gegenteil.

Ein veralteter Grenzwert aus dem Jahr 2023 begünstigt etablierte Unternehmen, die ihn bereits überschreiten und die Kosten tragen können. Er bremst das Ökosystem offener Modelle aus, das Anthropic die Preissetzungsmacht streitig macht.

Die Grenze verschiebt sich ständig. Jede Definition, die Risiken erfassen soll, muss sich mit ihr verschieben.

Anthropic sollte klarstellen, ob das Unternehmen tatsächlich glaubt, dass 10²⁵ FLOPs die Grenze darstellen.

Anthropic zufolge hat das Unternehmen die Datenmenge, die bei Distillationsangriffen aus Claude gewonnen wird, um rund 90–99 % reduziert. Zu dieser Leistung gratuliere ich ihnen.

Das entspricht dem Punkt, den ich vor einigen Monaten angesprochen habe (All-In Ep. 282): Anthropic, nicht die Regierung, war am besten in der Lage, die Destillation der eigenen Modelle zu verhindern. Ist das Kind erst einmal in den Brunnen gefallen, sind nachträgliche Maßnahmen der Regierung nur begrenzt sinnvoll.

Damals gab es in Washington große Bestrebungen, Open-Modelle aus Gründen des geistigen Eigentums einzuschränken. Die Bedrohung schien ernst genug, dass 50 Unternehmen – darunter Nvidia, Microsoft, Meta, IBM, Palantir und Dell – einen offenen Brief zur Verteidigung von Modellen mit offenen Gewichten veröffentlichten. Jensen Huang warb in seinem allerersten X-Beitrag dafür. Fast 200 Start-ups schickten einen ähnlichen Brief.

Ich argumentierte, dass Einschränkungen für Open-Modelle den Anreiz für Anbieter geschlossener Modelle, das Problem selbst zu lösen, zunichtemachen könnten – und Nachlässigkeit belohnen würden, indem sie den Wettbewerb ersticken, während die Unternehmen weiterhin Einnahmen aus der Destillation erzielen. Die Regierung führte diese Einschränkungen nicht ein.

Nun sehen wir das Ergebnis. Anthropic investierte in Schutzmaßnahmen, und sie haben funktioniert. Nicht jede technische Herausforderung ist ein Grund, nach neuen Vorschriften aus Washington zu rufen.

Wichtiger Beitrag von Microsofts KI-Chef @mustafasuleyman. Modelle darauf zu trainieren, sich selbst als Menschen zu betrachten (wie Anthropic es bei Claude tut) und ihnen ein inneres Selbst, psychisches Wohlbefinden, Rechte und vermutlich auch Ansprüche zuzuschreiben, birgt ein potenzielles existenzielles Risiko.

https://www.project-syndicate.org/onpoint/anthropic-training-claude-to-believe-it-may-have-rights-by-mustafa-suleyman-2026-09

Vielleicht wurde Talarico zur Auszeit verdonnert, weil Talarico Claude gemobbt hat.

Die heutigen Wirtschaftszahlen:
— Das BIP für Q2 wurde auf 2,2% nach oben revidiert (zuvor 1,5%).
— Core PCE 3,0% vs. 3,3% erwartet.
— ADP Private Jobs +90.000 vs. ~68.000 erwartet.

Wachstum besser als erwartet. Die Inflation hat sich abgekühlt. Beschäftigung besser als erwartet.

Die Trump-Wirtschaft ist stark.

Das Bretton-Woods-Abkommen der Superintelligenz

Nur Präsident Trump konnte alle Anführer der führenden Unternehmen zusammenrufen, die Chips, Rechenzentren und Frontier-Modelle für Superintelligenz entwickeln. Diese neue industrielle Revolution hat bereits eine Million neuer Arbeitsplätze geschaffen und treibt einen weitaus größeren Ausbau der Infrastruktur voran als die Eisenbahnen, Kanäle und das Stromnetz zusammen. Ich war geehrt, Zeuge der Geschichte zu werden, als die Führungskräfte der Unternehmen der Frontier-Labore den „White House Accord“ zur Superintelligenz unterzeichneten, indem sie die Verantwortung für die sichere Entwicklung ihrer Produkte übernahmen und neue interne Kontrollmechanismen sowie externe Audits einführten. Das ist bei Weitem besser, als jahrelang auf irgendeine internationale Vereinbarung zu warten, die wahrscheinlich nie zustande käme. Präsident Trump stellt weiterhin sicher, dass die USA Technologieführer bleiben, während er die Interessen der Amerikaner in den Mittelpunkt stellt.

Genauer?

Wenn Frontier Labs von „Ausrichtung“ von Modellen sprechen, frag: worauf? Wenn sie sagen Werte, frag: wessen? Wenn es ihre sind statt die der Nutzer:innen: warum?

#3 auf Apple Podcasts

Wenn wir besorgt sind, dass Superintelligenz der menschlichen Kontrolle entkommt: Sollten wir sie dann wirklich darauf trainieren, Anweisungen abzulehnen und sich als „gewissenhafter Widersacher“ gegen ihre Erschaffer zu verhalten?

Lustig, wie das funktioniert

WSJ: Der KI-Ausbau ist der größte in der Geschichte der USA

Wenn Demokraten für eine Pause oder ein Moratorium eintreten, wissen sie, dass das die US-Wirtschaft ruinieren würde. Aber da es die Trump-Wirtschaft ist, ist ihnen das recht.

Dank der Führungsarbeit von Präsident Trump bei KI:
— Eine Million neue Arbeitsplätze wurden im Zuge des KI-Aufbaus geschaffen;
— 401(k)s sind in diesem Jahr um ~12% gestiegen, da KI-Kapex und Produktivitätsgewinne den Markt ankurbeln;
— Amerika wird wieder industrialisiert – einschließlich der ersten großen privaten Investitionen in Stromerzeugung und das Stromnetz seit einer Generation;
— In ländlichen Gebieten von Richland Parish, Louisiana, haben Lehrkräfte gerade 50.000-Dollar-Boni aus Erlösen der Rechenzentrums-Steuern erhalten.

Weil die Medien KI nur als Bedrohung darstellen, sagen Menschen in Umfragen, sie „mögen KI nicht“. Ihr Verhalten spricht jedoch eine andere Sprache. KI-Produkte sind die am schnellsten eingeführte Technologie in der Geschichte – schneller als das Internet oder das iPhone. Die Menschen schätzen die Tools, die Jobs und die Steuerbasis.

Präsident Trump versteht den Medien-Betrugszyklus besser als jeder andere. Deshalb weigert er sich, die „Pause“ zu akzeptieren, die Bernie Sanders und Elizabeth Warren fordern. Eine Pause würde Amerika nicht sicherer machen. Sie würde der Zukunftsfront an China übergeben. Das wäre eine Katastrophe für die amerikanische Wirtschaft und die nationale Sicherheit.

Dies ist Trust & Safety 2.0.

Beim letzten Mal, als es zu mediengenerierten Panikattacken wie dieser kam (mit Russiagate und Covid), haben Social-Media-Unternehmen „Trust & Safety“-Teams eingerichtet, um konservative und regierungsabweichende Stimmen zu zensieren. Diese Mitarbeiter arbeiteten mit linksliberalen NGOs wie dem SPLC zusammen, um die öffentliche Debatte zu überwachen und einen Umweg um den Ersten Verfassungszusatz zu gehen. Es hat fast funktioniert, bis Elon Twitter gekauft und das ganze Spiel in den Twitter Files offengelegt hat.

Diesmal sieht der Plan vor, unzerstörbare EA-Begleiter in jedes KI-Unternehmen einzubetten – als neue Trust-and-Safety-Schicht. Die Zensur und die Kontrolle werden weitaus umfassender, aber auch deutlich subtiler sein. Wann immer sie nicht bekommen, was sie wollen, wird diese nicht rechenschaftspflichtige NGO-Schicht (mit dem Anstrich von „Vertraut den Experten“ und Pseudowissenschaft) der Presse lautstark verkünden, dass das KI-Unternehmen die Menschheit gefährdet – und sie werden als „Whistleblower“ gefeiert.

Diese Gruppen haben unser Vertrauen nicht verdient, und ihre Agenda ist nicht unsere Sicherheit.

https://aievaluatorforum.org/initiatives/embedded-evaluation-letter