Vitalik Buterin sagte in einem Beitrag auf X, dass KI-2040 und seine Kritiker unvereinbare Weltbilder in Bezug auf das Tempo und die Bedeutung des KI-Fortschritts vertreten. Laut Odaily beschrieb er KI 2040 als die Auffassung, dass in vielen Szenarien bis 2040 irgendeine Form von Superintelligenz entstehen werde, sofern nicht starke Maßnahmen sie vollständig stoppen. Kritiker argumentieren hingegen, dass KI 2040 die menschliche Koordination unterschätzt und die Freiheit bedroht, betrachten aber die künstliche Superintelligenz selbst nicht als Risiko für eine Machtkonzentration.

Buterin sagte, seine Position würde sich je nachdem verschieben, was er für wahrscheinlich hält: Wenn die aktuelle KI nur gewöhnliche Technologie ist, wäre er näher bei den Kritikern; wenn davon auszugehen ist, dass bis 2030 standardmäßig eine Superintelligenz eintreffen wird, wäre er näher beim KI-2040-Lager. Er fügte hinzu, dass er angesichts der hohen Unsicherheit offen bleibe, das Tempo zu verlangsamen oder die Entwicklung von KI auszusetzen.

Er sagte außerdem, er sei unwohl mit einer Haltung, die er einigen großen KI-Unternehmen und Intellektuellen zuschrieb, nämlich dass „Open Source nachteilig“ sei, und dass ein ideales Ergebnis für ihre Seite wäre, globale, kontrollierende Vorherrschaft zu besitzen.

Buterin sagte, ein Grund, warum er das d/acc-Portal unterstützt, sei, dass mehrere Richtungen es wert sind, unter beiden Weltanschauungen vorangetrieben zu werden, darunter formale Verifikation, Kryptografie, sichere und offene Hardware, Pandemieresilienz, defensive Biotechnologie, die Sicherung von Nahrung und grundlegenden Ressourcen, öffentliche epistemische Systeme sowie physische Sicherheitskonzepte, die keine Machtkonzentration fördern.

Er fügte hinzu, dass der 2040-Plan offener für Open Source geworden sei und eine Idee aufgenommen habe, die er als „wechselseitig abgesicherte Zerstörung von Rechenleistung“ beschrieben habe; das sei eine Verbesserung gegenüber dem Ansatz, einer kleinen Zahl von Akteuren zu erlauben, Zielpersonen selektiv ihrer Rechte zu berauben.

Zur Frage, ob man das Tempo verlangsamen oder pausieren sollte, sagte Buterin, es gebe keine Möglichkeit, Zielkonflikte zu vermeiden, aber man könne im Voraus Auslösekriterien festlegen und offener für eine Verlangsamung oder Pause bleiben, wenn innerhalb eines bestimmten Zeitfensters ausreichende Bedingungen erfüllt seien.

Er sagte außerdem, dass er, wenn er Elon Musk oder Mark Zuckerberg wäre, Twitter stärker umgestalten würde zu einer Plattform, die dabei hilft, große Win-win-Abkommen zu identifizieren und zu ermöglichen und mehr Menschen in die Diskussion zu bringen, auch wenn er sagte, das könne naiv sein. Er sagte, er sehe derzeit keinen nicht-nativen Plan für den Umgang mit einem Übergang zur künstlichen Superintelligenz und zeige deshalb eine gewisse Toleranz gegenüber jenen, die versuchen, dies anzugehen.