Das KI-Modellunternehmen Anthropic hat kürzlich die aktualisierte Version seiner 'Claude-Verfassung' vorgestellt, die jetzt unter der Creative Commons CC0 1.0-Lizenz verfügbar ist. Laut PANews dient dieses Dokument als die 'höchste Autorität' für Trainingszwecke, die darauf abzielen, synthetische Trainingsdaten zu generieren und Feedback zu bewerten. Die Verfassung hat sich von der Auflistung von Prinzipien hin zur Erklärung der dahinterstehenden Überlegungen verschoben, was ihre Fähigkeit verbessert, auf neue Situationen zu verallgemeinern.

Das Dokument priorisiert umfassende Sicherheit, Ethik, Einhaltung von Richtlinien und aufrichtige Unterstützung und skizziert 'harte Einschränkungen', wie beispielsweise kein substantieller Hilfe für biologische Waffen. Es enthält auch Abschnitte über Tugenden, psychologische Sicherheit und Selbstbewusstsein des Modells, wobei Transparenz und kontinuierliche Iteration betont werden.