Der gemeldete Vorschlag von Anthropic zur bundesweiten KI-Sicherheit stößt sowohl bei Befürwortern strenger Sicherheitsmaßnahmen als auch bei einem Wettbewerber auf Kritik. Der vorliegende Bericht beschreibt geplante Überarbeitungen durch Anthony Cimino, Leiter für Regierungsbeziehungen, die Kritik von Nathan Calvin von Encode AI sowie eine Stellungnahme von Chris Lehane von OpenAI zur Governance.
Die Berichterstattung von Semafor vom 20. Oktober bestätigt den übergeordneten Streit: Ein zirkulierender Entwurf wurde öffentlich, Anthropic diskutierte Änderungen, und Kritiker stellten die Behandlung staatlicher Befugnisse und katastrophaler Risiken infrage. Es handelt sich weiterhin um eine Debatte über einen Vorschlag und nicht um ein neues Gesetz, das bereits in Kraft getreten ist.
Illustration von der bereitgestellten AREX-/BAAI-Hub-Seite; keine Abbildung eines Gesetzgebungsdokuments.
Die Quelle berichtet, dass Politico den Entwurf am 16. Oktober offengelegt habe. Beschrieben wird eine gesetzgeberische Fassung von Anthropics Advanced AI Framework mit einem bundesstaatlichen Verfahren zur Einschränkung gefährlicher Modelle sowie Anforderungen an externe Evaluierungen.
Mehrere der berichteten Details sind besonders relevant:
| Thema | Beschreibung in der bereitgestellten Berichterstattung | Beleggrenze |
|---|---|---|
| Risikoschwelle | Unmittelbares Risiko von mehr als 50 Todesfällen oder schweren Verletzungen oder von Schäden in Höhe von mehr als 1 Milliarde US-Dollar. | Die vollständige Klausel und die Definitionen wurden nicht anhand des Entwurfstextes überprüft. |
| Verfahren zur Einschränkung | Ein Antrag der Regierung, der die Genehmigung durch einen Bundesrichter in Washington, DC, erfordern würde. | Die Verfahrensbeschreibung stammt aus der Berichterstattung und nicht aus einem verifizierten endgültigen Gesetzentwurf. |
| Aufsicht über Evaluatoren | Registrierung beim Handelsministerium, Unabhängigkeit trotz Bezahlung durch den Entwickler sowie eine Benachrichtigung innerhalb von 72 Stunden nach einer Evaluierung, die das genannte unmittelbare Risiko feststellt. | Der Auslöser wird nicht als pauschale 72-Stunden-Pflicht für jede Evaluierung beschrieben. |
| Behandlung von Landesrecht | Bundesrechtliche Regeln würden bestimmte Befugnisse der Bundesstaaten verdrängen. | Der genaue Umfang ist umstritten, und Änderungen wurden vorgeschlagen. |
Die genannten Schwellenwerte beziehen sich auf einen vorgeschlagenen Interventionsmechanismus. Daraus folgt nicht, dass geringere Schäden rechtmäßig oder akzeptabel sind oder von jeder anderen rechtlichen Verpflichtung ausgenommen wären.
Geplante Änderungen bei der Verdrängung von Landesrecht und den Risikoschwellen
Die Verdrängung von Landesrecht beschreibt, wann Bundesrecht einzelstaatliches Recht ersetzt. In diesem Fall geht es um die Frage, welche Befugnisse zur KI-Sicherheit bei den Bundesstaaten verbleiben würden, nachdem ein bundesweiter Rahmen eingeführt worden wäre.
Anthropics öffentliches Framework besagt, dass der Kongress einzelstaatliche Sicherheitsregeln nur durch ausreichend starke bundesweite Gesetzgebung verdrängen sollte, und beschreibt die beabsichtigte Verdrängung als eng begrenzt. Demnach sollten die Bundesstaaten für Bereiche außerhalb der spezifischen Sicherheitsfunktionen des bundesweiten Rahmens zuständig bleiben, darunter der Schutz von Kindern und der Verbraucherschutz.
Der vorliegende Bericht besagt, dass Cimino klarstellen wolle, dass die Bundesstaaten wichtige Rollen bei unabhängigen Evaluatoren und bei der Aufsicht über die Fähigkeit von Laboren behalten, Modelle zu stoppen. Seine gemeldete Erklärung räumt außerdem ein, dass einige Abgeordnete ein Gesetz wünschen, das überschneidende regulatorische Zuständigkeiten klärt.
Die Quelle führt die vorgeschlagene Risikoschwelle auf einen bestehenden kalifornischen Standard zurück und berichtet, dass Cimino eine erneute Prüfung für sinnvoll halte. Ohne den vollständigen vorgeschlagenen Text und die genaue einzelstaatliche Rechtsvorschrift direkt miteinander zu vergleichen, sollte dieser Bericht nicht als Beleg dafür verstanden werden, dass beide identisch funktionieren.
Meldepflichten und Unabhängigkeit der Evaluatoren
Dem vorliegenden Bericht zufolge befassen sich geplante Aktualisierungen außerdem mit gefährlicher interner Nutzung, Verletzungen von Eindämmungsmaßnahmen und dem Zugriff auf externe Systeme. Beschrieben werden zudem weitere Arbeiten an Pflichten zur Meldung von Vorfällen, an Standards für Evaluatoren und an der Vermeidung eines „Evaluator-Shopping“, bei dem Entwickler den für sie günstigsten Prüfer suchen.
Diese Bedenken stehen im Einklang mit der weiter gefassten Anforderung des öffentlichen Frameworks an qualifizierte unabhängige Evaluierungen. Zu den darin genannten Vorhaben gehören veröffentlichte Sicherheitszusammenfassungen, regelmäßige Risikoberichte und stärkere Sicherheitsprogramme für Entwickler von Frontier-Modellen.
Das Framework legt außerdem einen vorgeschlagenen Geltungsbereich fest: Modelle, die mit mehr als 10²⁵ FLOPs trainiert wurden und von Unternehmen entwickelt werden, die bestimmte Schwellenwerte bei KI-Umsätzen oder Forschungsausgaben überschreiten. Diese Kriterien des Frameworks sollten nicht stillschweigend an die Stelle des Geltungsbereichs des separat durchgesickerten Gesetzesentwurfs gesetzt werden.
Das Argument für Notstandsbefugnisse mit Schutzvorkehrungen
Der vorliegende Bericht beschreibt, wie Cimino einen gerichtlich überwachten Mechanismus als Ausgleich zwischen schnellem Eingreifen und dem Schutz vor Missbrauch verteidigt. Die zentrale politische Spannung besteht darin, wie eine Behörde handeln kann, bevor ein katastrophaler Schaden eintritt, und gleichzeitig für eine fehlerhafte Einschränkung zur Rechenschaft gezogen werden kann.
Anthropics öffentliches Framework fordert staatliche Befugnisse, um gefährliche Bereitstellungen zu blockieren oder abzuschrecken, und sieht zugleich Schutzvorkehrungen gegen übermäßige regulatorische Macht vor. Es behandelt außerdem Transparenz, Modellsicherheit und umfassendere Resilienzmaßnahmen gegen biologische Risiken, Cyberrisiken und Risiken eines Kontrollverlusts.
Dieses öffentliche Framework beschreibt die politische Position des Unternehmens. Es klärt jedoch nicht, ob der rechtliche Wortlaut des durchgesickerten Entwurfs diese Position wirksam umsetzt.
Die Quelle berichtet, dass Vorschläge zur Steuerung des Tempos der Frontier-Entwicklung noch geprüft worden seien und noch nicht vollständig in Gesetzestext umgesetzt wurden. Ein Vorschlag, künftige Maßnahmen zur Begrenzung des Entwicklungstempos zu untersuchen, ist etwas anderes als eine derzeit geltende und durchsetzbare Beschränkung der Modellentwicklung.
Kritiker stellen das Gleichgewicht und den Gesetzgebungsprozess infrage
Die Quelle schreibt Nathan Calvin zwei zentrale Einwände zu: Die Bestimmungen zur Verdrängung von Landesrecht seien zu weit gefasst, und der bundesweite Interventionsstandard sei zu schwer zu erfüllen. Sie berichtet über Bedenken hinsichtlich der Befugnisse einzelstaatlicher Gerichte, eines hohen Nachweises für unmittelbar drohenden Schaden und der Behandlung der Analyse der Regierung durch das Gericht.
Erstelle in Minuten eine Showcase-Website und gewinne Leads
Beschreibe deine Idee einmal, und We0 AI erstellt eine Showcase-Website, Seiten und ein CMS und hilft nach dem Launch bei Kunden und Traffic.
Eine komplette Projektgeneration zur kostenlosen Registrierung
Am besten geeignet, um einen vollständigen Generierungsablauf auszuprobieren und schnell einen ersten Projektentwurf zu sehen.
Dabei handelt es sich um die Interpretation eines Kritikers des Entwurfs. Da das vollständige Dokument für diese Berichterstattung nicht vorlag, sollten diese Punkte nicht als rechtlich entschiedene Schlussfolgerungen über seine Wirkung dargestellt werden.
Lehanes separate Position unterstützt laut Semafor nationale Sicherheitsstandards und betont zugleich demokratische Entscheidungsprozesse. Seine Stellungnahme argumentiert, dass gewählte Vertreter die Führung übernehmen sollten und dass kein einzelnes Unternehmen, einschließlich OpenAI, die Regeln allein festlegen sollte.
Der vorliegende Bericht stellt diese Stellungnahme in Zusammenhang mit der Unterstützung für ein parteiübergreifendes FRONTIER Act. Daraus folgt nicht, dass Anthropics zirkulierender Entwurf demselben Gesetz entspricht, dass eines der beiden Vorhaben verabschiedet wurde oder dass alle Beteiligten den Einzelheiten zustimmen.
Der Vergleich der Strategien der Unternehmen in Washington durch Semafor ist eine redaktionelle Analyse. Er sollte von den engeren Tatsachen getrennt bleiben, dass ein Entwurf zirkulierte, Kritik folgte und Änderungen diskutiert wurden. Die Verweise der Quelle auf andere Auseinandersetzungen zwischen Regierung und Unternehmen entscheiden nicht über die rechtliche Stichhaltigkeit dieser Bestimmungen.
Änderungen bleiben zukünftiger Natur
Die bereitgestellte Quelle besagt, dass die angekündigten Überarbeitungen noch nicht als vollständiger öffentlicher Ersatztext vorlagen. Daher können weder die beabsichtigten Änderungen bei der Verdrängung von Landesrecht noch eine überarbeitete Schwelle als endgültiger Wortlaut behandelt werden.
Auch die Beschreibung des Zeitplans im Kongress belegt nicht, dass kein Bundesgesetz KI betrifft. Bestehende Gesetze können auf KI-bezogenes Verhalten anwendbar sein, selbst wenn es kein umfassendes Gesetz zur Sicherheit von Frontier-Modellen gibt.
Die nächsten hilfreichen Dokumente wären der überarbeitete Entwurf, ein eindeutig identifizierter eingebrachter Gesetzentwurf, seine Definitionen und sein gesetzgeberischer Status. Damit ließen sich Befugnisse der Bundesstaaten, Standards für Notfalleingriffe, Pflichten der Evaluatoren und ein möglicher Vorschlag zur Steuerung des Entwicklungstempos direkt vergleichen.
Häufig gestellte Fragen
Ist Anthropics gemeldeter Entwurf zur KI-Sicherheit bereits geltendes Recht?
Die bereitgestellte Berichterstattung beschreibt einen zirkulierenden Vorschlag. Sie belegt weder dessen Verabschiedung noch eine durch diesen Vorschlag aktuell entstandene Verpflichtung.
Was bedeutet die Verdrängung von Landesrecht in diesem Zusammenhang?
Gemeint ist, dass bundesrechtliche Regeln bestimmte Befugnisse der Bundesstaaten ersetzen könnten. Umstritten ist, wie weit diese Verdrängung reichen würde und welche Sicherheitsbefugnisse bei den Bundesstaaten verblieben.
Erlaubt die gemeldete Schwelle Schäden unterhalb dieses Niveaus?
Aus der Berichterstattung folgt keine solche Schlussfolgerung. Eine Schwelle für eine einzelne vorgeschlagene Interventionsbefugnis ist etwas anderes als der Geltungsbereich anderer Gesetze und Pflichten.
Sind die geplanten Änderungen bereits in einem endgültigen Gesetzentwurf festgeschrieben?
Für diese Berichterstattung lag kein vollständiger überarbeiteter Gesetzestext vor. Aussagen über beabsichtigte Änderungen sollten von verabschiedetem oder endgültig formuliertem Wortlaut getrennt bleiben.
Warum ist eine unabhängige Evaluierung umstritten?
Prüfer benötigen ausreichenden Zugang und Fachwissen, um Risiken zu bewerten, und müssen zugleich von den Entwicklern unabhängig bleiben, die ihre Arbeit bezahlen. Die Quelle thematisiert die Sorge, dass Entwickler sich wohlwollende Evaluatoren suchen könnten, anstatt einer strengen Prüfung unterzogen zu werden.
Hat OpenAI gesagt, dass Unternehmen keine Rolle bei der Politikgestaltung spielen sollten?
Die hier berichtete Stellungnahme fordert, dass gewählte Vertreter und demokratische Prozesse die Führung übernehmen. Sie richtet sich gegen die alleinige Festlegung der Regeln durch ein einzelnes Unternehmen und nicht gegen jede Beteiligung der Industrie.
Verwandte Tools
- Congress.gov: Der offizielle Dienst zur Prüfung eingebrachter Bundesgesetze, ihres Textes und ihres gesetzgeberischen Status.
- Federal Register: Die offizielle Veröffentlichung zur Prüfung von Regelsetzungsverfahren und Bekanntmachungen von Bundesbehörden.
Verwandte Links
- Bereitgestellter AREX-Artikel auf BAAI Hub: Die Aggregation, die diese Berichterstattung ausgelöst hat, einschließlich ihrer Quellenbeschränkungen.
- Anthropics öffentliches Policy-Framework: Die veröffentlichte Position des Unternehmens zur Governance von Frontier-Modellen und zur Verdrängung von Landesrecht.
- Semafors Bericht vom 20. Oktober: Berichterstattung über den durchgesickerten Entwurf und die daraus entstandene Auseinandersetzung.
- Von der Quelle angegebene Stellungnahme von Anthony Cimino: Die von AREX zitierte Stellungnahme in sozialen Medien; der direkte Abruf war während der Überprüfung blockiert.
- Von der Quelle angegebene Kritik von Nathan Calvin: Die in der bereitgestellten Darstellung erwähnte Kritik.
- Lehanes Stellungnahme zur Governance: Die von AREX und Semafor verlinkte Stellungnahme auf LinkedIn.
Zusammenfassung
Im Mittelpunkt des Streits stehen das Verhältnis zwischen einem bundesweiten Interventionsverfahren und bestehenden Befugnissen der Bundesstaaten sowie die Frage, ob Prüfer und Regulierungsbehörden wirksam handeln könnten. Anthropic hat Änderungen diskutiert, während Kritiker das Gleichgewicht des Entwurfs infrage stellen und OpenAI die Führung durch gewählte Vertreter betont.
Ein zirkulierender Vorschlag und die Zusage, ihn zu überarbeiten, sind kein neues Gesetz; der tatsächliche überarbeitete Text und der gesetzgeberische Status bleiben entscheidend für die Bewertung seiner Auswirkungen.
