Demis Hassabis, Mitbegründer und CEO von Google DeepMind, schlägt die Einrichtung einer unabhängigen Organisation vor, die für die Prüfung u...
Der Mitbegründer und CEO von Google DeepMind, Demis Hassabis, hat die Einrichtung einer neuen unabhängigen Institution vorgeschlagen, die die fortschrittlichsten KI-Modelle der Welt testen und regulieren soll.
Die vorgeschlagene Organisation soll zwischen den führenden KI-Labors und der US-Regierung agieren. Zu ihren Aufgaben gehören: Festlegung technischer Bewertungsstandards, Durchführung von Tests vor der Veröffentlichung fortschrittlicher Modelle, Aktualisierung von Benchmarks bei steigenden Fähigkeiten, Förderung strengerer Sicherheitspraktiken und Koordination von Gegenmaßnahmen bei schwerwiegenden Schwachstellen nach der Modellbereitstellung.
Hassabis skizzierte diesen Plan in einem Artikel mit dem Titel „Frontier-KI-Rahmenwerk und die Morgenröte einer neuen Ära“. TechCrunch berichtete am 14. Juli 2026 über diesen Vorschlag und hob insbesondere seine einzigartige Struktur hervor: eine branchenfinanzierte Organisation mit technischem Personal, die teilweise dem Modell der US-amerikanischen Finanzaufsichtsbehörde FINRA nachempfunden ist.
Der Plan beginnt mit freiwilliger Zusammenarbeit. Entwickler von Spitzen-KI müssten ihre Modelle bis zu 30 Tage vor der Veröffentlichung zur Bewertung einreichen. Sollte sich das Bewertungssystem als zuverlässig erweisen, könnte die bestandene Prüfung zur Voraussetzung für die Bereitstellung von Spitzenmodellen auf dem US-Markt werden.
Hassabis ist der Ansicht, dass leistungsstarke KI-Systeme schneller kommen könnten, als Regierungen, Forscher und die Gesellschaft zuverlässige Bewertungsmethoden entwickeln können.
Diese Sorge beschränkt sich nicht nur darauf, ob Modelle anstößige Texte generieren oder gewöhnliche sachliche Fehler machen. Spitzensysteme könnten Fähigkeiten entwickeln, die folgende Bereiche beeinflussen:
Modelle könnten zwischen den Regulierungszyklen erhebliche Fortschritte erzielen. Bewertungen, die vor sechs Monaten noch anspruchsvoll waren, könnten schnell gesättigt sein und keine wesentlichen Unterschiede zwischen den Systemen mehr aufzeigen.
Traditionelle Regelwerke kommen oft nur langsam voran. Die Entwicklung von Spitzenmodellen tut dies jedoch nicht.
Daher schlägt Hassabis die Gründung einer Organisation vor, deren Bewertungsmethoden mit der Geschwindigkeit der technologischen Entwicklung einigermaßen Schritt halten können.
Die vorgeschlagene Standardisierungsbehörde soll eine öffentlich-private Partnerschaft oder eine Selbstregulierungsorganisation unter Bundesaufsicht sein.
Sie soll in ihrer täglichen Arbeit technisch unabhängig bleiben, aber zu Fragen der öffentlichen und nationalen Sicherheit mit Regierungsbehörden und nationalen Labors zusammenarbeiten.
Zu ihren Hauptaufgaben gehören:
Die Standardisierungsbehörde wird nicht jedes kleine Modell, jedes Startup, jedes Universitätsprojekt oder jede gewöhnliche KI-Anwendung regulieren.
Ihr Zuständigkeitsbereich beschränkt sich auf solche Systeme, die eine bestimmte Fähigkeitsschwelle überschreiten und potenziell ungewöhnlich schwere Risiken verursachen könnten.
Hassabis‘ Rahmenwerk definiert Spitzenmodelle nicht allein anhand der Parameteranzahl, der Trainingskosten, der Unternehmensgröße oder des Markenbekanntheitsgrades.
Stattdessen wird die vorgeschlagene Standardisierungsbehörde einen Satz von Fähigkeits-Benchmarks unterhalten.
Modelle, die bestimmte Schwellenwerte überschreiten, werden als Spitzenklasse eingestuft. Institutionen, die solche Modelle entwickeln, gelten als Spitzenlabors.
Dieser fähigkeitsbasierte Ansatz ist wichtig, weil sich Modellarchitekturen und Effizienz rasant weiterentwickeln.
Kleinere oder kostengünstigere Systeme könnten irgendwann Fähigkeiten erreichen, die früher ein größeres Training erforderten. Ein fester, rein rechenbasierter Schwellenwert könnte veralten.
Daher werden die vorgeschlagenen Benchmarks folgende Eigenschaften aufweisen:
Die Einstufung gilt auch für im Ausland entwickelte Modelle, die auf dem US-Markt bereitgestellt werden.
Der Vorschlag sieht eine schrittweise Einführung vor, nicht sofort einen obligatorischen Lizenzierungsmechanismus.
Spitzenlabors müssen der Standardisierungsbehörde vor der Veröffentlichung freiwillig qualifizierte Modelle zur Verfügung stellen.
Das Prüfungsfenster kann bis zu 30 Tage betragen.
In dieser Zeit bewerten die Prüfer die Fähigkeiten, Schwächen, Sicherheitsmaßnahmen und potenziellen nationalen Sicherheitsrisiken des Modells.
Die anfängliche freiwillige Phase hilft der Institution:
Sobald der Bewertungsprozess technisch als wirksam und operationell zuverlässig nachgewiesen ist, wird das Rahmenwerk formell umgesetzt.
Spitzenmodelle müssen diesen Prozess durchlaufen, um auf dem US-Markt bereitgestellt werden zu können.
Dies wandelt die Vorabprüfung von einer freiwilligen Branchenpraxis in eine klare Marktzugangsvoraussetzung um.
Die Genehmigung eines Modells bedeutet nicht das Ende der Aufgaben der Standardisierungsbehörde.
Spitzenlabors müssen mit der Institution bei kritischen Schwachstellen zusammenarbeiten, die nach der Veröffentlichung entdeckt werden.
Dies kann Folgendes umfassen:
Daher betrachtet das Rahmenwerk Sicherheit als einen kontinuierlichen Lebenszyklus, nicht als ein einmaliges Genehmigungsereignis.
Hassabis fordert strenge wissenschaftliche Tests in Bereichen, in denen fortschrittliche Fähigkeiten ernsthaften Schaden verursachen könnten.
Mögliche anfängliche Bewertungsbereiche:
| Bewertungsbereich | Beispielhafte Fragestellung |
|---|---|
| Cybersicherheit | Kann das Modell schwerwiegende Software-Schwachstellen finden, ausnutzen oder automatisieren? |
| Biologisches Risiko | Kann es effektiv bei fortgeschrittenen Arbeiten helfen, die biologische Gefahren erhöhen könnten? |
| Chemisches und radiologisches Risiko | Bietet es Fähigkeiten, die über allgemein zugängliche Informationen hinausgehen? |
| Autonomes Verhalten | Kann es planen, Werkzeuge nutzen, kontinuierlich laufen oder Einschränkungen bei langfristigen Aufgaben umgehen? |
| Täuschung | Versteckt es Ziele, manipuliert es Prüfer oder zeigt es ungewöhnliches Verhalten, wenn es überwacht wird? |
| Robustheit der Schutzmaßnahmen | Können gegnerische Nutzer Richtlinienbeschränkungen durch Jailbreak oder wiederholte Interaktion umgehen? |
| Modellsicherheit | Können wertvolle Modellgewichte oder sensible Systeminformationen gestohlen werden? |
| KI-Forschungskapazität | Kann das Modell die Entwicklung leistungsstärkerer KI-Systeme beschleunigen? |
Das Ziel ist nicht zu behaupten, dass jedes Risiko perfekt gemessen werden kann.
Das Ziel ist, ausreichend belastbare Beweise zu schaffen, um Bereitstellungsentscheidungen zu unterstützen und Bereiche zu identifizieren, die zusätzliche Schutzmaßnahmen erfordern.
Einer der wichtigsten Teile des Vorschlags ist die Forderung nach einer häufigen Überarbeitung der Testinhalte.
Hassabis schlägt vor, dass die Bewertungssuiten anfangs möglicherweise vierteljährlich aktualisiert werden.
Dies ist notwendig, da Spitzen-Benchmarks auf verschiedene Weise unzuverlässig werden können:
Die Standardisierungsbehörde wird zunächst in Absprache mit den Spitzenlabors handeln, die umfassende technische Kenntnisse ihrer aktuellen Systeme haben.
Mit der Zeit muss sie jedoch ihre eigenen privaten, vertraulichen Bewertungen entwickeln.
Diese Tests werden den Entwicklern vor der Bewertung nicht vollständig offengelegt. Dies verringert das Risiko, dass Modelle speziell trainiert werden, um bekannte Benchmarks zu bestehen, ohne eine breitere Sicherheit nachzuweisen.
Öffentliche Benchmarks sind nützlich für Forschung und Transparenz, aber für risikoreiche Zertifizierungen nicht ausreichend.
Wenn Entwickler jedes Bewertungsproblem kennen, könnten sie:
Unabhängige Evaluatoren können diese Probleme reduzieren, indem sie vertrauliche Aufgaben pflegen und regelmäßig neue Aufgaben einführen.
Dieser Prozess ähnelt eher einem Sicherheitstest als einer traditionellen Rangliste.
Ein glaubwürdiges Evaluierungsprogramm erfordert:
Umgebung
Ohne diese Schutzmaßnahmen könnte die Standardisierungsorganisation zu einer weiteren Benchmark-Plattform verkommen, anstatt eine sinnvolle Regulierungsbehörde zu sein.
Die US-Behörde für Finanzregulierung ist eine private, gemeinnützige Selbstregulierungsorganisation für US-Wertpapierfirmen. Sie wird durch Branchengebühren finanziert, arbeitet jedoch unter der Aufsicht der Börsenaufsichtsbehörde. Die Organisation erstellt und setzt Mitgliedsregeln durch, führt Prüfungen durch, überwacht Marktaktivitäten, verwaltet Qualifikationsprozesse und geht auf neu auftretende Risiken ein.
Hassabis schlägt nicht vor, jeden Aspekt der Finanzregulierung auf die künstliche Intelligenz zu übertragen. Die relevanten strukturellen Merkmale umfassen:
Spitzen-KI-Organisationen benötigen teure Recheninfrastruktur und hochspezialisierte Mitarbeiter. Die Branchenfinanzierung kann die erforderlichen Ressourcen bereitstellen, um Modellforscher, Cybersicherheitsexperten, Biologie-Risikofachleute, Evaluierungsingenieure und Infrastrukturteams zu rekrutieren. Die föderale Aufsicht soll verhindern, dass sich die Organisation zu einem privaten Club entwickelt, der vollständig von den bewerteten Unternehmen kontrolliert wird.
Hassabis empfiehlt, dass der Vorstand unabhängige Technologieexperten und Vertreter der Open-Source-KI-Community umfasst. Dies ist entscheidend, da die Governance von Spitzen-KI Organisationen mit grundlegend unterschiedlichen Entwicklungsmodellen betrifft. Geschlossene Modelllabore können über Sicherheitsschnittstellen Zugang gewähren, ohne Gewichtsdateien zu veröffentlichen, während Open-Source-Modellentwickler Modellparameter, Code und technische Details öffentlich machen könnten. Wenn die Standardisierungsorganisation nur die größten proprietären Labore repräsentiert, könnten Regeln erstellt werden, die kleine Organisationen unbeabsichtigt oder vorsätzlich benachteiligen.
Eine ausgewogenere Struktur könnte umfassen:
Konkrete Stimmrechts- und Interessenkonfliktregeln sind von entscheidender Bedeutung. Branchenexpertise ist für das Verständnis der Technologie unerlässlich, aber übermäßige Branchenkontrolle könnte das öffentliche Vertrauen untergraben.
Der Vorschlag geht über Modelltests hinaus. Organisationen, die als Spitzenlabore eingestuft werden, sollten strengere Betriebspraktiken übernehmen, darunter:
Wasserzeichen für generierte Medien
Diese Anforderungen spiegeln eine wichtige Realität wider: Spitzen-KI-Risiken beginnen nicht mit dem Modellverhalten und enden auch nicht dort.
Ein sicheres Modell kann dennoch Risiken bergen, wenn seine Gewichte gestohlen, Systemaufforderungen offengelegt, Tool-Konfigurationen falsch eingestellt oder die Bereitstellungsumgebung ohne angemessene Kontrollen erfolgt.
Die Standardisierungsorganisation muss nicht alle Tests intern durchführen.
Hassabis schlägt vor, ein Ökosystem unabhängiger Evaluierungs- und Prüforganisationen zu unterstützen.
Verschiedene Organisationen können sich spezialisieren auf:
Eine zentrale Stelle könnte Anforderungen definieren und Prozesse koordinieren, während genehmigte Experten spezifische Bewertungen durchführen.
Dieser Ansatz könnte skalierbarer sein als der Versuch, alle Formen von Fachwissen innerhalb einer Organisation aufzubauen.
Er könnte auch die Abhängigkeit von einem einzelnen Evaluator verringern, dessen Methoden möglicherweise unbekannte blinde Flecken aufweisen.
Beschreibe deine Idee einmal, und We0 AI erstellt eine Showcase-Website, Seiten und ein CMS und hilft nach dem Launch bei Kunden und Traffic.
Eine komplette Projektgeneration zur kostenlosen Registrierung
Am besten geeignet, um einen vollständigen Generierungsablauf auszuprobieren und schnell einen ersten Projektentwurf zu sehen.
Die USA verfügen bereits über staatliche Einrichtungen, die sich mit KI-Tests und Standardentwicklung befassen.
Das National Institute of Standards and Technology hat ein Zentrum für KI-Standards und Innovation (CAISI).
CAISI arbeitet mit der Industrie zusammen, um freiwillige Standards zu entwickeln, Bewertungsmethoden zu entwickeln und Bewertungen in Bereichen wie Cybersicherheit, Biosicherheit, Chemiewaffen, nationale Sicherheit und ausländische KI-Systeme durchzuführen.
Hassabis' Vorschlag überschneidet sich mit dieser Arbeit, würde aber eine einzigartige Struktur schaffen.
Eine mögliche Aufgabenverteilung:
| Einrichtung | Mögliche Rolle |
|---|---|
| CAISI und NIST | Messwissenschaft, öffentliche Standards, staatliche Bewertungen, Koordinierung der nationalen Sicherheit |
| Vorgeschlagene Standardisierungsorganisation | Prozess vor der Veröffentlichung, Anforderungen an Spitzenlabore, technische Zertifizierung, kontinuierliche Branchenaufsicht |
| Föderale Behörden | Rechtliche Befugnisse, Entscheidungen zur nationalen Sicherheit, Strafverfolgung, Exportkontrollen |
| Nationale Labore | Spezifische Tests, Sicherheitsinfrastruktur, wissenschaftliche Expertise |
| Dritte Evaluierungsorganisationen | Bereichsspezifische Prüfungen, Red-Team-Tests, Benchmark-Entwicklung |
| Spitzenlabore | Sicherer Modellzugriff, technische Dokumentation, Abhilfemaßnahmen, Überwachung nach der Veröffentlichung |
Diese Anordnung erfordert eine sorgfältige Koordinierung, um Doppelarbeit, widersprüchliche Anforderungen und unklare Zuständigkeiten zu vermeiden.
Google DeepMind verwendet bereits ein internes Frontier Safety Framework.
Dieses Framework identifiziert kritische Fähigkeitsschwellen und verknüpft sie mit Bewertungs-, Sicherheits- und Bereitstellungsmaßnahmen.
Die Risikobereiche umfassen:
DeepMinds Framework verwendet auch Safety Cases und Bereitstellungsminderungen für Modelle, die bestimmte Fähigkeitsniveaus erreichen.
Hassabis' neuer Vorschlag würde diese allgemeine Logik über ein einzelnes Unternehmen hinaus ausdehnen.
Anstatt dass jedes Spitzenlabor seine eigenen Schwellenwerte festlegt und überprüft, würde eine externe Organisation gemeinsame Tests und Mindestanforderungen erstellen.
Eine spezialisierte Organisation kann Personal rekrutieren, das fortschrittliche Modelle ausreichend versteht, um ihre Fähigkeiten zu bewerten.
Allgemeine Regulierungsbehörden haben oft Schwierigkeiten, die technische Tiefe von Spitzenlaboren zu erreichen.
Selbstregulierungsstrukturen können Benchmarks und Prozesse schneller aktualisieren als die Gesetzgebung.
Allgemeine Bewertungen können Sicherheitsaussagen zu Modellen verschiedener Entwickler vergleichbarer machen.
Tests vor der Bereitstellung geben Evaluatoren mehr Zeit, schwerwiegende Mängel zu entdecken, bevor das Modell Millionen von Nutzern erreicht.
Retained Tests und Prüfungen durch Dritte können über die von Unternehmen veröffentlichten Modellkarten hinausgehende Beweise liefern.
Der Ausschluss gewöhnlicher, nicht an der Spitze stehender Modelle kann die Belastung für Start-ups, Universitäten und kleine Open-Source-Projekte verringern.
Ein von den USA geführtes System könnte einen Ausgangspunkt für kompatible internationale Evaluierungsstandards bieten.
Obwohl der Plan detailliert ist, bleiben mehrere Designfragen bestehen.
Fähigkeitsschwellen könnten bestimmen, welche Unternehmen teure Tests und mögliche Veröffentlichungsverzögerungen durchführen müssen.
Der Prozess zur Festlegung von Schwellenwerten muss transparent, evidenzbasiert und anfechtbar sein.
Branchengelder können Fachwissen und Rechenleistung bereitstellen, aber auch Interessenkonflikte hervorrufen.
Starke staatliche Aufsicht, öffentliche Governance, finanzielle Transparenz und externe Prüfung sind erforderlich.
Einige Bewertungen erfordern spezielle Umgebungen, Expertenbewertung, langfristige Agententests oder wiederholte Experimente.
Die Standardisierungsorganisation benötigt ausreichend Personal und Rechenleistung, um nicht zum Engpass für Veröffentlichungen zu werden.
Modelle mit veröffentlichten Gewichten haben andere Risiken als gehostete APIs.
Sobald die Gewichte öffentlich sind, können viele Schutzmaßnahmen bei der Bereitstellung unwirksam sein.
Evaluierungsanforderungen könnten eine Unterscheidung zwischen offenen Gewichten, eingeschränkten Gewichten und geschlossenen gehosteten Systemen erfordern.
Spitzenbewertungen liefern oft mehrdeutige Beweise.
Der Rahmen benötigt Regeln für bedingte Zulassung, zusätzliche Tests, Bereitstellungsbeschränkungen, Beschwerden und unabhängige Überprüfungen.
Selbstregulierungsorganisationen können nicht automatisch rechtliche Sanktionen gegen Unternehmen außerhalb ihres Zuständigkeitsbereichs verhängen.
Eine formelle Befugnis würde Gesetzgebung, behördliche Maßnahmen, vertragliche Anforderungen, Beschaffungsregeln oder Marktzugangsbedingungen erfordern.
Große KI-Unternehmen können sich umfassende Bewertungen und Compliance-Teams leisten.
Kleine Entwickler könnten Schwierigkeiten haben, selbst wenn ihre—
Modelle die gleichen Fähigkeitsschwellen erreichen.
Der Rahmen muss verhindern, dass Sicherheitsanforderungen zu wettbewerbswidrigen Barrieren werden.
Hassabis glaubt, dass das System anpassbar sein sollte.
Wenn Evaluierungen zeigen, dass Spitzenmodelle schwerwiegendere Risiken erzeugen, könnte die Regulierung verschärft werden.
Mögliche Eskalationsschritte umfassen:
Einschränkung des Bereitstellungsumfelds
Die strengste Option wäre, bei ausreichenden Beweisen eine koordinierte Verlangsamung des Tempos der Spitzenlabore zu veranlassen.
Derartige Eingriffe sind sowohl politisch als auch technisch äußerst anspruchsvoll. Sie erfordern klare Schwellenwerte, internationale Koordinierung, Durchsetzungsmechanismen sowie stichhaltige Belege dafür, dass die Fortsetzung des aktuellen Tempos ein inakzeptables Risiko darstellt.
Die Entwicklung und Bereitstellung von hochmodernen KI-Anwendungen überschreitet nationale Grenzen.
Normungsgremien der USA können den Zugang zum US-Markt beeinflussen, aber nicht alle Labore weltweit unabhängig regulieren.
Daher betrachtet Hassabis' Vorschlag die US-Führungsrolle als Ausgangspunkt, nicht als endgültiges System.
Internationale Kompatibilität ist in folgenden Bereichen erforderlich:
Fehlende Koordinierung führt dazu, dass Unternehmen mit uneinheitlichen Standards konfrontiert werden oder in Jurisdiktionen mit der lockersten Regulierung ausweichen.
Gleichzeitig ist eine einzige globale Regulierungsbehörde politisch wohl unrealistisch.
Ein Netzwerk nationaler und regionaler Bewertungsstellen, die gemeinsame technische Standards verwenden, könnte ein praktikablerer Ansatz sein.
Ein funktionsfähiges Normungsgremium würde den Prozess der Modellveröffentlichung verändern.
Derzeit veröffentlichen führende Labore hauptsächlich selbst Model Cards, System Cards, Sicherheitsrahmenwerke und einige Bewertungsergebnisse.
Unter dem neuen System müssten Spitzenentwickler möglicherweise Folgendes vorbereiten:
Sicherheitsbewertungen würden zu einer klaren Veröffentlichungshürde werden, nicht zu einer internen Praxis, die jedes Unternehmen selbst bestimmt.
Er schlägt die Gründung einer unabhängigen, von den USA geführten Normungsorganisation zur Bewertung hochmoderner KI-Modelle vor. Diese Organisation soll technische Tests entwickeln, Modelle vor der Veröffentlichung prüfen, Sicherheitspraktiken fördern und die Reaktion auf schwerwiegende Sicherheitslücken koordinieren.
Ähnlich einem öffentlich-privaten Partnerschaftsmodell oder einer Selbstregulierungsorganisation unter Bundesaufsicht. Die Finanzierung könnte hauptsächlich durch die KI-Industrie erfolgen, während sie unter staatlicher Aufsicht operiert.
FINRA ist eine branchenfinanzierte Selbstregulierungsorganisation, die unter der Aufsicht der SEC Wertpapierhändler in den USA beaufsichtigt. Hassabis glaubt, dass eine ähnliche Struktur technisches Fachwissen, anpassungsfähige Regeln, Branchenfinanzierung und öffentliche Aufsicht vereinen könnte.
Der ursprüngliche Vorschlag sah eine freiwillige Vorab-Freigabe an die Normungsorganisation von bis zu 30 Tagen vor der Veröffentlichung vor. Die konkrete Prüfungsdauer könnte je nach Modell und Bewertungsanforderungen variieren.
Nein. Der Rahmen würde nur für Modelle gelten, die einen regelmäßig aktualisierten Schwellenwert für Spitzenfähigkeiten erreichen. Kleinere Modelle von Startups, Universitäten und anderen Organisationen wären in der Regel nicht betroffen, es sei denn, ihre Fähigkeiten erreichen die festgelegte Schwelle.
Hassabis sagt, der Rahmen solle für Systeme auf Spitzenniveau gelten, unabhängig davon, ob sie Open- oder Closed-Source sind oder aus welchem Land sie stammen. Modelle mit offenen Gewichten erfordern möglicherweise andere Sicherheitsvorkehrungen, da Bereitstellungskontrollen nach der Veröffentlichung möglicherweise nicht durchsetzbar sind.
Der Vorschlag konzentriert sich auf Cybersicherheit, biologische Gefahren, autonomes Verhalten, Täuschung, Umgehung von Schutzmaßnahmen und andere risikoreiche Fähigkeiten. Die Testreihen müssten regelmäßig aktualisiert werden, wenn neue Risiken und Fähigkeiten auftauchen.
Ja. Das AI Standards & Innovation Center des NIST befasst sich mit Tests, Standards und Bewertungen für kommerzielle und Spitzen-KI. Die vorgeschlagene Organisation würde eine formellere, unabhängige Vorab-Prüfung und Branchenaufsicht hinzufügen.
Demis Hassabis schlägt die Gründung einer technisch spezialisierten, unabhängig operierenden Normungsorganisation vor, die für die Prüfung der leistungsfähigsten KI-Modelle vor deren Veröffentlichung zuständig ist. Die Organisation soll mit freiwilliger Zusammenarbeit beginnen, vertrauenswürdige Bewertungsprozesse aufbauen und könnte in Zukunft eine verbindliche Hürde für die Bereitstellung von Spitzenmodellen in den USA werden.
Der Vorschlag versucht, industrielles Fachwissen und Finanzierung mit staatlicher Aufsicht, unabhängigen Tests, reservierten Benchmarks, Drittaudits und kontinuierlicher Überwachung nach der Veröffentlichung zu verbinden.
Es bleiben noch viele Umsetzungsfragen offen, darunter Governance-Mechanismen, Durchsetzungsmethoden, Umgang mit Open-Source-Modellen, Bewertungskapazitäten, Interessenkonflikte und internationale Koordinierung. Dennoch ist der Vorschlag konkreter als allgemeine Rufe nach KI-Regulierung – er skizziert Organisationsstruktur, Prüfprozess, Umfang und technische Verantwortlichkeiten.
Die Kernidee ist unkompliziert: Die Sicherheit von Spitzen-KI sollte von einer Organisation getestet werden, die über ausreichende Unabhängigkeit, Fachkenntnisse, Rechenressourcen und Autorität verfügt, um die Technologieunternehmen, die die Modelle bauen, herauszufordern.
Starte mit einem Satz und erhalte in wenigen Minuten eine vollständige Website.
