OpenAI, Anthropic und Google planen gemeinsame Regeln für sichere KI

OpenAI, Anthropic und Google sprechen über gemeinsame KI-Standards

Die drei großen KI-Entwickler OpenAI, Anthropic und Google DeepMind führen Gespräche über eine stärkere Zusammenarbeit bei der Sicherheit von Künstlicher Intelligenz. Im Mittelpunkt steht die Idee einer gemeinsamen Organisation, die branchenweite Sicherheitsstandards entwickeln und die Prüfung besonders leistungsfähiger KI-Systeme unterstützen könnte.

Nach aktuellen Berichten laufen entsprechende Gespräche bereits seit mehreren Wochen. OpenAIs globaler Politikchef Chris Lehane bestätigte die Zusammenarbeit und erklärte, dass eine gemeinsame Vorgehensweise bei Sicherheitsfragen sinnvoll sei.

Damit könnten ausgerechnet Unternehmen, die auf dem internationalen KI-Markt unmittelbar miteinander konkurrieren, bei grundlegenden Sicherheitsanforderungen künftig enger zusammenarbeiten.

Eigene Organisation könnte leistungsfähige KI-Systeme prüfen

Die Überlegungen gehen über unverbindliche Empfehlungen hinaus. Diskutiert wird eine eigenständige Organisation für Standards und Sicherheitsprüfungen in der KI-Branche.

Ein Vorbild für ein solches Modell könnte eine selbstregulierende Organisation sein, wie sie bereits in anderen Branchen existiert. Google-DeepMind-Chef Demis Hassabis hatte zuvor die Idee einer Institution ins Spiel gebracht, die besonders leistungsfähige KI-Systeme vor ihrer Veröffentlichung überprüfen könnte.

Eine solche Organisation könnte gemeinsame Testverfahren entwickeln, Sicherheitsstandards definieren und möglicherweise unabhängige Prüfungen neuer KI-Modelle ermöglichen.

Warum die KI-Konzerne jetzt handeln wollen

Die Diskussion über die Sicherheit moderner KI-Systeme hat sich zuletzt erheblich verschärft. Mit sogenannten KI-Agenten entstehen Systeme, die zunehmend selbstständig komplexe Aufgaben ausführen, Software bedienen, Informationen beschaffen oder mehrstufige Prozesse durchführen können.

Je leistungsfähiger solche Systeme werden, desto wichtiger werden nach Ansicht zahlreicher Entwickler und Forscher wirksame Sicherheitsmechanismen. Im Fokus stehen unter anderem Cyberrisiken, der mögliche Missbrauch leistungsfähiger Modelle und die Frage, wie die Kontrolle über weitgehend autonom arbeitende KI-Systeme gewährleistet werden kann.

Anthropic-Chef Dario Amodei forderte zuletzt sogar, die Geschwindigkeit bei der Weiterentwicklung besonders leistungsfähiger KI-Modelle zu reduzieren. Sein Konzept sieht unter anderem unabhängige Sicherheitsexperten, gemeinsame Standards führender KI-Unternehmen und eine stärkere internationale Zusammenarbeit vor.

Unabhängige Experten sollen KI-Systeme kontrollieren

Eine wichtige Rolle könnten künftig externe Prüfer spielen. Sie sollen nicht nur öffentlich verfügbare Versionen eines KI-Modells untersuchen, sondern möglichst tiefen Einblick in Sicherheitsprozesse und interne Bewertungen erhalten.

OpenAI-Chef Sam Altman unterstützte zuletzt die Idee, unabhängigen Prüfern einen weitreichenden Zugang zu ermöglichen. Damit könnten Sicherheitsbewertungen stärker von externen Fachleuten begleitet werden.

Eine solche Kontrolle wäre ein wichtiger Unterschied zu einer ausschließlich internen Selbstprüfung durch die jeweiligen Entwickler.

OpenAI fordert gleichzeitig gesetzliche KI-Regeln

Die Gespräche über gemeinsame Branchenstandards bedeuten allerdings nicht, dass die Unternehmen ausschließlich auf freiwillige Selbstregulierung setzen wollen.

OpenAI hat sich zuletzt ausdrücklich für verpflichtende nationale Sicherheitsanforderungen für besonders leistungsfähige KI-Systeme ausgesprochen. Das Unternehmen fordert eine Regulierung, die sich an den tatsächlichen Fähigkeiten moderner KI-Modelle orientiert.

Damit könnten künftig zwei Ebenen parallel entstehen: gesetzlich vorgeschriebene Regeln durch Staaten und Behörden sowie zusätzliche technische Sicherheitsstandards, auf die sich führende Unternehmen innerhalb der Branche verständigen.

Auch Anthropic verschärft eigene Sicherheitsregeln

Anthropic arbeitet bereits seit mehreren Jahren mit einer eigenen „Responsible Scaling Policy“. Dabei sollen die Sicherheitsmaßnahmen mit den Fähigkeiten und möglichen Risiken neuer KI-Modelle steigen.

Je leistungsfähiger ein Modell wird und je näher es bestimmte Risikoschwellen erreicht, desto umfangreichere Schutzmaßnahmen sollen erforderlich werden. Das Unternehmen hat diese Richtlinien 2026 mehrfach aktualisiert.

Solche unternehmensinternen Regelwerke könnten künftig durch gemeinsame Standards der gesamten Branche ergänzt werden.

Selbstregulierung der KI-Branche ist nicht unumstritten

Die Idee einer von den größten KI-Unternehmen getragenen Organisation wirft allerdings auch Fragen auf. Kritiker sehen die Gefahr, dass ausgerechnet die marktführenden Konzerne einen erheblichen Einfluss darauf erhalten könnten, welche Sicherheitsanforderungen für die gesamte Branche gelten.

Besonders kleinere KI-Unternehmen könnten durch umfangreiche Prüfverfahren und hohe technische Anforderungen stärker belastet werden. Kritiker warnen deshalb davor, dass Standards nicht ausschließlich von wenigen marktbeherrschenden Unternehmen definiert werden sollten.

Entscheidend dürfte deshalb sein, wie unabhängig eine mögliche Organisation tatsächlich arbeitet, wer an der Entwicklung der Standards beteiligt wird und welche Rolle Wissenschaft, Behörden, kleinere Unternehmen und externe Sicherheitsexperten erhalten.

Zusammenarbeit zwischen Konkurrenten könnte schwierig werden

Hinzu kommt der intensive Wettbewerb zwischen OpenAI, Anthropic und Google. Alle drei Unternehmen investieren erhebliche Summen in die Entwicklung neuer KI-Modelle und konkurrieren um Kunden, Entwickler, Rechenkapazitäten und technologische Spitzenpositionen.

Gemeinsame Sicherheitsstandards müssen deshalb so gestaltet werden, dass Unternehmen kooperieren können, ohne sensible Geschäftsgeheimnisse oder wettbewerbsrelevante Informationen miteinander auszutauschen.

Auch kartellrechtliche Fragen könnten bei einer engeren Zusammenarbeit konkurrierender Unternehmen eine Rolle spielen. Wie eine zukünftige Organisation konkret aufgebaut werden könnte, ist derzeit noch offen.

KI-Regulierung wird zum internationalen Thema

Die Initiative zeigt gleichzeitig, wie stark sich die Diskussion um Künstliche Intelligenz verändert hat. Während in den vergangenen Jahren vor allem die Leistungsfähigkeit neuer Modelle im Mittelpunkt stand, gewinnen Sicherheit, Kontrolle und Regulierung zunehmend an Bedeutung.

In Europa schafft der AI Act bereits einen gesetzlichen Rahmen für Künstliche Intelligenz. Gleichzeitig diskutieren die USA und andere Staaten über eigene Vorgaben für besonders leistungsfähige KI-Systeme.

Internationale Unterschiede stellen die Unternehmen dabei vor eine zusätzliche Herausforderung. KI-Modelle werden weltweit angeboten, während gesetzliche Anforderungen von Land zu Land unterschiedlich ausfallen können.

Noch gibt es keine fertige Organisation

Wichtig ist allerdings: Die gemeinsame Selbstregulierung ist bislang kein abgeschlossenes Projekt. OpenAI, Anthropic und Google DeepMind befinden sich nach den derzeit bekannten Informationen noch in Gesprächen über mögliche Strukturen und gemeinsame Standards.

Wie eine solche Organisation finanziert wird, welche Unternehmen teilnehmen können, welche Prüfverfahren verbindlich werden und wie unabhängig die Kontrolle tatsächlich ausgestaltet wird, ist bislang nicht abschließend geklärt.

Die Gespräche zeigen jedoch, dass selbst die größten Entwickler der Branche einen zunehmenden Bedarf an gemeinsamen Sicherheitsstandards sehen.

Fazit: KI-Sicherheit wird zur gemeinsamen Aufgabe

Mit den Gesprächen zwischen OpenAI, Anthropic und Google DeepMind könnte sich die Sicherheitsarchitektur der internationalen KI-Branche verändern. Statt ausschließlich eigene Regeln zu entwickeln, prüfen die größten Anbieter nun gemeinsame Standards und unabhängige Kontrollmechanismen.

Ob daraus tatsächlich eine wirkungsvolle Selbstregulierung entsteht, hängt entscheidend von der konkreten Ausgestaltung ab. Besonders wichtig werden die Unabhängigkeit möglicher Prüfer, transparente Standards und das Zusammenspiel mit staatlicher Regulierung sein.

Fest steht: Mit immer leistungsfähigeren KI-Systemen wächst nicht nur der technologische Wettbewerb. Gleichzeitig steigt der Druck auf Entwickler, nachvollziehbare und überprüfbare Sicherheitsmechanismen zu schaffen.