KI-TÜV startet eigenes Prüfprogramm und Zertifizierungen

TÜV entwickelt Zertifizierung für KI-Systeme

Ob Chatbots, medizinische Diagnosesysteme, Recruiting-Software oder intelligente Assistenzsysteme: Künstliche Intelligenz übernimmt zunehmend Aufgaben, bei denen Fehler erhebliche Folgen haben können.

Die TÜV-Organisationen entwickeln deshalb ein gemeinsames Rahmenprogramm, mit dem Qualität und Sicherheit von KI-Systemen unabhängig geprüft werden sollen. Hersteller und Anbieter sollen durch eine Zertifizierung nachweisen können, dass ihre KI-Anwendungen festgelegte Anforderungen erfüllen.

Das Programm befindet sich derzeit in der Pilotphase und wird gemeinsam mit Unternehmen unter realen Einsatzbedingungen getestet. Die schrittweise Einführung der Zertifizierungen ist für Ende 2026 vorgesehen.

Drei unterschiedliche TÜV-Zertifizierungen für Künstliche Intelligenz

Da sich KI-Anwendungen hinsichtlich ihres Einsatzzwecks und möglicher Risiken erheblich unterscheiden, sieht das neue TÜV-Konzept nicht nur eine einzige Prüfung vor. Geplant sind drei Zertifizierungsstufen mit unterschiedlichem Umfang und unterschiedlicher Prüftiefe.

Die erste Zertifizierung richtet sich vor allem an KI-Systeme, die nach dem europäischen AI Act nicht als Hochrisiko-Systeme eingestuft werden. Dabei sollen grundlegende Anforderungen an Qualität und Sicherheit überprüft werden.

Die zweite Zertifizierung kann grundsätzlich für sämtliche KI-Systeme eingesetzt werden. Zusätzlich ist eine strukturierte KI-spezifische Risikobewertung vorgesehen. Dabei werden unter anderem die Dokumentation und die praktische Umsetzung der Anforderungen beim Hersteller betrachtet.

Die dritte Zertifizierung geht noch einen Schritt weiter. Zusätzlich zur Risiko- und Dokumentationsprüfung sollen bestimmte Eigenschaften des KI-Systems durch unabhängige technische Tests untersucht werden. Dadurch sollen Leistungsfähigkeit und Zuverlässigkeit eines Systems genauer bewertet werden können.

Qualität und Sicherheit von KI sollen messbar werden

Eine besondere Herausforderung bei Künstlicher Intelligenz besteht darin, abstrakte Anforderungen wie Sicherheit, Robustheit oder Zuverlässigkeit in überprüfbare Kriterien zu übersetzen.

Eine zentrale Rolle übernimmt dabei das TÜV AI.Lab. Es entwickelt unter anderem konkrete Prüfanforderungen, Prüfkataloge und Methoden für die Bewertung von KI-Systemen.

Das TÜV AI.Lab wurde 2023 als gemeinsames Unternehmen mehrerer TÜV-Organisationen gegründet. Ziel ist es, regulatorische Anforderungen an Künstliche Intelligenz in praktisch anwendbare Prüfmethoden zu überführen und die Entwicklung entsprechender Standards und Normen zu unterstützen.

Zertifizierung soll mit dem EU AI Act kompatibel sein

Das geplante Prüfprogramm orientiert sich auch an den europäischen Regeln für Künstliche Intelligenz.

Der EU AI Act verfolgt einen risikobasierten Ansatz. Je nachdem, welche möglichen Auswirkungen eine KI-Anwendung haben kann, gelten unterschiedliche Anforderungen. Besonders strenge Vorgaben betreffen sogenannte Hochrisiko-KI-Systeme, beispielsweise in sensiblen Bereichen.

Das TÜV-Rahmenprogramm soll mit den Anforderungen der europäischen KI-Verordnung kompatibel sein und diese um technische sowie risikobasierte Prüfungen ergänzen.

Vertrauen in Künstliche Intelligenz bleibt Herausforderung

Hintergrund des neuen Prüfprogramms ist auch die weiterhin vorhandene Skepsis gegenüber KI. Nach Angaben des TÜV-Verbands fürchten 79 Prozent der Bundesbürger unkalkulierbare Risiken durch Künstliche Intelligenz.

Selbst unter Menschen, die bereits KI-Anwendungen nutzen, vertraut nur etwas mehr als die Hälfte darauf, dass die gelieferten Ergebnisse und Antworten tatsächlich korrekt sind. Die Zahlen stammen aus der TÜV-KI-Studie 2025.

Unabhängige Prüfungen könnten deshalb für Unternehmen zunehmend zu einem wichtigen Instrument werden. Ein Zertifikat könnte Kunden und Geschäftspartnern beispielsweise signalisieren, dass eine KI-Anwendung nach nachvollziehbaren Kriterien auf bestimmte Qualitäts- und Sicherheitsmerkmale untersucht wurde.

KI-Zertifikate könnten für Unternehmen wichtiger werden

Gerade für Unternehmen dürfte das Thema in den kommenden Jahren an Bedeutung gewinnen. KI wird zunehmend in Geschäftsprozesse integriert – vom Kundenservice und Personalwesen über Produktion und Logistik bis hin zu Medizin, Mobilität und Finanzdienstleistungen.

Damit wächst gleichzeitig die Frage, wie Unternehmen die Zuverlässigkeit ihrer eingesetzten Systeme gegenüber Kunden, Geschäftspartnern und Behörden dokumentieren können.

Eine unabhängige Zertifizierung könnte hier einen zusätzlichen Nachweis liefern. Sie ersetzt allerdings nicht automatisch sämtliche gesetzlichen oder branchenspezifischen Pflichten. Welche Anforderungen gelten, hängt weiterhin vom jeweiligen KI-System, dessen Einsatzzweck und der regulatorischen Einstufung ab.

Pilotphase für KI-Prüfprogramm läuft bereits

Das Rahmenprogramm wird gemeinsam vom TÜV-Verband, dem TÜV AI.Lab und den beteiligten TÜV-Organisationen entwickelt.

In der aktuellen Pilotphase werden die geplanten Prüfverfahren mit Partnerunternehmen unter praktischen Bedingungen erprobt. Die dabei gewonnenen Erfahrungen sollen anschließend in die endgültigen Prüfanforderungen einfließen.

Der Marktstart ist schrittweise ab Ende 2026 geplant.

Fazit: Unabhängige KI-Prüfungen werden wichtiger

Mit dem neuen Zertifizierungsprogramm reagiert der TÜV auf eine zentrale Herausforderung des wachsenden KI-Marktes: Leistungsfähige Systeme allein reichen nicht aus. Unternehmen müssen zunehmend auch nachweisen können, dass ihre KI-Anwendungen zuverlässig, sicher und nachvollziehbar eingesetzt werden.

Die geplanten TÜV-Zertifizierungen könnten dafür künftig einen zusätzlichen unabhängigen Nachweis bieten. Besonders interessant dürfte das Programm für Unternehmen sein, die KI in sensiblen oder geschäftskritischen Bereichen einsetzen und gegenüber Kunden oder Geschäftspartnern ein höheres Maß an Transparenz schaffen möchten.

Mit der geplanten Einführung Ende 2026 könnte damit ein neuer Markt für die unabhängige Prüfung und Zertifizierung von KI-Systemen entstehen.