ISO/IEC 42001 wurde im Dezember 2023 veröffentlicht. Es ist eine Managementsystem-Norm, gehört also zur selben Familie wie ISO 27001 und ISO 9001: Sie sagt Ihnen nicht, wie man ein sicheres Modell baut, sondern wie man eine Organisation führt, die KI verantwortungsvoll entwickelt, einkauft oder betreibt, und zwar so, dass ein Dritter es nachprüfen kann.
Genau darin liegt der Sinn. Die meisten Leitlinien zur KI-Governance sind Listen von Prinzipien. 42001 macht aus den Prinzipien Anforderungen mit dem Wort „muss“ darin, und das ist es, was sie auditierbar und zertifizierbar macht.
Der Aufbau der Norm
Wer ISO 27001 kennt, erkennt die Struktur sofort. Die Kapitel 4 bis 10 folgen der harmonisierten Struktur, die jede moderne ISO-Managementsystem-Norm verwendet:
- Kapitel 4, Kontext: Was die Organisation mit KI tut, wer die interessierten Parteien sind und welchen Umfang das KI-Managementsystem (AIMS) hat. Die Umfangsbeschreibung legt fest, was das Zertifikat abdeckt; sie ist das Erste, was ein Auditor liest.
- Kapitel 5, Führung: eine KI-Richtlinie, die ganz oben abgezeichnet ist, und Rollen mit der Befugnis, sie durchzusetzen.
- Kapitel 6, Planung: eine KI-Risikobewertung, eine Folgenabschätzung für KI-Systeme, Ziele und die Erklärung zur Anwendbarkeit.
- Kapitel 7, Unterstützung: Ressourcen, Kompetenz, Bewusstsein, Kommunikation und dokumentierte Information.
- Kapitel 8, Betrieb: Die Risiko- und Folgenabschätzungen werden tatsächlich durchgeführt und die Maßnahmen tatsächlich angewendet, über den gesamten Lebenszyklus jedes Systems.
- Kapitel 9, Bewertung der Leistung: Überwachung, internes Audit und Managementbewertung.
- Kapitel 10, Verbesserung: Nichtkonformitäten und Korrekturmaßnahmen.
Anhang A listet 38 Referenzmaßnahmen in neun Gruppen, von Richtlinien und interner Organisation über Ressourcen, Folgenabschätzung, Systemlebenszyklus, Daten und Informationen für interessierte Parteien bis zur Nutzung von KI-Systemen und zu Beziehungen mit Dritten. Anhang B gibt Umsetzungshinweise zu jeder Maßnahme. Anhang C nennt Ziele und Risikoquellen, auf die man zurückgreifen kann, und Anhang D beschreibt, wie die Norm in verschiedenen Domänen und Branchen anzuwenden ist.
Worin sie sich von ISO 27001 unterscheidet
Die Überschneidung mit 27001 ist so groß, dass die meisten Organisationen beide als ein integriertes System betreiben, und Zertifizierungsstellen auditieren sie gemeinsam. Drei Dinge sind neu.
Die Folgenabschätzung für KI-Systeme. 27001 verlangt, das Risiko für die Organisation zu bewerten. 42001 kommt mit einer Bewertung der Auswirkungen jedes KI-Systems auf Einzelne, Gruppen und die Gesellschaft dazu: Fairness, Transparenz, Rechenschaft, Sicherheit, Datenschutz und Umwelt. Das ist die Maßnahme, die die meisten Unternehmen noch nie gemacht haben, und die, mit der Auditoren die meiste Zeit verbringen.
Lebenszyklus-Maßnahmen. Die Norm geht durch Anforderungen, Design, Verifizierung, Bereitstellung, Betrieb und Außerbetriebnahme von KI-Systemen, mit Erwartungen an Dokumentation und menschliche Aufsicht in jeder Phase.
Daten für KI. Herkunft, Qualität, Aufbereitung und Kennzeichnung von Trainings- und Evaluierungsdaten bekommen eine eigene Maßnahmengruppe, getrennt von der klassischen Informationssicherheitssicht auf Daten.
Wie sie zur KI-Verordnung passt
Beide wurden von unterschiedlichen Stellen für unterschiedliche Zwecke geschrieben, und keine ersetzt die andere. Die KI-Verordnung ist Gesetz, mit konkreten Pflichten für konkrete Risikoklassen und Stichtage. 42001 ist eine freiwillige Norm dafür, wie man KI im Allgemeinen managt.
Dass beide zusammen genannt werden, liegt daran, dass die Verordnung von Anbietern von Hochrisiko-Systemen ein Qualitätsmanagementsystem (Artikel 17) und ein Risikomanagementsystem (Artikel 9) verlangt, dazu Daten-Governance (Artikel 10), technische Dokumentation (Artikel 11) und Beobachtung nach dem Inverkehrbringen (Artikel 72). Ein nach 42001 aufgebautes AIMS erzeugt den größten Teil dieser Nachweise ohnehin. Bis harmonisierte Normen für die Verordnung veröffentlicht sind, ist es das konkreteste Gerüst, das es gibt, und das, gegen das viele Auditoren derzeit die Bereitschaft prüfen sollen.
Bei den Grenzen lohnt Genauigkeit. Ein 42001-Zertifikat begründet keine Konformitätsvermutung nach der KI-Verordnung, und es ersetzt nicht die Konformitätsbewertung, die die Verordnung verlangt. Es zeigt, dass Ihr Umgang mit KI systematisch ist und auditiert wurde. Das ist für einen Kunden, eine Behörde oder einen Vorstand wertvoll, aber nicht dieselbe Aussage.
Was das Audit prüft
Die Zertifizierung folgt dem üblichen zweistufigen Muster. Stufe 1 ist eine Bereitschaftsprüfung: Umfang, Richtlinie, Risikomethodik, Methodik der Folgenabschätzung, Erklärung zur Anwendbarkeit, internes Audit und Managementbewertung. Stufe 2 prüft, ob das System funktioniert: Der Auditor greift sich KI-Systeme aus dem Umfang heraus und folgt ihnen durch die Aufzeichnungen.
Rechnen Sie damit, gefragt zu werden nach:
- Einem Verzeichnis der KI-Systeme mit Verantwortlichem, Zweck und Lebenszyklusphase für jedes davon.
- Der Risikobewertung und der Folgenabschätzung für jedes System im Umfang, mit Nachweisen, dass die Ergebnisse etwas verändert haben.
- Den Aufzeichnungen zur Daten-Governance: woher die Trainingsdaten kamen, wie sie geprüft wurden, wer sie gekennzeichnet hat, wie nach Verzerrungen gesucht wurde.
- Nachweisen menschlicher Aufsicht im Betrieb, nicht nur einer Richtlinie, die behauptet, es gebe welche.
- Vereinbarungen mit Dritten für Modelle oder Komponenten, die Sie nicht selbst gebaut haben, einschließlich der Informationen, die der Lieferant Ihnen gegeben hat.
- Der Bearbeitung von Vorfällen und Beschwerden und dem, was daraus gelernt wurde.
- Den Ergebnissen des internen Audits und den Protokollen der Managementbewertung.
Die Zertifizierungsstellen selbst müssen ISO/IEC 42006 erfüllen, veröffentlicht 2025, das Kompetenzanforderungen an Menschen stellt, die ein AIMS auditieren. Fragen Sie die Stelle, wer im Team sein wird und welchen KI-Hintergrund diese Personen haben; das ist eine faire Frage, und die Antworten fallen sehr unterschiedlich aus.
Wer das jetzt tun sollte
Anbieter von Systemen, die unter der KI-Verordnung als Hochrisiko gelten werden, weil die Arbeit am Managementsystem länger dauert als die technische Dokumentation. Unternehmen, die KI-gestützte Produkte an Konzerne verkaufen, deren Einkaufsfragebögen inzwischen danach fragen. Organisationen, die 27001 schon haben und KI so einsetzen, dass es Menschen betrifft, weil der Mehraufwand überschaubar ist und das integrierte Audit effizient.
Für alle anderen ist der sinnvolle erste Schritt kleiner als eine Zertifizierung: das Verzeichnis schreiben, eine Folgenabschätzung ordentlich durchführen und sehen, was dabei herauskommt. Die meisten Organisationen stellen fest, dass diese Übung mindestens eine Entscheidung über einen Einsatz verändert, und das ist die Norm, die ihre Arbeit tut, bevor ein Auditor überhaupt da ist.