ISO/IEC TR 24028: Vertrauenswürdigkeit und Robustheit von KI-Systemen sicherstellen

Was ist die ISO 24028?

Die ISO/IEC TR 24028:2020 ist ein technischer Bericht (Technical Report, TR), der Unternehmen dabei unterstützt, die Vertrauenswürdigkeit, Robustheit und Sicherheit ihrer KI-Systeme zu bewerten und zu optimieren. Die Norm wurde im Mai 2020 veröffentlicht und liefert Organisationen praktische Empfehlungen, um ihre KI-Systeme sicher, transparent und nachvollziehbar zu gestalten. Dadurch trägt sie dazu bei, das Vertrauen von Stakeholdern zu stärken und Compliance-Risiken zu minimieren.

Ziel und Anwendungsbereich der Norm

Die ISO/IEC TR 24028 gibt einen umfassenden Überblick über Konzepte und Methoden zur Erhöhung der Vertrauenswürdigkeit von KI. Sie adressiert zentrale Herausforderungen und zeigt technische Lösungen zur Verbesserung von:

• Robustheit: Sicherstellung, dass KI-Systeme auch unter unerwarteten Bedingungen zuverlässig arbeiten.
• Sicherheit: Schutz vor Angriffen und gezielter Manipulation von KI-Algorithmen.
• Fairness & Bias-Kontrolle: Vermeidung diskriminierender oder verzerrter Entscheidungen.
• Nachvollziehbarkeit & Transparenz: Verständliche und erklärbare KI-Entscheidungen für Nutzer und Regulierungsbehörden.

Die Norm richtet sich an alle Unternehmen, die KI-Systeme entwickeln, einsetzen oder verwalten, unabhängig von ihrer Größe oder Branche. Sie bietet eine strukturierte Herangehensweise, um technische, ethische und regulatorische Risiken systematisch zu managen.

Webinar: Künstliche Intelligenz – Grundlagen und Best Practices

Sie möchten gerne mehr zum Thema Künstliche Intelligenz erfahren und wie Ihr Unternehmen davon profitieren kann? In unserem Webinar fassen wir Ihnen die wichtigsten Aspekte zusammen!

Jetzt anmelden

Praktische Umsetzung der ISO/IEC TR 24028

Um die Anforderungen der Norm erfolgreich zu erfüllen, sollten Unternehmen eine Risikobewertung für ihre KI-Systeme durchführen und gezielte Maßnahmen implementieren:

• Systematische Analyse von Sicherheits- und Robustheitsrisiken in KI-Modellen.
• Etablierung von Transparenz- und Erklärbarkeitsmaßnahmen, um Entscheidungen verständlich und überprüfbar zu machen.
• Entwicklung von Mechanismen zur Kontrolle und Überwachung von KI-Systemen im laufenden Betrieb.
• Maßnahmen gegen Manipulationsversuche (Adversarial Attacks) durch gezielte Absicherung gegen feindliche Datenangriffe.
• Sicherstellung von Verfügbarkeit, Belastbarkeit und Zuverlässigkeit von KI-Anwendungen.
• Integration der Norm in bestehende Governance- und Compliance-Modelle, insbesondere in Verbindung mit: ISO/IEC 38507 (KI-Governance auf Vorstandsebene) und ISO/IEC 42001 (Managementsystem für KI)

Die Norm bildet außerdem die Basis für unternehmensspezifische KI-Richtlinien und kann Unternehmen dabei helfen, gesetzliche Anforderungen zu erfüllen, insbesondere für Hochrisiko-KI-Systeme, wie sie im EU AI Actdefiniert sind.

Offene Fragen zur Weiterentwicklung

Obwohl die ISO/IEC TR 24028 eine solide Grundlage für vertrauenswürdige KI-Systeme bietet, gibt es noch offene Fragen:

• Wie lassen sich die Empfehlungen der Norm an spezifische Branchenanforderungen anpassen?
• Welche Metriken eignen sich zur Messung der Vertrauenswürdigkeit und Sicherheit von KI-Systemen?
• Wie kann die Norm mit der schnellen Weiterentwicklung von KI-Technologien Schritt halten?
• Wird die Umsetzung der Norm zukünftig in bestimmten Branchen oder durch regulatorische Vorgaben verpflichtend?

Diese Fragestellungen sind entscheidend für die kontinuierliche Weiterentwicklung des KI-Risikomanagements und eine effektive Umsetzung der Norm in der Praxis.

FAQ: Wichtige Fragen zur ISO/IEC TR 24028

Für wen ist die ISO/IEC TR 24028 relevant?

Für alle Unternehmen, die KI-Systeme entwickeln, einsetzen oder verwalten – unabhängig von Größe oder Branche.

Welche Vorteile bietet die Implementierung der ISO/IEC TR 24028?

Die Norm hilft dabei, KI-Governance zu verbessern, Risiken systematisch zu managen, das Vertrauen von Stakeholdern zu erhöhen und regulatorische Anforderungen zu erfüllen.

Wie unterscheidet sich ISO/IEC TR 24028 von anderen KI-Standards?

Sie konzentriert sich speziell auf die Vertrauenswürdigkeit von KI-Systemen und bietet einen detaillierten Überblick über Themen wie Transparenz, Erklärbarkeit und Risikomanagement.

Welche Ressourcen werden für die Implementierung benötigt?

Unternehmen benötigen interdisziplinäres Fachwissen in KI, Risikomanagement und Governance. Externe Beratung und Schulungen können zusätzlich unterstützen. Der konkrete Ressourcenaufwand hängt von der Komplexität der KI-Systeme und der Unternehmensgröße ab.

Welche Risiken behandelt die Norm?

Zu den wichtigsten adressierten Risiken gehören:

• Bias & Diskriminierung
• Mangelnde Transparenz & Erklärbarkeit
• Manipulationsrisiken (Adversarial Attacks)
• Robustheitsprobleme bei unerwarteten Eingaben
• Fehlende Sicherheitsmechanismen in KI-Systemen

E-Book: Künstliche Intelligenz für Entscheider

Künstliche Intelligenz für Unternehmen: Ein Ratgeber für Entscheider

Jetzt herunterladen

E-Book: Künstliche Intelligenz für Entscheider

×

Unterstützung bei der Implementierung

Wir begleiten Unternehmen bei der praktischen Umsetzung der ISO/IEC TR 24028 mit gezielten Beratungsleistungen:

• Workshops zur KI-Governance, um Unternehmen auf die Anforderungen der Norm vorzubereiten.
• Schulungen für KI-Officer, um Fachkräfte in den Bereichen KI-Sicherheit, Transparenz und Risikomanagement weiterzubilden.
• Beratung zur Implementierung, um Unternehmen auf gesetzliche Anforderungen und Compliance-Regelungen optimal vorzubereiten.

Kontaktieren Sie uns – wir unterstützen Sie bei der Entwicklung sicherer, transparenter und robuster KI-Systeme!