Erklärbare KI

Aaron Rudolf

25. September 2024

Was ist erklärbare KI?

Eigentlich ist es genau dasselbe wie bei menschlichen Handlungen: Wir wollen Handlungen nicht nur ausführen, sondern auch den Grund der Handlung und die Handlung selbst nachvollziehen. Das Gleiche gilt für erklärbare KI.

Wir lassen zunehmend mehr Programme wie ChatGPT Aufgaben für uns ausführen, wie zum Beispiel das Ausrechnen einer komplexen mathematischen Regressionsaufgabe, das Erstellen eines Vortrags für das nächste Meeting oder die Erstellung eines Konzepts für neue Grünflächen auf dem Unternehmensgelände. Aber über die gewünschte Lösung bleibt uns ein Einblick in den Lern- und Ergebnisfindungsprozess aus.

Und genau an diesem Punkt setzt das Konzept der erklärbaren KI an. Es versucht, undurchsichtige Algorithmen verständlich zu machen, sodass nicht nur die Lösung, sondern auch der Weg zur Lösung verständlich und ersichtlich ist.

E-Book: Wie Ihr Unternehmen von Künstlicher Intelligenz (KI) profitieren kann

In unserem E-Book erfahren Sie die wichtigsten Inhalte rund um das Thema künstliche Intelligenz & wie Sie davon profitieren können!

Jetzt anfordern

E-Book: Wie Ihr Unternehmen von Künstlicher Intelligenz (KI) profitieren kann

×

Gefahren nicht erklärbarer KI

Mit welcher Gewissheit können Sie sagen, dass ChatGPT den richtigen Prüfweg genutzt hat, um Ihnen bei der Bewilligung eines Kredits zu helfen? Oder können Sie sich sicher sein, dass bei der Regressionsaufgabe überhaupt der richtige Rechenweg und die richtigen Formeln genutzt wurden? Genau in diesen Ungewissheiten liegt die Gefahr.

Sogenannte Black-Box-Algorithmen können durch ihre neuronalen Netze zwar Assoziationen bilden und Wissen wiedergeben, aber noch nicht wirklich zureichend verlässlich komplexe Anwendungsaufgaben lösen und Begründungen liefern. Wenn für Sie der Ergebnisweg nicht nachvollziehbar ist, wie können Sie dann das Problem überhaupt hinterfragen?

Auch im Unternehmenskontext ist es problematisch, wenn Black-Box-Systeme wichtige Aufgaben wie Budgetierung, Terminplanung oder Konzepterstellungen übernehmen sollen, aber nicht gewährleistet werden kann, dass Ergebnisse im Einklang mit gesellschaftlichen Erwartungen oder gemäß des Unternehmensstandards sind. Bei Fehlern kann Ihr Unternehmen keine aktive Fehlersuche durchführen, da gar kein Lösungsweg vorhanden ist.

Damit zeigt sich, dass durch nicht erklärbare KI die Gefahr aufkommt, dass Sie wichtige Faktoren für Ihr Unternehmen verlieren – Nachvollziehbarkeit und unkomplizierte Fehlerbehebung.

Wege zur erklärbaren KI

LIME (Local interpretable model-agnostic explanations)

Bei dieser weit verbreiteten Methode nimmt man eine Vorhersage aus einem Black-Box-Algorithmus und imitiert diese mit einem zweiten, transparenten Modell. Oft nutzen diese Modelle dann lineare Regressionsmodelle oder Entscheidungsbäume für eine gute Reproduktion. Im Anschluss sucht man die Merkmale, die den größten Einfluss auf die Vorhersage haben.

Stellen Sie Ihrer KI zum Beispiel die Frage, ob eine Begrünung des Firmengeländes sinnvoll ist und erhalten nach der Ausführung die Antwort „Ja“, können Sie sich den generierten Entscheidungsbaum anschauen. Abzweigungen in diesem Entscheidungsbaum lassen Schlüsse darüber ziehen, welche Themen dabei am meisten berücksichtigt wurden. Beispiele wären hier verfügbare Fläche, welche Begrünung genutzt werden soll oder der Preis.

SHAP (SHapley Additive exPlanations)

Mit der SHAP-Methode können Sie den Einfluss einzelner Faktoren auf ein bestimmtes Ergebnis ermitteln. Die Algorithmen werden einmal mit und einmal ohne den Faktor ausgeführt und dann können Sie die Änderung des Ergebnisses interpretieren.

Wenn Sie verstehen wollen, welche Faktoren den Verkauf eines Produkts Ihrer Firma am meisten beeinflussen, führen Sie die Analyse erst mit allen Faktoren durch, z. B. Wochentag, Werbeausgaben, regionale Nachfrage und Produktpreis. Wenn Sie jetzt die Analyse mehrfach erneut durchführen und jedes Mal nur einen der Faktoren entfernen, können Sie feststellen, bei welchem Durchgang sich das Ergebnis am meisten ändert. Somit können Sie schlussfolgern, dass der fehlende Faktor den größten Einfluss hat.

LRP (layer-wise relevance propagation)

LRP ist eine Methode, die vor allem bei der Bilderkennung relevant ist. Geben Sie der KI zum Beispiel ein Bild des Berliner Fernsehturms und geben ihr die Aufgabe das Objekt zu identifizieren. Hier nutzt man gekonnt die neuronalen Netze der KI und schaut, welche Pixel bei der Vorhersage am meisten zur Aktivierung der Neuronen geführt hat. Ein Wärmebild kann diese Bereiche des Bildes dann gut darstellen. In unserem Beispiel zeigt die Auswertung dann höchstwahrscheinlich die größte Aktivierung beim Objekt selbst, wie der Spitze oder dem langen Turm, und die geringste beim Hintergrund.

Beispielbildung

Indem man ein Beispiel generiert, das nicht in den Daten beinhaltet ist und nur eine kleine Änderung des Input beschreibt, kann man sich unser menschliches Denken zu Nutze machen. Wir nehmen häufig Gegenbeispiele, um unsere Erklärungen nur auf die wesentlichen Unterschiede zu beschränken.

Wenn Sie also zum Beispiel Ihren Kollegen erklären wollen, warum Sie sich genau für Ihre Drei-Raum-Wohnung entschieden haben, nehmen Sie vielleicht eine Zwei-Raum-Wohnung als Gegenbeispiel um deren Unterschiede gegenüberzustellen. Dann können Sie einfach sagen „Meine Wohnung ist geräumiger als Wohnung X“ oder „Meine Wohnung hat im Gegensatz zu Wohnung X einen Raum mehr, den ich als Home-Office nutzen kann“.

Genauso nutzt man diese Methode bei der KI. Es wird vorher ein Output definiert und dann der Input geringfügig geändert. Und diese Änderung im Input soll die Unterschiede unterstreichen.

Bei dieser Herangehensweise zeigt sich aber der Nachteil, dass auf ein Gegenbeispiel auch nur eine begrenzte Anzahl an Erklärungen folgen kann. Warum also zum Beispiel eine Wohnung im Stadtzentrum ausgewählt wurde, aber nicht im Speckgürtel der Stadt bleibt unklar. Oder warum ist es wichtig, dass bei der Wohnung ein Fahrstuhl mit im Wohnungskomplex ist?

E-Book: KI im Mittelstand

In diesem E-Book erfahren Sie, wie Sie KI in Ihrem Unternehmen einsetzen können.

Jetzt anfordern

E-Book: KI im Mittelstand

×

Wie Ihr Unternehmen erklärbare KI nutzen kann

Transparente Entscheidungsfindung

Erklärbare KI ermöglicht es Ihrem Unternehmen, KI-Modelle so zu gestalten, dass sie Entscheidungen und Vorhersagen besser erklären können. Das ist besonders wichtig in Branchen wie Finanzen, Gesundheitswesen und Rechtswesen, wo transparente Entscheidungen entscheidend sind.

Compliance und Ethik

Unternehmen können die erklärbare KI verwenden, um sicherzustellen, dass ihre KI-Systeme ethischen und rechtlichen Anforderungen entsprechen. Das ist vor allem wichtig, um Haftungsfragen zu vermeiden und das Vertrauen der Kunden zu gewinnen.

Kundenservice und Support

Durch die Verwendung dieser Art von KI kann Ihr Unternehmen den eigenen Kundenservice verbessern, indem es KI-Systeme einsetzen, die Ihren Mitarbeitern und Kunden besser erklären können, wie sie zu bestimmten Empfehlungen oder Lösungen gelangt sind.

Risikomanagement

In Finanz- und Versicherungsunternehmen kann eine erklärbare KI dazu beitragen, das Risiko besser zu verstehen und vorherzusagen. Das kann bei der Festlegung von Prämien, bei der Bewertung von Kreditrisiken und bei der Erkennung von Betrug von großem Nutzen sein.

Produktverbesserung

Ihr Unternehmen kann erklärbare KI aber auch nutzen, um Einblicke in die Funktionsweise Ihrer eigenen KI-gesteuerten Produkte zu gewinnen. Dies kann zur Verbesserung von Produkten und Dienstleistungen führen, indem Schwachstellen erkannt und behoben werden.

Forschung und Entwicklung

In der Wissenschaft und Forschung kann erklärbare KI dazu beitragen, komplexe Modelle und Experimente besser zu verstehen und die Reproduzierbarkeit von Forschungsergebnissen zu fördern.

Betrugsbekämpfung

Unternehmen in verschiedenen Branchen, insbesondere im E-Commerce und bei Zahlungsdienstleistungen, können erklärbare KI nutzen, um betrügerische Aktivitäten frühzeitig zu erkennen und zu bekämpfen.

Vor- und Nachteile der erklärbaren KI

Vorteile

• Höhere Transparenz bei algorithmischen Entscheidungen
• Bessere Fehlersuche und -behebung
• Nutzer können Handlungsoptionen aufgezeigt bekommen
• Durch besseres Verständnis entwickelt sich eine größere Akzeptanz gegenüber KI und Automatisierungen
• Leistungsfähige Black-Box-Algorithmen können weiterhin genutzt werden
• Risiken und Kosten können reduziert werden

Nachteile

• Wenig komplexe Erklärungen können zu Informationsverlust führen
• Erklärungen sind nicht in jedem Fall auf Zielgruppen zugeschnitten
• Zusätzliche Methoden für die Erklärbarkeit nehmen mehr Zeit in Anspruch und können die Effektivität drosseln
• Methoden der erklärbaren KI benötigen zusätzliche Wartung

Webinar: Künstliche Intelligenz – Grundlagen und Best Practices

Sie möchten gerne mehr zum Thema Künstliche Intelligenz erfahren und wie Ihr Unternehmen davon profitieren kann? In unserem Webinar fassen wir Ihnen die wichtigsten Aspekte zusammen!

Jetzt anmelden

Fazit

Umso komplexer die KI-Systeme werden, umso wichtiger ist es, dass wir Ihre Prozesse verstehen. Genau das ist der Kern der erklärbaren KI. Durch verschiedene Ansätze versuchen wir Menschen, über den Output hinaus auch den Lösungsweg nachzuvollziehen.
Dafür gibt es einige Methoden, wie LIMA, LRP oder Beispielbildung. Eine optimale und ausgereifte, allgemeingültige Methode gibt es aber nach wie vor nicht. Nichtsdestotrotz bleibt es wichtig, künstliche Intelligenz erklärbar zu machen, um so eine höhere Akzeptanz gegenüber den Systemen zu bewirken und den Einsatz dieser wettbewerbsfähig zu machen.

Sollten Sie nach einer geeigneten Methode für Ihr Unternehmen suchen, ist es stets wichtig zu prüfen, inwiefern diese zu Ihren Anforderungen passt und welche Sie zu Ihrem gewünschten Ziel führt. Nur so stellen Sie sicher, dass Ihre erklärbare KI in Ihrem Kontext Daten liefert, mit denen Sie arbeiten können und so Ihrem Unternehmen einen Mehrwert bringen.

FAQ

Was ist erklärbare KI?

Erklärbare KI nutzt verschiedenste Methoden, um die komplexen Algorithmen verständlicher zu machen. Es ermöglicht algorithmische Entscheidungen besser zu verstehen, um den Output besser interpretieren und operationalisieren zu können.

Welche Methoden für erklärbare KI gibt es?

Die bekanntesten Methoden sind LIMA, LRP und das Bilden eines Gegenbeispiels. Alle Methoden bieten verschiedene Ansätze und Ergebnisse in der Erklärbarkeit des KI-Systems.

Welche Vorteile hat erklärbare KI?

Neben der besseren Transparenz gelingt es Ihrem Unternehmen mit erklärbarer KI, bessere Problemanalysen durchzuführen und Probleme schneller zu beseitigen wodurch Risiken und Kosten gesenkt werden können.

Die erklärbare KI ermöglicht es, Entscheidungsalternativen aufgrund der vorhandenen Argumente besser zu verstehen und abzuwägen und somit auch die Akzeptanz gegenüber der Verwendung von künstlicher Intelligenz zu steigern.