Zum Inhalt springen

Explainable Artificial Intelligence

aus Wikipedia, der freien Enzyklopädie
Datei:Blackbox3D.png
Methoden der XAI sollen die Ergebnisfindung nicht linear programmierter Systeme als Glass Box transparent machen, um Black-Box-Vorgänge (s. o.) zu vermeiden

Explainable Artificial Intelligence (XAI; deutsch: erklärbare künstliche Intelligenz<ref name="PB">Patrick Beuth: Die Automaten brauchen Aufsicht, Die Zeit, 25. Oktober 2017, S. 3; abgerufen am 25. Januar 2018.</ref><ref>Ein allgemein verwendeter deutscher Begriff hat sich noch nicht durchgesetzt, weshalb hier im Artikel der englische Begriff und seine Abkürzung verwendet werden.</ref><ref>Andreas Holzinger: Explainable AI (ex-AI). In: Informatik-Spektrum. Band 41, Nr. 2, 1. April 2018, ISSN 0170-6012, S. 138–143, doi:10.1007/s00287-018-1102-5.</ref> oder erklärbares Maschinenlernen) soll nachvollziehbar machen, auf welche Weise dynamische und nicht linear programmierte Systeme<ref>Optimization Technology Center of Northwestern University and Argonne National Laboratory: Nonlinear Programming – Frequently Asked Questions; abgerufen am 2. Dezember 2017.</ref>, z. B. künstliche neuronale Netze, Deep-Learning-Systeme (reinforcement learning) und genetische Algorithmen, zu Ergebnissen kommen. XAI ist eine technische Disziplin, die operative Methoden erarbeitet und bereitstellt, die zur Erklärung von AI-Systemen dienen.

Ohne XAI gleichen einige Methoden des maschinellen Lernens (insbesondere das Deep Learning) einem Black-Box-Vorgang,<ref name="PB" /><ref name="KIBB">Patrick Beuth: Die rätselhafte Gedankenwelt eines Computers, Die Zeit Online, 24. März 2017; abgerufen am 29. Januar 2018.</ref> bei dem die Introspektion eines dynamischen Systems unbekannt oder erst in Ansätzen möglich ist und der Anwender kaum Kontrollmöglichkeiten hat zu verstehen, wie eine Software zur Lösung eines Problems gelangt.<ref>Thomas Knaus: Künstliche Intelligenz und Bildung - Was sollen wir wissen? Was können wir tun? Was dürfen wir hoffen? Und was ist diese KI? Ein kollaborativer Aufklärungsversuch. 24. Auflage. LBzM, 2023, S. 27–31, doi:10.25656/01:27904.</ref>

Definition[Bearbeiten]

Es gibt derzeit noch keine allgemein akzeptierte Definition von XAI.

Das XAI-Programm der Defense Advanced Research Projects Agency (DARPA),<ref>Will Knight: DARPA is funding projects that will try to open up AI’s black boxes, MIT Technology Review, 14. März 2017; abgerufen am 2. November 2017.</ref> deren Ansatz sich schematisch darstellen lässt,<ref name="LawlessMittu2017">W. F. Lawless, Ranjeev Mittu, Donald Sofge und Stephen Russell: Autonomy and Artificial Intelligence: A Threat or Savior?, 24. August 2017, Springer International Publishing, ISBN 978-3-319-59719-5, S. 95.</ref> definiert seine Ziele mit den folgenden Forderungen:

  • Produzieren Sie erklärbarere Modelle, während Sie gleichzeitig eine hohe Lernleistung beibehalten (Vorhersagegenauigkeit).
  • Ermöglichen Sie menschlichen Nutzern, die entstehende Generation künstlich intelligenter Partner zu verstehen, ihnen angemessen zu vertrauen und mit ihnen effektiv umzugehen.<ref>David Gunning: Explainable Artificial Intelligence (XAI) (DARPA/I2O); abgerufen am 3. Dezember 2017.</ref>

Geschichte[Bearbeiten]

Während der Begriff „XAI“ noch relativ neu ist – eine frühe Erwähnung des Konzepts erfolgte 2004<ref>Michael van Lent und William Fisher: An Explainable Artificial Intelligence System for Small-unit Tactical Behavior, Proceedings of the 16th Conference on Innovative Applications of Artifical Intelligence (2004), S. 900–907.</ref> – hat der bewusste Ansatz, das Vorgehen von maschinellen Lernsystemen komplett verstehen zu wollen, eine längere Geschichte. Forscher sind seit den 1990er Jahren daran interessiert, Regeln aus trainierten neuronalen Netzen abzuleiten,<ref>A. B. Tickle, R. Andrews, M. Golea und J. Diederich: The truth will come to light: directions and challenges in extracting the knowledge embedded within trained artificial neural networks, Transactions on Neural Networks, Band 9(6) (1998), S. 1057–1068, doi:10.1109/72.728352.</ref> und Wissenschaftler im Gebiet der klinischen Expertensysteme, die neuronale Entscheidungshilfen für Mediziner liefern, haben versucht, dynamische Erklärungssysteme zu entwickeln, die diese Technologien in der Praxis vertrauenswürdiger machen.<ref name=":0">Lilian Edwards and Michael Veale: Slave to the Algorithm? Why a ‘Right to an Explanation’ Is Probably Not the Remedy You Are Looking For, Duke Law and Technology Review (2017), doi:10.2139/ssrn.2972855.</ref>

In letzter Zeit wird aber der Schwerpunkt darauf gelegt, Maschinenlernen und KI den Entscheidungsträgern und Nutzern – und nicht etwa den Konstrukteuren von Entscheidungssystemen – zu erklären und verständlich zu machen.<ref>Thomas Knaus: Künstliche Intelligenz und Pädagogik – ein Plädoyer für eine Perspektiverweiterung. 24. Auflage. LBzM, 2023, S. 22–26, doi:10.25656/01:30908.</ref> Seit der Einführung des Programms durch DARPA im Jahr 2016 versuchen neue Initiativen das Problem der algorithmic accountability (etwa ‚algorithmische Rechenschaftspflicht‘) anzugehen und Transparenz zu schaffen (Glass-Box-Vorgang<ref>Andreas Holzinger, Markus Plass, Katharina Holzinger, Gloria Cerasela Crisan, Camelia-M. Pintea: A glass-box interactive machine learning approach for solving NP-hard problems with the human-in-the-loop. 3. August 2017, arxiv:1708.01104.</ref>), wie Technologien in diesem Bereich funktionieren:

Methoden[Bearbeiten]

Verschiedene Methoden werden für XAI angewendet:

Anwendungsbeispiele[Bearbeiten]

Bestimmte Industriezweige und Dienstleistungsbereiche sind von XAI-Anforderungen besonders betroffen, da durch die dort immer intensivere Anwendung von KI-Systemen die „Rechenschaftspflicht“ (englisch accountability) mehr und mehr auf die Software und deren – teilweise überraschende – Ergebnisse verlagert („delegiert“) wird.

Datei:Ethik bei KI in der Medizin – Warum es wichtig ist dass KI transparent ist und Schlussfolgerungen erklären kann.webm
Ein Video über die Wichtigkeit von KI-Transparenz in der Medizin

Folgende Bereiche stehen dabei besonders im Fokus (alphabetische Auflistung):

Internationaler Austausch über die Thematik und Forderungen[Bearbeiten]

Da Regulierungsbehörden, Behörden und allgemeine Nutzer von dynamischen Systemen auf KI-Basis abhängig sind, wird eine klarere Rechenschaftspflicht für die Entscheidungsfindung erforderlich sein, um Vertrauen und Transparenz zu gewährleisten.

Ein Beleg dafür, dass diese berechtigte Forderung an Dynamik gewinnt, ist die International Joint Conference on Artificial Intelligence: Workshop on Explainable Artificial Intelligence (XAI) im Jahr 2017.<ref>Vorlage:Cite book/Name: [Internetquelle: archiv-url ungültig IJCAI 2017 Workshop on Explainable Artificial Intelligence (XAI).] In: Earthlink. IJCAI, , archiviert vom Vorlage:IconExternal (nicht mehr online verfügbar) am Vorlage:Cite book/URL; abgerufen am 17. Juli 2017 (Lua-Fehler in Modul:Multilingual, Zeile 153: attempt to index field 'data' (a nil value)).Vorlage:Cite book/URLVorlage:Cite book/MeldungVorlage:Cite book/Meldung2Vorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/MeldungVorlage:Cite book/Meldung</ref>

In Bezug auf KI-Systeme fordern die australische Publizistin und Wissenschaftlerin Kate Crawford und ihre Kollegin Meredith Whittaker (AI Now Institute), dass „die wichtigsten öffentlichen Einrichtungen, wie z. B. die für Strafjustiz, Gesundheit, Wohlfahrt und Bildung zuständigen Stellen […], keine Black-Box-KI und algorithmische Systeme mehr verwenden sollten“.<ref>Im Original: „Core public agencies, such as those responsible for criminal justice, healthcare, welfare, and education (e.g “high stakes” domains) should no longer use ‘black box’ AI and algorithmic systems.“</ref><ref>AI Now Institute: Die Seite Vorlage:Webarchiv/styles.css hat keinen Inhalt.The 10 Top Recommendations for the AI Field in 2017 +++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++ (Memento vom 21. März 2018 im Internet Archive), 18. Oktober 2017; abgerufen am 29. Januar 2018.</ref> Zusätzlich fordern sie – noch über die rein technischen Maßnahmen und Methoden der Erklärbarkeit solcher Systeme hinaus – verbindliche ethische Maßstäbe, wie sie beispielsweise in der pharmazeutischen Industrie und klinischen Forschung angewendet werden.<ref>Scott Rosenberg: Why AI Is Still Waiting For Its Ethics Transplant, Wired, 11. Januar 2017; abgerufen am 25. Januar 2018. Siehe auch die PDF AI Now 2017 Report.</ref>

Primär im Europarecht wurde die Existenz eines „Rechts auf Erläuterung“ (right to [an] explanation) anhand der DSGVO bereits seit 2017 intensiv diskutiert.<ref>Bryce Goodman, Seth Flaxman: European Union Regulations on Algorithmic Decision-Making and a 'Right to Explanation. In: AI Magazine. Band 38, Nr. 3, 2017, S. 50–57.</ref> Potentielle Ansatzpunkte für die Ableitung eines solchen Rechts finden sich in Art 22 DSGVO, der ein (prinzipielles) Verbot der vollautomatisierten Entscheidungsfindung statuiert, in Verbindung mit Erwägungsgrund 71 („In jedem Fall sollte eine solche Verarbeitung mit angemessenen Garantien verbunden sein, einschließlich [...] des Anspruchs [...] auf Erläuterung der nach einer entsprechenden Bewertung getroffenen Entscheidung“). Auch die Informationspflichten (Art 13–14 DSGVO) bzw. das Auskunftsrecht (Art 15 DSGVO) normieren, dass „aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung“ proaktiv bzw. auf Anfrage bereitgestellt werden müssen. Allerdings ist die Existenz eines solchen Rechts aufgrund der Natur von Erwägungsgründen im Unionsrecht umstritten, denn diese besitzen vor allem Klarstellungsfunktion, begründen jedoch selbst kein verbindliches Recht.<ref>Andrew D. Selbst, Julia Powles: Meaningful information and the right to explanation. In: International Data Privacy Law. Band 7, Nr. 4, 2017, S. 233–242.</ref> Auch die Art 13–15 DSGVO werden teilweise restriktiv im Sinne einer Erläuterung der abstrakten Systemfunktionalität interpretiert, während die Notwendigkeit der Erklärung einer konkreten Entscheidung, das heißt eine Form von lokaler Interpretierbarkeit, verneint wird.<ref>Sandra Wachter, Brent Mittelstadt, Luciano Floridi: Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. In: International Data Privacy Law. Band 7, Nr. 2, 2017, S. 76–99.</ref> Diese restriktive Interpretation ist jedoch nicht unumstritten.<ref>Andrew D. Selbst, Julia Powles: Meaningful information and the right to explanation. In: International Data Privacy Law. Band 7, Nr. 4, 2017, S. 233–242.</ref> So wurde in der Literatur unter anderem die Existenz eines rights to legibility bejaht, das die Fähigkeiten der Betroffenen Informationen zu verstehen einbezieht,<ref>Gianclaudio Malgieri, Giovanni Comandé: Why a Right to Legibility of Automated Decision-Making Exists in the General Data Protection Regulation. In: International Data Privacy Law. Band 7, Nr. 4, 2017, S. 243–265.</ref> die Rolle der Datenschutz-Folgenabschätzung (Art 35 DSGVO) im Kontext des Rechts auf Erläuterung betont<ref>Margot E. Kaminski, Gianclaudio Malgieri: Algorithmic impact assessments under the GDPR: producing multi-layered explanations. In: International Data Privacy Law. Band 11, Nr. 2, 2021, S. 125–144, doi:10.1093/idpl/ipaa020.</ref><ref>Bryan Casey, Askhon Farhangi, Roland Vogl: Rethinking Explainable Machines: The GDPR's 'Right to Explanation' Debate and the Rise of Algorithmic Audits in Enterprise. In: Berkeley Technology Law Journal. Band 34, Nr. 1, 2019, S. 143–188.</ref> oder die Existenz eines Rechts auf Erläuterung als (implizite) Garantie im Rahmen von Art 22 Abs 3 DSGVO<ref>Lee A. Bygrave: Minding the Machine v2.0: The EU General Data Protection Regulation and Automated Decision Making. In: Karen Yeung, Martin Lodge (Hrsg.): Algorithmic Regulation. Oxford University Press, Oxford 2019, S. 248–262.</ref> oder in einer holistischen Lesung verschiedener Bestimmungen der DSGVO angenommen.<ref>Margot E. Kaminski: The Right to Explanation, Explained. In: Berkeley Technology Law Journal. Band 34, 2019, S. 189–218, doi:10.15779/Z38TD9N83H.</ref><ref>Maja Brkan: Do algorithms rule the world? Algorithmic decision-making and data protection in the framework of the GDPR and beyond. In: International Journal of Law and Information Technology. Band 27, Nr. 2, 2019, S. 91–121.</ref>

Andere potentielle rechtliche Ausgangspunkte für die Notwendigkeit von Interpretierbarkeit beim Einsatz von KI wurden anhand des Vertrags- und Schadenersatzrechts<ref>Philipp Hacker, Ralf Krestel, Stefan Grundmann, Felix Naumann: Explainable AI under contract and tort law: legal incentives and technical challenges. In: Artificial Intelligence and Law. Nr. 4, 2020, S. 415–439.</ref> oder anhand der informierten Einwilligung (informed consent) zwischen Arzt und Patient im Medizinrecht diskutiert.<ref>Karl Stöger, David Schneeberger, Andreas Holzinger: Medical artificial intelligence: the European legal perspective. In: Communications of the ACM. Band 64, Nr. 11, 2021, S. 34–36.</ref><ref>David Schneeberger, Karl Stöger, Andreas Holzinger: The European legal framework for medical AI. In: Andreas Holzinger, Peter Kieseberg, A Min Tjoa, Edgar Weippl (Hrsg.): Machine Learning and Knowledge Extraction. 4th IFIP TC 5, TC 12, WG 8.4, WG 8.9, WG 12.9 International Cross-Domain Conference, CD-MAKE 2020, Dublin, Ireland, August 25–28, 2020, Proceedings. Springer, Cham 2020, ISBN 978-3-030-57321-8, S. 209–226.</ref>

Weblinks und Literatur[Bearbeiten]

Einzelnachweise[Bearbeiten]

<references />

Abgerufen von „https://wiki.kertz.ch/index.php?title=Explainable_Artificial_Intelligence&oldid=4072080“