Explainable Artificial Intelligence

Explainable Artificial Intelligence (XAI; deutsch: erklärbare künstliche Intelligenz oder erklärbares Maschinenlernen) soll nachvollziehbar machen, auf welche Weise dynamische und nicht linear programmierte Systeme, z. B. künstliche neuronale Netze, Deep-Learning-Systeme (reinforcement learning) und genetische Algorithmen, zu Ergebnissen kommen. XAI ist eine technische Disziplin, die operative Methoden erarbeitet und bereitstellt, die zur Erklärung von AI-Systemen dienen.

Ohne XAI gleichen einige Methoden des maschinellen Lernens (insbesondere das Deep Learning) einem Black-Box-Vorgang, bei dem die Introspektion eines dynamischen Systems unbekannt oder erst in Ansätzen möglich ist und der Anwender kaum Kontrollmöglichkeiten hat zu verstehen, wie eine Software zur Lösung eines Problems gelangt.

1. 1 2 Patrick Beuth: Die Automaten brauchen Aufsicht, Die Zeit, 25. Oktober 2017, S. 3; abgerufen am 25. Januar 2018.
2. ↑ Ein allgemein verwendeter deutscher Begriff hat sich noch nicht durchgesetzt, weshalb hier im Artikel der englische Begriff und seine Abkürzung verwendet werden.
3. ↑ Andreas Holzinger: Explainable AI (ex-AI). In: Informatik-Spektrum. Band 41, Nr. 2, 1. April 2018, ISSN 0170-6012, S. 138–143, doi:10.1007/s00287-018-1102-5. 
4. ↑ Optimization Technology Center of Northwestern University and Argonne National Laboratory: Nonlinear Programming – Frequently Asked Questions; abgerufen am 2. Dezember 2017.
5. ↑ Patrick Beuth: Die rätselhafte Gedankenwelt eines Computers, Die Zeit Online, 24. März 2017; abgerufen am 29. Januar 2018.
6. ↑ Thomas Knaus: Künstliche Intelligenz und Bildung - Was sollen wir wissen? Was können wir tun? Was dürfen wir hoffen? Und was ist diese KI? Ein kollaborativer Aufklärungsversuch. 24. Auflage. LBzM, 2023, S. 27–31, doi:10.25656/01:27904.