Gian Luigi Chiesa , Datenwissenschaftler bei FRISS, erzählt von der Notwendigkeit einer erklärbaren künstlichen Intelligenz.
Die Künstliche Intelligenz wird überall sein
Experten zweifeln nicht daran, dass künstliche Intelligenz (KI) bald fester Bestandteil unseres täglichen Lebens werden wird. Auf unseren Straßen werden autonome, selbstfahrende Fahrzeuge unterwegs sein. Hinter dem Steuer sitzen keine Menschen, sondern leistungsstarke KI-gesteuerte Maschinen, die auf die komplexe und dynamische Umgebung reagieren. Autofahren wird noch sicherer werden, denn die Maschinen treffen in Bruchteilen von Sekunden lebensrettende Entscheidungen.
KI-Innovationen dringen allmählich auch in andere Bereiche vor. Viele von uns kommunizieren bereits mit KI-gestützten Systemen in Form persönlicher Assistenten, wie Siri von Apple, Duplex von Google oder Alexa von Amazon. Interaktionen mit diesen Systemen werden sich bald nicht mehr von denen mit Menschen unterscheiden. Das bedeutet auch, dass wir uns auf ihre Entscheidungen verlassen können müssen.
KI muss vertrauenswürdig sein
Es ist nicht so schwer, einer Maschine zu vertrauen, wenn man weiß, dass ihre Vorhersagen korrekt sind. So können wir beispielsweise direkt feststellen, dass ein selbstfahrendes Auto ordnungsgemäß fährt. Außerdem gibt es die Möglichkeit, in kritischen Situationen selbst einzugreifen. Wenn ein komplexes System das Wetter vorhersagt, stimmt die Vorhersage meistens. Und selbst wenn es einmal anders kommt, wird man schlimmstenfalls ein wenig nass.
Es fällt schon schwerer, Vertrauen zu fassen, wenn Vorhersagen nicht unmittelbar sichtbar sind. Zum Beispiel die automatische Ablehnung eines Versicherungsantrags anhand eines KI-Modells. In solchen Fällen ist es schwerer zu beurteilen, ob die getroffene Entscheidung richtig ist. Dies ist aber entscheidend, wenn KI sich unmittelbar auf das Leben von Menschen auswirkt, wie beispielsweise automatisierte Berechtigungsprüfungen für Lebensmittelmarken oder Krankenversicherungsleistungen. In diesen Fällen muss man in der Lage sein, seine Entscheidungen zu rechtfertigen.
Mit besseren Modellen und ständig wachsenden Datenmengen werden die Algorithmen immer komplexer. Genauso wie neuronale Netze aus hunderten verborgenen Schichten und tausenden Knoten bestehen. Diese Komplexität geht jedoch auf Kosten der Interpretierbarkeit. Die Begründung bestimmter Entscheidungen wird erschwert. KI-gestützte Maschinen Erkennen leicht Trends in einer Datenmenge und können so Vorhersagen machen. Sorgfältig erfasste Daten spiegeln die Gesellschaft wider. Herausforderungen und grundlegende Probleme jeder Gesellschaft sind in den Daten versteckt. Wir müssen vermeiden, dass KI-basierte Systeme daraus potenziell gefährliche Vorurteile kodieren.
Infolgedessen kann es beispielsweise zum sogenannten „Redlining“ kommen also zur Abgrenzung bestimmter Gebiete, in denen überwiegend ethnische Minderheiten oder Angehörige einer bestimmten Bevölkerungsgruppe leben. Dies führt dann zu einer systematischen Verweigerung von z.B. Finanzdienstleistungen für Bewohner dieser Gebiete.
Ehrliche KI erfordert Transparenz
FRISS steht für faire Versicherungen. Es ist uns daher wichtig zu beweisen, dass unsere Vorhersagen systematisch korrekt und fair sind. Dazu kombinieren wir modernste Modelle für maschinelles Lernen mit Interpretations- und Erklärungsansätzen wie LIME oder globalen Ersatzmodellen.
Wir glauben, dass ehrliche KI Transparenz erfordert: Sie müssen sehen können, welche Daten für jede Vorhersage verwendet werden und schnell eingreifen können, wenn es scheint als wären die Vorhersagen auf unfaire Weise getroffen worden. Automatisierung ist Teil unserer Geschichte. Doch Vertrauen darf nicht automatisiert werden. Vertrauen gewinnt man durch Ehrlichkeit und Fairness. Wenn man diesen Prozess nicht versteht, wer kann dann von sich behaupten, fair und ehrlich zu sein?
