Taking Machine denken aus der Black Box

Sep 10, 2018 Eine Nachricht hinterlassen

"Da maschinelles Lernen allgegenwärtig wird und für Anwendungen mit ernsthafteren Konsequenzen verwendet wird, müssen die Leute verstehen, wie Prognosen erstellt werden, sodass sie darauf vertrauen, wenn sie mehr tun, als nur Werbung auszugeben", sagt Jonathan Su, Mitglied des technischen Personals in der Informatik- und Entscheidungshilfegruppe von MIT Lincoln Laboratory.

Derzeit verwenden die Forscher entweder Post-hoc-Techniken oder ein interpretierbares Modell wie einen Entscheidungsbaum, um zu erklären, wie ein Black-Box-Modell seine Schlussfolgerung erreicht. Mit Post-hoc-Techniken beobachten die Forscher die Ein- und Ausgaben eines Algorithmus und versuchen dann, eine ungefähre Erklärung für das, was in der Blackbox passiert ist, zu konstruieren. Das Problem bei dieser Methode ist, dass Forscher nur die inneren Abläufe erraten können und die Erklärungen oft falsch sind. Entscheidungsbäume, die Auswahlen und ihre möglichen Konsequenzen in einer baumähnlichen Konstruktion abbilden, funktionieren gut für kategorische Daten, deren Merkmale bedeutungsvoll sind, aber diese Bäume sind in wichtigen Bereichen, wie Computervision und anderen komplexen Datenproblemen, nicht interpretierbar.

Ein neuronales Netzwerk ist ein Computersystem, das aus vielen miteinander verbundenen Verarbeitungselementen besteht. Diese Netzwerke werden typischerweise zur Bildanalyse und Objekterkennung verwendet. Zum Beispiel kann ein Algorithmus gelehrt werden, um zu erkennen, ob eine Fotografie einen Hund enthält, indem zuerst Fotos von Hunden gezeigt werden. Forscher sagen das Problem mit diesen neuronalen Netzen ist, dass ihre Funktionen nichtlinear und rekursiv sowie für den Menschen kompliziert und verwirrend sind, und das Endergebnis ist, dass es schwierig ist zu bestimmen, was genau das Netzwerk als "Dogness" innerhalb der Fotos definiert hat und was führte zu dieser Schlussfolgerung.

Um dieses Problem anzugehen, entwickelt das Team das, was es "prototypische neuronale Netze" nennt. Diese unterscheiden sich von traditionellen neuronalen Netzen dadurch, dass sie Erklärungen für jede ihrer Vorhersagen auf natürliche Weise codieren, indem sie Prototypen erstellen, die besonders repräsentative Teile eines Eingangsbildes sind. Diese Netzwerke machen ihre Vorhersagen basierend auf der Ähnlichkeit von Teilen des Eingabebildes zu jedem Prototyp.

Der andere Bereich, den das Forschungsteam untersucht, sind BRLs, die weniger komplizierte, einseitige Entscheidungsbäume sind, die sich für Tabellendaten eignen und oft genauso genau sind wie andere Modelle. BRLs bestehen aus einer Folge von bedingten Anweisungen, die natürlich ein interpretierbares Modell bilden. Zum Beispiel, wenn der Blutdruck hoch ist, dann ist das Risiko einer Herzerkrankung hoch. Su und Kollegen verwenden Eigenschaften von BRLs, damit Benutzer angeben können, welche Funktionen für eine Vorhersage wichtig sind. Sie entwickeln auch interaktive BRLs, die sofort angepasst werden können, wenn neue Daten in einem ständig wachsenden Datenbestand ankommen und nicht von Grund auf neu kalibriert werden.

Su erklärt: "Wir hoffen, dass wir eine neue strategische Fähigkeit für die Lernalgorithmen des Labormaschinenbaus aufbauen können, denen die Menschen vertrauen, weil sie sie verstehen."

machine learning