211service.com
Das US-Militär will, dass seine autonomen Maschinen sich selbst erklären
Geheimagenten und Militärs verlassen sich möglicherweise stark auf maschinelles Lernen, um riesige Datenmengen zu analysieren und ein wachsendes Arsenal autonomer Systeme zu kontrollieren. Das US-Militär will aber sicherstellen, dass dies nicht dazu führt, blind irgendeinem Algorithmus zu vertrauen.
Die Defense Advanced Research Projects Agency (DARPA), eine Abteilung des Verteidigungsministeriums, die neue Technologien erforscht, finanziert mehrere Projekte, die darauf abzielen, künstliche Intelligenz dazu zu bringen, sich selbst zu erklären. Die Ansätze reichen von der Ergänzung weiterer erklärungsorientierter Machine-Learning-Systeme bis hin zur Entwicklung neuer Machine-Learning-Ansätze, die ein Elucitation by Design beinhalten.
Wir haben jetzt diese wahre Explosion von KI, sagt David Gunning, der DARPA-Programmmanager, der Bemühungen finanziert, KI-Techniken zu entwickeln, die eine Erklärung ihrer Argumentation enthalten. Der Grund dafür ist hauptsächlich maschinelles Lernen und insbesondere Deep Learning.
Deep Learning und andere maschinelle Lerntechniken haben das Silicon Valley im Sturm erobert, indem sie die Spracherkennung und Bildklassifizierung erheblich verbessert haben, und sie werden in immer mehr Kontexten eingesetzt, einschließlich Bereichen wie Strafverfolgung und Medizin, wo die Folgen eines Fehlers drohen können ernst sein. Aber obwohl Deep Learning unglaublich gut darin ist, Muster in Daten zu finden, kann es unmöglich sein, zu verstehen, wie es zu einer Schlussfolgerung kommt. Der Lernprozess ist mathematisch sehr komplex, und es gibt oft keine Möglichkeit, dies in etwas zu übersetzen, das eine Person verstehen würde.
Und während Deep Learning besonders schwer zu interpretieren ist, können auch andere maschinelle Lerntechniken eine Herausforderung darstellen. Diese Modelle sind sehr undurchsichtig und für Menschen schwer zu interpretieren, insbesondere wenn sie keine Experten für KI sind, sagt Gunning.
Deep Learning ist wegen seiner unglaublichen Komplexität besonders kryptisch. Es ist grob von dem Prozess inspiriert, durch den Neuronen in einem Gehirn als Reaktion auf Eingaben lernen. Viele Schichten simulierter Neuronen und Synapsen werden mit Daten gekennzeichnet und ihr Verhalten wird so lange abgestimmt, bis sie lernen, beispielsweise eine Katze auf einem Foto zu erkennen. Aber das vom System gelernte Modell ist in den Gewichten von vielen Millionen Neuronen kodiert und daher sehr schwierig zu untersuchen. Wenn ein Deep-Learning-Netzwerk beispielsweise eine Katze erkennt, ist nicht klar, ob sich das System möglicherweise auf die Schnurrhaare, die Ohren oder sogar die Decke der Katze in einem Bild konzentriert.
Oft spielt es keine Rolle, ob ein maschinelles Lernmodell undurchsichtig ist, aber das gilt nicht für einen Geheimdienstmitarbeiter, der versucht, ein potenzielles Ziel zu identifizieren. Es gibt einige kritische Anwendungen, bei denen Sie eine Erklärung benötigen, sagt Gunning.
Gunning fügt hinzu, dass das Militär unzählige autonome Systeme entwickelt, die sich zweifellos stark auf maschinelle Lerntechniken wie Deep Learning stützen werden. Selbstfahrende Fahrzeuge werden zusammen mit Flugdrohnen in den kommenden Jahren zunehmend zum Einsatz kommen, sagt er, und sie werden immer leistungsfähiger.
Erklärbarkeit ist nicht nur wichtig, um Entscheidungen zu begründen. Es kann helfen, zu verhindern, dass etwas schief geht. Ein Bildklassifizierungssystem, das gelernt hat, sich bei der Katzenklassifizierung ausschließlich auf die Textur zu konzentrieren, könnte von einem pelzigen Teppich getäuscht werden. Das Anbieten einer Erklärung könnte Forschern also helfen, ihre Systeme robuster zu machen, und verhindern, dass diejenigen, die sich auf sie verlassen, Fehler machen.
DARPA fördert 13 verschiedene Forschungsgruppen, die unterschiedliche Ansätze verfolgen, um KI erklärbarer zu machen.
Ein für die Finanzierung ausgewähltes Team stammt von Charles River Analytics, einem Unternehmen, das Hightech-Tools für verschiedene Kunden entwickelt, darunter das US-Militär. Dieses Team erforscht neue Deep-Learning-Systeme, die eine Erklärung enthalten, beispielsweise solche, die Bereiche eines Bildes hervorheben, die für eine Klassifizierung am relevantesten erscheinen. Die Forscher experimentieren auch mit Computerschnittstellen, die die Funktionsweise von maschinellen Lernsystemen mit Daten, Visualisierungen und sogar Erklärungen in natürlicher Sprache deutlicher machen.
Xia Hu , Professor an der Texas A&M University, der ein weiteres der für die Finanzierung ausgewählten Teams leitet, sagt, dass das Problem auch in anderen Bereichen wichtig ist, in denen maschinelles Lernen eingesetzt wird, wie Medizin, Recht und Bildung. Ohne irgendeine Art von Erklärung oder Argumentation werden Domänenexperten den Ergebnissen nicht vertrauen, sagt Hu. Das ist der Hauptgrund, warum sich viele Fachexperten weigern, maschinelles Lernen oder Deep Learning einzuführen.