211service.com
Microsoft erstellt ein Orakel, um voreingenommene KI-Algorithmen aufzuspüren
Substantiv Projekt | Andrejs Kirma | MS. Technik
Microsoft entwickelt ein Tool zur automatischen Erkennung von Verzerrungen in einer Reihe verschiedener KI-Algorithmen. Es ist der bisher kühnste Versuch, die Erkennung von Ungerechtigkeiten zu automatisieren, die sich in das maschinelle Lernen einschleichen könnten – und es könnte Unternehmen dabei helfen, KI einzusetzen, ohne versehentlich bestimmte Personen zu diskriminieren.
Große Technologieunternehmen rennen um den Verkauf von Standard-Machine-Learning-Technologie, auf die über die Cloud zugegriffen werden kann. Da immer mehr Kunden diese Algorithmen nutzen, um wichtige Beurteilungen und Entscheidungen zu automatisieren, wird das Problem der Voreingenommenheit entscheidend. Und da sich Vorurteile leicht in Modelle für maschinelles Lernen einschleichen können, könnten Möglichkeiten zur Automatisierung der Erkennung von Unfairness zu einem wertvollen Bestandteil des KI-Toolkits werden.
Dinge wie Transparenz, Verständlichkeit und Erklärung sind so neu auf diesem Gebiet, dass nur wenige von uns über ausreichende Erfahrung verfügen, um alles zu wissen, wonach wir suchen sollten, und all die Möglichkeiten, wie Vorurteile in unseren Modellen lauern könnten, sagt Reiche Caruna , ein leitender Forscher bei Microsoft, der am Dashboard zur Erkennung von Verzerrungen arbeitet.
Algorithmische Voreingenommenheit bereitet vielen Forschern und Technologieexperten zunehmend Sorgen (siehe Algorithmen auf Voreingenommenheit untersuchen ). Da Algorithmen verwendet werden, um wichtige Entscheidungen zu automatisieren, besteht das Risiko, dass Vorurteile automatisiert, in großem Umfang eingesetzt und für die Opfer schwieriger zu erkennen sind.
Caruna sagt, dass Microsofts Bias-Erkennungsprodukt KI-Forschern helfen wird, mehr Fälle von Unfairness zu erkennen, wenn auch nicht alle. Natürlich können wir keine Perfektion erwarten – es wird immer einige Vorurteile geben, die unentdeckt bleiben oder nicht beseitigt werden können – das Ziel ist es, so gut wie möglich zu sein, sagt er.
Das Wichtigste, was Unternehmen jetzt tun können, ist, ihre Mitarbeiter zu schulen, damit sie sich der unzähligen Möglichkeiten bewusst sind, auf denen Vorurteile entstehen und sich manifestieren können, und Tools zu entwickeln, mit denen Modelle leichter verständlich und Vorurteile leichter zu erkennen sind, fügt Caruna hinzu.
Facebook kündigte auf seiner jährlichen Entwicklerkonferenz am 2. Mai ein eigenes Tool zur Erkennung von Voreingenommenheit an. Sein Tool namens Fairness Flow warnt automatisch, wenn ein Algorithmus ein unfaires Urteil über jemanden aufgrund seiner Rasse, seines Geschlechts oder seines Alters trifft. Facebook sagt, es brauche Fairness Flow, weil immer mehr Leute im Unternehmen KI nutzen, um wichtige Entscheidungen zu treffen.
Bin Yu , Professor an der UC Berkeley, sagt, dass die Tools von Facebook und Microsoft ein Schritt in die richtige Richtung zu sein scheinen, aber möglicherweise nicht ausreichen. Sie schlägt vor, dass große Unternehmen ihre Algorithmen von externen Experten prüfen lassen sollten, um zu beweisen, dass sie nicht voreingenommen sind. Jemand anderes muss die Algorithmen von Facebook untersuchen – sie können nicht für alle ein Geheimnis sein, sagt Yu.