Wie man versteckte Vorurteile in der KI ausmerzt

Algorithmen treffen lebensverändernde Entscheidungen wie die Verweigerung der Bewährung oder die Gewährung von Krediten. Cynthia Dwork, Informatikerin in Harvard, entwickelt Methoden, um sicherzustellen, dass die Maschinen fair funktionieren.
  • TR-Mitarbeiter Archivseite
24. Oktober 2017

Miguel Porlan





Warum ist es für Algorithmusdesigner oder Datenwissenschaftler schwierig, Voreingenommenheit und Unfairness zu berücksichtigen?

Nehmen Sie ein frauenfeindliches Arbeitsumfeld. Angenommen, Sie definieren Erfolg als die Tatsache, dass jemand zwei bis drei Jahre einen Job hat und befördert wird. Dann wird Ihr Prädiktor – basierend auf den historischen Daten – genau vorhersagen, dass es keine gute Idee ist, Frauen einzustellen. Interessant ist hier, dass wir nicht über historische Einstellungsentscheidungen sprechen. Selbst wenn die Einstellungsentscheidungen völlig unvoreingenommen waren, bleibt die Realität – die echte Diskriminierung in der feindseligen Umgebung – bestehen. Es ist tiefer, struktureller, tief verwurzelter und schwerer zu überwinden.

Das Problem der künstlichen Intelligenz

Diese Geschichte war Teil unserer Ausgabe vom November 2017



  • Siehe den Rest des Problems
  • Abonnieren

Ich glaube, der große Nutzen für maschinelles Lernen und KI wird in Verbindung mit wirklich sachkundigen Menschen liegen, die sich mit Geschichte, Soziologie und Psychologie auskennen, um herauszufinden, wer wem ähnlich behandelt werden sollte.

Ich sage nicht, dass Computer das niemals können werden, aber ich sehe es jetzt nicht. Woher wissen Sie, wann Sie das richtige Modell haben und wann es erfasst, was wirklich in der Gesellschaft passiert ist? Sie müssen verstehen, wovon Sie sprechen. Es gibt das berühmte Sprichwort Alle Modelle sind falsch und einige sind nützlich.

— wie Will Knight gesagt



verbergen