Die Gefahren der Tech-Bro-KI

Tabitha Goldstaub, Mitbegründerin von ErkenntnisX , das Unternehmen beim Einsatz von KI unterstützt, sagt, dass eine Diversifizierung des Feldes notwendig ist, um sicherzustellen, dass Produkte tatsächlich gut funktionieren.
  • TR-Mitarbeiter Archivseite
24. Oktober 2017

Miguel Porlan





Wenn Sie an künstliche Intelligenz und die Kernkomponenten dessen denken, was eine KI ausmacht, haben Sie die Tatsache, dass sie ein Ziel hat und dann einen Weg finden wird, dieses Ziel zu erreichen. Es ist dann oft sehr intransparent, wie es dieses Ziel erreicht hat. Wenn Sie eine unbewusste Voreingenommenheit in eine Maschine einbauen, wissen Sie vielleicht nicht, dass sie vorhanden ist; Das Ergebnis könnte für Frauen schädlich sein, und es ist sehr schwierig, genau herauszufinden, warum das passiert ist.

In der traditionellen Technologie können Sie sehen, [was passiert ist]: Frauen sterben bei Autounfällen weil die Crashtest-Dummies die Form eines Mannes und nicht die einer Frau hatten. [Mit KI könnte es] ähnliche Situationen auf Leben und Tod geben, in Arzneimittelstudien oder in autonomen Fahrzeugen und solchen Dingen.

Das Problem der künstlichen Intelligenz

Diese Geschichte war Teil unserer Ausgabe vom November 2017



  • Siehe den Rest des Problems
  • Abonnieren

Es gibt einige Beispiele für [geschlechtsspezifische Vorurteile in der heutigen KI]: Google-Anzeigen, in denen höher verdienende [Job-]Anzeigen für Männer als für Frauen geschaltet werden . Wir können Hypothesen zu anderen Arten von Situationen aufstellen, die passieren würden – was wäre, wenn Frauen nicht so in der Lage wären, Kredite, Hypotheken oder Versicherungen zu bekommen?

Ich habe keine dystopische Sicht auf KI. Ich sehe keine Killerroboter. Ich konzentriere mich so viel mehr auf die engen Bewerbungen, und ich denke, wenn man sich jede einzelne dieser engen Bewerbungen ansieht, besteht die Möglichkeit, dass sie sich negativ auf Frauen auswirkt. Ich glaube nicht, dass künstliche Intelligenz hier das Problem ist; Es ist eher das zusätzliche Problem als die Ursache. Wir sprechen über das Risiko, dass unser unbewusster Sexismus oder unbewusster Rassismus in die Maschinen sickert, die wir bauen.

Wie bringen wir jeden, der KI entwickelt, dazu, über diese Dinge nachzudenken? Wir müssen Verbraucher dazu bringen, ethische KI zu fordern. Nicht genug Menschen sehen darin mehr als nur ein Geschlechterproblem; dies ist ein tatsächliches, grundlegendes Produktproblem.



— wie gesagt zu Rachel Metz

verbergen