Apple Card wird wegen Behauptungen untersucht, es gebe Frauen niedrigere Kreditlimits

Kategorie: Künstliche Intelligenz Gesendet 11. Nov

Der Algorithmus, der das Kreditlimit für Nutzer von Apples neuer Kreditkarte ermittelt, die im August in den USA eingeführt wurde, steht vor einer Untersuchung, weil er Männern anscheinend höhere Limits als Frauen zuweist.

Die Nachrichten: Am 7. November, Web-Unternehmer David Heinemeier Hansson hat einen jetzt viralen Tweet gepostet sagte, dass die Apple Card ihm das 20-fache des Kreditlimits seiner Frau gegeben habe. Dies trotz der Tatsache, dass sie gemeinsame Steuererklärungen einreichten und dass seine Frau nach Ermittlungen eine bessere Kreditwürdigkeit hatte als er. Apple-Mitbegründer Steve Wozniak antwortete zu dem Tweet und sagte, dass auch ihm das 10-fache des Kreditlimits seiner Frau eingeräumt wurde, obwohl sie kein separates Vermögen oder Bankkonten haben.

Ergebnis: Jetzt leitet das New Yorker Department of Financial Services eine Untersuchung gegen Goldman Sachs ein, das die Karte verwaltet. Ihre Superintendentin, Linda Lacewell, sagte in einem Blogbeitrag dass der Watchdog prüfen würde, ob der für diese Kreditlimitentscheidungen verwendete Algorithmus gegen staatliche Gesetze verstößt, die Diskriminierung aufgrund des Geschlechts verbieten. Der Regler hat es schon kürzlich eine Untersuchung eingeleitet in Berichte, dass ein Algorithmus dazu führte, dass schwarze Patienten eine weniger umfassende Versorgung erhielten als weiße Patienten.

Größeres Problem: Goldman Sachs hat am Wochenende auf Twitter gepostet, dass das Geschlecht bei der Bestimmung der Kreditwürdigkeit nicht berücksichtigt wird. Aber die unerklärliche Diskrepanz in den Kreditlimits der Karte ist ein weiteres Beispiel dafür, wie unbeabsichtigt algorithmische Verzerrungen erzeugt werden können. Algorithmen, wie sie zur Beurteilung der Kreditwürdigkeit verwendet werden, werden auf jahrelangen historischen Daten trainiert, und Vorurteile können auf verschiedene Weise in den Prozess einfließen .