Sind Sie besorgt über die KI-Ethik Ihres Unternehmens? Diese Startups sind hier, um zu helfen.

Getty

Der Job von Rumman Chowdhury beinhaltete früher viel Übersetzung. Als verantwortliche KI-Leiterin beim Beratungsunternehmen Accenture arbeitete sie mit Kunden, die Schwierigkeiten hatten, ihre KI-Modelle zu verstehen. Woher wussten sie, ob die Models taten, was sie sollten? Die Verwirrung entstand oft teilweise, weil die Datenwissenschaftler, Anwälte und Führungskräfte des Unternehmens unterschiedliche Sprachen zu sprechen schienen. Ihr Team würde als Vermittler fungieren, damit alle Parteien auf die gleiche Seite kommen könnten. Es war, gelinde gesagt, ineffizient: Die Prüfung eines einzelnen Modells konnte Monate dauern.

Ende 2020 verließ Chowdhury ihren Posten, um ihr eigenes Unternehmen zu gründen. Namens Paritäts-KI , bietet es Kunden eine Reihe von Tools, die den Prozess auf wenige Wochen verkürzen sollen. Es hilft ihnen zunächst zu erkennen, wie sie ihr Modell prüfen möchten – ist es auf Voreingenommenheit oder auf Einhaltung gesetzlicher Vorschriften? – und gibt dann Empfehlungen zur Lösung des Problems.

Parity gehört zu einer wachsenden Gruppe von Startups, die Organisationen Wege zur Entwicklung, Überwachung und Korrektur ihrer KI-Modelle versprechen. Sie bieten eine Reihe von Produkten und Dienstleistungen an, von Tools zur Minderung von Verzerrungen bis hin zu Erklärbarkeitsplattformen. Anfangs kamen die meisten ihrer Kunden aus stark regulierten Branchen wie Finanzen und Gesundheitswesen. Aber erhöhte Forschung und Medienaufmerksamkeit auf Fragen der Voreingenommenheit , Privatsphäre und Transparenz haben den Fokus des Gesprächs verschoben. Neue Kunden haben oft einfach Angst, verantwortungsbewusst zu sein, während andere sich in Erwartung der Regulierung zukunftssicher machen wollen.

So viele Unternehmen sind zum ersten Mal wirklich damit konfrontiert, sagt Chowdhury. Fast alle von ihnen bitten tatsächlich um Hilfe.

Vom Risiko zur Auswirkung

Bei der Arbeit mit neuen Kunden vermeidet Chowdhury den Begriff Verantwortung. Das Wort ist zu matschig und schlecht definiert; es lässt zu viel Raum für Missverständnisse. Sie beginnt stattdessen mit einem bekannteren Unternehmensjargon: der Idee des Risikos. Viele Unternehmen verfügen über Risiko- und Compliance-Arme und etablierte Prozesse zur Risikominderung.

KI-Risikominderung ist nicht anders. Ein Unternehmen sollte damit beginnen, die verschiedenen Dinge zu berücksichtigen, um die es sich Sorgen macht. Dazu können rechtliche Risiken, die Möglichkeit des Gesetzesverstoßes gehören; Organisationsrisiko, die Möglichkeit, Mitarbeiter zu verlieren; oder Reputationsrisiko, die Möglichkeit, eine PR-Katastrophe zu erleiden. Von dort aus kann es rückwärts arbeiten, um zu entscheiden, wie es seine KI-Systeme prüfen soll. Ein Finanzunternehmen, das nach den Gesetzen zur fairen Kreditvergabe in den USA operiert, möchte seine Kreditvergabemodelle auf Verzerrungen überprüfen, um das rechtliche Risiko zu mindern. Ein Telemedizinunternehmen, dessen Systeme mit sensiblen medizinischen Daten trainieren, könnte Datenschutzprüfungen durchführen, um das Reputationsrisiko zu mindern.

Parity enthält eine Bibliothek mit vorgeschlagenen Fragen, um Unternehmen bei der Bewertung des Risikos ihrer KI-Modelle zu unterstützen.

PARITÄT

Parität hilft, diesen Prozess zu organisieren. Die Plattform bittet ein Unternehmen zunächst, eine interne Folgenabschätzung zu erstellen – im Wesentlichen eine Reihe offener Umfragefragen darüber, wie sein Geschäft und seine KI-Systeme funktionieren. Es kann benutzerdefinierte Fragen schreiben oder sie aus der Bibliothek von Parity auswählen, die mehr als 1.000 Eingabeaufforderungen enthält, die an KI-Ethikrichtlinien und relevante Gesetze aus der ganzen Welt angepasst sind. Sobald die Bewertung erstellt ist, werden Mitarbeiter im gesamten Unternehmen ermutigt, sie basierend auf ihrer beruflichen Funktion und ihrem Wissen auszufüllen. Die Plattform führt dann ihre Freitextantworten durch ein Verarbeitungsmodell in natürlicher Sprache und übersetzt sie mit Blick auf die wichtigsten Risikobereiche des Unternehmens. Mit anderen Worten, Parität dient als neuer Vermittler, um Datenwissenschaftler und Anwälte auf dieselbe Seite zu bringen.

Als nächstes empfiehlt die Plattform eine entsprechende Reihe von Maßnahmen zur Risikominderung. Dazu könnte die Erstellung eines Dashboards gehören, um die Genauigkeit eines Modells kontinuierlich zu überwachen, oder die Implementierung neuer Dokumentationsverfahren, um zu verfolgen, wie ein Modell in jeder Phase seiner Entwicklung trainiert und verfeinert wurde. Es bietet auch eine Sammlung von Open-Source-Frameworks und Tools, die hilfreich sein könnten, wie die von IBM KI-Fairness 360 zur Bias-Überwachung bzw Modellkarten von Google zur Dokumentation.

Chowdhury hofft, dass Unternehmen, wenn sie die Zeit für die Prüfung ihrer Modelle verkürzen können, disziplinierter bei der regelmäßigen und häufigen Prüfung werden. Mit der Zeit, so hofft sie, könnte dies sie auch dazu bringen, über die Risikominderung hinaus zu denken. Mein hinterhältiges Ziel ist eigentlich, mehr Unternehmen dazu zu bringen, über Auswirkungen nachzudenken und nicht nur über Risiken, sagt sie. Risiko ist die Sprache, die die Menschen heute verstehen, und es ist eine sehr wertvolle Sprache, aber Risiko ist oft reaktiv und reaktionsschnell. Impact ist proaktiver, und das ist eigentlich der bessere Weg, um festzulegen, was wir tun sollten.

Ein Verantwortungs-Ökosystem

Während sich Parity auf Risikomanagement konzentriert, ist ein weiteres Startup, Geiger , konzentriert sich auf Erklärbarkeit. CEO Krishna Gade begann, über die Notwendigkeit von mehr Transparenz bei der Entscheidungsfindung von KI-Modellen nachzudenken, während er als technischer Leiter des Newsfeed-Teams von Facebook fungierte. Nach den Präsidentschaftswahlen 2016 unternahm das Unternehmen einen großen internen Vorstoß, um besser zu verstehen, wie seine Algorithmen Inhalte ranken. Gades Team entwickelte ein internes Tool, das später zur Grundlage des wurde Warum sehe ich das? Merkmal .

Verwandte Geschichte

Fünf Wege, um KI im Jahr 2021 zu einer größeren Kraft für das Gute zu machen Dem Einfluss von KI wird mehr Aufmerksamkeit geschenkt als je zuvor. Lass es uns zählen.

Kurz darauf, im Oktober 2018, startete Gade Fiddler. Es hilft Data-Science-Teams, die sich entwickelnde Leistung ihrer Modelle zu verfolgen, und erstellt auf der Grundlage der Ergebnisse hochkarätige Berichte für Führungskräfte. Wenn sich die Genauigkeit eines Modells im Laufe der Zeit verschlechtert oder es ein voreingenommenes Verhalten zeigt, hilft Fiddler beim Debuggen, warum das passieren könnte. Gade sieht Überwachungsmodelle und die Verbesserung der Erklärbarkeit als erste Schritte, um KI gezielter zu entwickeln und einzusetzen.

Arthur , gegründet 2019, und Gewichtungen und Vorurteile , gegründet 2017, sind zwei weitere Unternehmen, die Monitoring-Plattformen anbieten. Wie Fiddler betont Arthur die Erklärbarkeit und den Abbau von Verzerrungen, während Weights & Biases Experimente zum maschinellen Lernen verfolgt, um die Forschung zu verbessern Reproduzierbarkeit . Alle drei Unternehmen haben eine allmähliche Verschiebung der wichtigsten Anliegen der Unternehmen beobachtet, von der Einhaltung gesetzlicher Vorschriften oder der Modellleistung hin zu Ethik und Verantwortung.

Der zynische Teil in mir war am Anfang besorgt, dass wir Kunden kommen sehen und denken, dass sie einfach ein Kästchen ankreuzen könnten, indem sie ihre Marke mit jemand anderem in Verbindung bringen, der verantwortungsbewusste KI betreibt, sagt Liz O'Sullivan, Arthurs Vizepräsidentin für verantwortungsbewusste KI fungiert auch als Technologiedirektor des Surveillance Technology Oversight Project, einer Aktivistenorganisation. Aber viele von Arthurs Kunden haben versucht, über die reinen technischen Korrekturen ihrer Governance-Strukturen und Herangehensweisen an inklusives Design hinauszudenken. Es war so aufregend zu sehen, dass sie wirklich daran interessiert sind, das Richtige zu tun, sagt sie.

O’Sullivan und Chowdhury freuen sich auch beide, dass mehr Startups wie ihres online gehen. Es gibt nicht nur ein Tool oder eine Sache, die Sie tun müssen, um verantwortungsbewusste KI zu betreiben, sagt O’Sullivan. Chowdury stimmt zu: Es wird ein Ökosystem.

verbergen