211service.com
Eine führende KI-Ethikforscherin sagt, sie sei von Google gefeuert worden
Kimberly White / Stringer
Am 2. Dezember erfuhr die KI-Forschungsgemeinschaft schockiert, dass Timnit Gebru von ihrem Posten bei Google gefeuert worden war. Gebru, eine der führenden Stimmen in der verantwortungsvollen KI-Forschung, ist unter anderem dafür bekannt, bahnbrechende Arbeiten mitzuverfassen, die die diskriminierende Natur der Gesichtserkennung , Mitbegründer der Black in AI-Affinitätsgruppe und setzt sich unermüdlich für Vielfalt in der Technologiebranche ein .
Aber am Mittwochabend kündigte sie an auf Twitter dass ihr ihre Position als Co-Lead für ethische KI von Google gekündigt wurde. Anscheinend hat der Manager meines Vorgesetzten eine E-Mail [an] meine direkten Vorgesetzten geschickt, in der er sagte, dass sie meine Kündigung akzeptiert. Ich habe nicht gekündigt, sagte sie.
In ein Interview mit Bloomberg Am Donnerstag sagte Gebru, die Entlassung sei nach einem langwierigen Streit mit ihren Vorgesetzten über die Veröffentlichung eines Forschungspapiers zur KI-Ethik erfolgt. Einer von Gebrus Tweets und später interne E-Mail von Jeff Dean, Leiter von Google AI, deuten darauf hin, dass das Papier kritisch gehandhabt wurde die Umweltkosten und eingebettete Verzerrungen großer Sprachmodelle.
Danke @red_abebe . @JeffDean Mir ist jetzt klar, wie viel große Sprachmodelle für Sie wert sind. Ich möchte nicht sehen, was mit der nächsten Person passiert, die das versucht. https://t.co/rIBXYPvQ3d
- Timnit Gebru (@timnitGebru) 3. Dezember 2020
Gebru, der das Papier mit vier Google-Kollegen und zwei externen Mitarbeitern geschrieben hatte, hatte es bei einer Forschungskonferenz eingereicht, die im nächsten Jahr stattfinden wird. Nach einer internen Überprüfung wurde sie gebeten, das Papier zurückzuziehen oder die Namen der Google-Mitarbeiter zu entfernen. Sie antwortete, dass sie dies tun würde, wenn ihre Vorgesetzten eine Reihe von Bedingungen erfüllen würden. Wenn sie es nicht könnten, würde sie es tun Arbeit an einem letzten Date , Sie sagte.
Ich sagte, hier sind die Bedingungen. Wenn du sie toll treffen kannst, werde ich meinen Namen von dieser Zeitung streichen, wenn nicht, dann kann ich an einem letzten Date arbeiten. Dann schickte sie eine E-Mail an meine direkten Vorgesetzten, in der sie sagte, dass sie meine Kündigung akzeptiert hat. Das ist also Google für euch. Sie haben gesehen, wie es hier passiert ist.
- Timnit Gebru (@timnitGebru) 3. Dezember 2020
Sie schickte auch eine frustrierte E-Mail an einen internen Listendienst, Google Brain Women and Allies, in dem die wiederholten Schwierigkeiten beschrieben wurden, die sie als schwarze Forscherin erlebt hatte. Wir hatten gerade eine schwarze Recherche aller Hände mit solch einer emotionalen Show der Verzweiflung, schrieb sie. Weißt du, was seitdem passiert ist? Schweigen auf die grundlegendste Art und Weise, die möglich ist.
Gebru ging dann in den Urlaub und erhielt vor ihrer Rückkehr eine Kündigungs-E-Mail von Megan Kacholia, der VP of Engineering bei Google Research. Vielen Dank für die Klarstellung Ihrer Bedingungen, die angegebene E-Mail , wie von Gebru getwittert. Wir können Nr. 1 und Nr. 2 nicht zustimmen, wie Sie es wünschen. Wir respektieren Ihre Entscheidung, Google infolgedessen zu verlassen, und akzeptieren Ihre Kündigung. Ihre E-Mail an den Listserver entspreche nicht den Erwartungen eines Google-Managers, hieß es weiter. Aus diesem Grund nehmen wir Ihren Rücktritt mit sofortiger Wirkung mit heutiger Wirkung an.
Am Donnerstagmorgen, nach einer Welle der Unterstützung für Gebru in den sozialen Medien, schickte Dean eine interne E-Mail an die KI-Gruppe von Google mit seinem Bericht über die Situation. Er sagte, dass Gebrus Artikel unsere Kriterien für eine Veröffentlichung nicht erfüllt habe, weil er zu viele relevante Forschungsergebnisse ignoriert habe. Er sagte auch, dass Gebrus Bedingungen die Offenlegung der Identität aller Personen beinhalteten, mit denen Megan und ich gesprochen und die wir im Rahmen der Überprüfung des Papiers und des genauen Feedbacks konsultiert hatten.
Angesichts der Rolle von Timnit als angesehene Forscherin und Managerin in unserem Ethical AI-Team fühle ich mich schlecht, dass Timnit an einen Punkt gelangt ist, an dem sie so über unsere Arbeit denkt, schrieb er. Ich weiß, dass wir alle wirklich Timnits Leidenschaft teilen, KI gerechter und integrativer zu machen.
Weder Gebru, Dean noch Google Communications haben auf Anfragen nach Kommentaren geantwortet, und viele Details zum genauen Verlauf der Ereignisse oder zum Grund der Beendigung bleiben unklar. Während sie weiter auftauchen, haben viele neue Aufmerksamkeit auf sie gelenkt ein Tweet vom 30. November die Gebru ganz oben auf ihrem Profil angeheftet hat. Gibt es jemanden, der an einer Regulierung zum Schutz von ethischen KI-Forschern arbeitet, ähnlich wie beim Schutz von Hinweisgebern? Es liest. Denn bei der Menge an Zensur und Einschüchterung, die gegen Menschen in bestimmten Gruppen vor sich geht, wie kann jemand darauf vertrauen, dass echte Forschung in diesem Bereich stattfinden kann?