Inhalt dieses Beitrags
Hat Google die bekannte Wissenschaftlerin Timnit Gebru gefeuert, weil sie sich in einer Forschungsarbeit kritisch über KI-basierte Technologie äußerte?
Was ist passiert?
In einem internen wissenschaftlichen Paper sollten ethische Fragen erörtert werden, die durch die jüngsten Fortschritte in der sprach-basierten KI-Technologie aufgeworfen wurden – einer Technologie, die von Google als wichtig für die Zukunft seines Unternehmens bezeichnet wurde. Innerhalb der Forschungsarbeit wurde zu einem verantwortungsvollem Umgang mit ethischen Fragestellungen aufgerufen. Die Reaktion darauf: ein Senior Manager bei Google forderte die Wissenschaftlerin dazu auf, entweder ihren Namen aus dem Paper zu streichen – um die Verbindung zum Unternehmen zu kappen – oder es komplett zurückzuziehen. Genaue Gründe für die Ablehnung wurden nicht genannt – der Inhalt sei lediglich als “anstößig” bezeichnet worden.
Die Expertin für ethische und gesellschaftliche Auswirkungen von künstlicher Intelligenz (KI) bezeichnete diese Handhabung als unwissenschaftlich. Sie schlug dem Management daraufhin per E-Mail vor, einen fairen Umgang mit künftigen Forschungsarbeiten zu wahren und im Gegenzug ihren Namen aus dem Paper zu streichen. Sie drohte zudem, andernfalls die Arbeit unter ihrem Namen zu veröffentlichen – nach ihrer Zeit bei Google.
“Ich hatte das Gefühl, dass wir zensiert werden und dachte, dies hätte Auswirkungen auf die gesamte ethische KI-Forschung.”
Timnit Gebru, Quelle: https://www.wired.com/story/prominent-ai-ethics-researcher-says-google-fired-her/
Googles Umgang mit Randgruppen
Zudem schilderte Gebru diesen Vorfall – ebenfalls in einer E-Mail – einem breiterem Google-Mitarbeiter-Kreis. Damit wollte sie -als dunkelhäutige Frau- auf den Umgang der Google-Bosse mit Randgruppen aufmerksam machen und dazu beitragen, Missstände aufzudecken. Immer wieder erntet Google Kritik in Sachen Mitarbeiterführung. Google-Mitarbeiter haben in den letzten Jahren gegen die Behandlung von Frauen und Minderheiten und gegen die ethische Haltung des Unternehmens zur KI-Technologie protestiert und den Betrieb verlassen.
“We have been pleading for representation but there are barely any Black people in Google Research.”
Timnit Gebru, Quelle: https://www.wired.com/story/prominent-ai-ethics-researcher-says-google-fired-her/
Die Reaktion: Entlassung
Am Mittwoch wandte sich Timnit Gebru per Twitter an die Öffentlichkeit: sie sei gefeuert worden. Ein Google-Sprecher behauptete daraufhin, sie sei von sich aus zurückgetreten, und lehnte einen weiteren Kommentar ab.
I was fired by @JeffDean for my email to Brain women and Allies. My corp account has been cutoff. So I’ve been immediately fired 🙂
— Timnit Gebru (@timnitGebru) December 3, 2020
Gebrus Tweets über den Vorfall am Mittwochabend lösten eine Welle der Unterstützung von KI-Forschern bei Google und anderswo aus, darunter Spitzenuniversitäten und Unternehmen wie Microsoft. Viele sagten, Google habe seinen Ruf an entscheidenden Stelle geschädigt. Am späten Donnerstag unterzeichneten mehr als 200 Google-Mitarbeiter einen offenen Brief, in dem sie das Unternehmen aufforderten, Einzelheiten über den Umgang mit dem Gebru-Papier bekannt zu geben und sich zu “Forschungsintegrität und akademischer Freiheit” zu verpflichten.
We stand with @timnitGebru. We call on Google Research to strengthen its commitment to research integrity and to unequivocally commit to supporting research that honors the commitments made in Google’s AI Principles. Sign the letter: https://t.co/hf91oDZ0Ew
— Google Walkout For Real Change (@GoogleWalkout) December 4, 2020
Ethische Konsequenzen der KI-Technologie
Die Kontroverse verdeutlicht die Spannung zwischen den menschlichen und ethischen Konsequenzen der KI-Entwicklung und der Tatsache, dass ein Großteil der führenden KI-Forschung von Unternehmen übernommen wird, die durch das Gewinnpotenzial der Technologie motiviert sind. Gebru ist eine Vorreiterin einer neuen Bewegung in der KI-Forschung, die sich mit den ethischen und gesellschaftlichen Auswirkungen der Technologie befasst. Sie half bei der Zusammenstellung und Leitung eines kleinen Teams von Computer- und Sozialwissenschaftlern, die sich innerhalb der KI-Forschungsgruppe von Google der Ethikforschung widmen.
