Timnit Gebru (geboren 1982 oder 1983 in Addis Abeba) ist eine Informatikerin, die auf dem Gebiet der künstlichen Intelligenz (KI) forscht. Bis Anfang Dezember 2020 war sie Co-Leiterin der Abteilung für Ethik in der KI (Ethical AI Intelligence Team) bei dem US-amerikanischen Technologieunternehmen Google. Sie ist Mitgründerin des Distributed AI Research Institute (DAIR).

Leben und Werk

Gebru immigrierte mit 16 Jahren in die Vereinigten Staaten. Während ihrer Zeit an der Stanford University, wo sie bei Fei-Fei Li forschte und 2017 mit der Dissertation Visual computational sociology : computer vision methods and challenges in Computer Vision promoviert wurde, war sie Mitbegründerin der Organisation Black in AI, die sich für die Zusammenarbeit sowie größeren Einfluss und Sichtbarkeit Schwarzer in der Forschung zu künstlicher Intelligenz einsetzt.

Einer breiteren Öffentlichkeit bekannt wurde Gebru 2018 durch die gemeinsam mit der Informatikerin Joy Buolamwini vom MIT Media Lab verfasste Publikation Gender Shades, in der die Wissenschaftlerinnen nachwiesen, dass kommerzielle Systeme zur automatischen Gesichtserkennung für Menschen mit nicht-weißer Hautfarbe sowie weibliche Personen signifikant schlechter funktionieren als für weiße, männliche Personen.

“It is past time for researchers to prioritize energy efficiency and cost to reduce negative environmental impact and inequitable access to resources.”

„Es ist überfällig, dass [KI-]Forschende Energieeffizienz und -kosten priorisieren, um negative Umwelteinflüsse und ungleichen Zugang zu Ressourcen zu reduzieren.“

– Auszug aus »On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?« von Timnit Gebru et al., 2020

Ab 2018 arbeitete Gebru, die zuvor ein Jahr als Postdoc bei Microsoft Research geforscht hatte, bei Google AI, der KI-Abteilung des Internetkonzerns. Anfang Dezember 2020 wurde Gebrus Arbeitsvertrag mit Google fristlos aufgelöst, nachdem das Management verlangt hatte, dass sie eine zum Peer-Review eingereichte Publikation über Probleme moderner KI-Systeme zur Verarbeitung natürlicher Sprache, wie sie für die Google-Suche eingesetzt werden, zurückzieht. Laut der unter anderem von der Sprachwissenschaftlerin Emily M. Bender, Professorin an der University of Washington, mitverfassten Studie gebe es vier große Risiken dieser sogenannten Transformer, darunter die erheblichen negativen Umweltauswirkungen der für Erzeugung und Betrieb nötigen Rechenleistung sowie einen starken diskriminierenden Bias, der dadurch entstehe, dass die Modelle aus riesigen, ungefiltert aus dem Internet gescrapten Datenmengen erzeugt werden.

Über die genauen Umstände von Gebrus Ausscheiden gab es widersprüchliche Angaben. Laut Google-AI-Direktor Jeff Dean habe das Papier nicht den internen Qualitätsanforderungen entsprochen. Gebru hatte unter anderem gefordert, ihr Informationen darüber zugänglich zu machen, welche Personen zu dieser Einschätzung beigetragen hatten. Ein Google-AI-Mitarbeiter aus Montreal äußerte öffentlich, seine eigenen Publikationsanträge seien bislang vom Arbeitgeber zwar stets darauf begutachtet worden, ob sie sensible Informationen offenlegten, nicht jedoch bezüglich ihrer Qualität. Innerhalb weniger Tage unterzeichneten über 1.400 Google-Mitarbeitende und 1.900 weitere Personen einen Offenen Brief, in dem sie die Entlassung Gebrus kritisieren.

Im Jahr 2021 ehrte die Fachzeitschrift Nature sie mit einem Eintrag in ihrer Nature’s-10-Liste als eine der zehn Personen, welche die Wissenschaft in jenem Jahr geprägt haben.

Gebru äußerte sich mehrfach kritisch über den Effektiven Altruismus.

Einzelnachweise

  1. 1 2 3 4 Cade Metz, Oaisuke Wakabayashi: Google Researcher Says She Was Fired Over Paper Highlighting Bias in A.I. In: The New York Times. 3. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  2. 1 2 Hugh Langley: One of Google’s leading AI researchers says she’s been fired in retaliation for an email to other employees. In: Business Insider. 3. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  3. 1 2 3 4 5 Markus Böhm: »Das Ausmaß der Respektlosigkeit ist unglaublich«. In: Spiegel Online. 5. Dezember 2020, abgerufen am 5. Dezember 2020.
  4. ↑ The DAIR Institute. Abgerufen am 30. Dezember 2022 (englisch).
  5. 1 2 3 Lisa Lahde: AI Innovators: How One Woman Followed Her Passion and Brought Diversity to AI. In: Forbes. 10. Juni 2018, abgerufen am 5. Dezember 2020 (englisch).
  6. ↑ Timnit Gebru. In: Mathematics Genealogy Project. Abgerufen am 5. Dezember 2020 (englisch).
  7. ↑ Steve Lohr: Facial Recognition Is Accurate, if You’re a White Guy. In: The New York Times. 9. Februar 2018, abgerufen am 5. Dezember 2020 (englisch).
  8. ↑ Joy Buolamwini, Timnit Gebru: Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. In: Proceedings of Machine Learning Research. Band 81, 2018, S. 1–15 (online [PDF]).
  9. 1 2 3 4 5 6 7 8 Karen Hao: We read the paper that forced Timnit Gebru out of Google. Here’s what it says. In: MIT Technology Review. 4. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  10. 1 2 Paresh Dave, Jeffrey Dastin: Top AI ethics researcher says Google fired her; company denies it. In: Reuters. 4. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  11. ↑ Standing with Dr. Timnit Gebru — #ISupportTimnit #BelieveBlackWomen. In: Google Walkout For Real Change. Dezember 2020, abgerufen am 5. Dezember 2020 (englisch).
  12. ↑ Chris Köver: KI-Forscherin Timnit Gebru - Tausende Google-Angestellte protestieren nach Rauswurf. In: netzpolitik.org. 9. Dezember 2020, abgerufen am 17. März 2021 (deutsch).
  13. ↑ Nature’s 10. In: nature.com. 15. Dezember 2021, abgerufen am 17. Dezember 2021 (englisch).
  14. ↑ Rebecca Ackermann: Inside effective altruism, where the far future counts a lot more than the present. In: MIT Technology Review. 17. Oktober 2022, abgerufen am 19. Oktober 2022 (englisch).
This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.