Dr Timnit Gebru – aktywistka, która miała odwagę postawić się technologicznemu gigantowi

Musimy opowiadać się za lepszym systemem kontroli i równowagi, aby móc testować sztuczną inteligencję pod kątem stronniczości i uczciwości oraz pomagać firmom w określeniu, czy wszystkie przypadki użycia są w tej chwili w ogóle odpowiednie dla tej technologii – apeluje Timnit Gebru, aktywistka, badaczka i ekspertka ds. sztucznej inteligencji.

Publikacja: 28.11.2023 12:24

Timnit Gebru dostała się na Uniwersytet Stanforda, co otworzyło jej drogę do kariery w branży komput

Timnit Gebru dostała się na Uniwersytet Stanforda, co otworzyło jej drogę do kariery w branży komputerowej.

Foto: Getty Images

Pochodząca z Etiopii Timnit Gebru mówi o sposobie, w jaki sztuczna inteligencja "wpływa na ludzi na całym świecie, a oni nie mają nic do powiedzenia na temat tego, jak powinni ją kształtować". Podkreśla, że w tej chwili prace nad rozwiązaniami AI przypominają gorączkę złota na Dzikim Zachodzie. Wszyscy kierują się chęcią zysku, a nikt nie koncentruje się na zagrożeniach, które są związane z rozwojem tej technologii. Między innymi na budowaniu jeszcze większej ilości stereotypów, nierówności i podziałów wynikających z dezinformacji. Za głośne mówienie o tych problemach straciła pracę w Google.

"Bez względu na to, jak daleko jesteśmy od siebie i jak różnimy się od ‘innych’, wszyscy jesteśmy ze sobą bardzo blisko związani"

Urodziła się w Addis Abebie w Etiopii. W wieku 16 lat Timnit Gebru uciekła przed wojną między Etiopią, gdzie dorastała, a Erytreą, gdzie urodzili się jej rodzice. Po roku spędzonym w Irlandii dotarła na obrzeża Bostonu. W szkole średniej w stanie Massachusetts, mimo talentu do nauki musiała mierzyć się z przeciwnościami, które nazywa liberalną odmianą rasizmu. Od jednego z nauczycieli usłyszała: "Spotkałem wielu ludzi takich jak ty, którzy myślą, że mogą po prostu przyjechać tu z innych krajów i wziąć udział w najtrudniejszych zajęciach". "To, co bardzo dezorientowało mnie jako imigrantkę, to ten liberalny rodzaj rasizmu" – mówi cytowana przez "The Guardian". - "Ludzie, którzy sprawiają wrażenie, jakby naprawdę im na tobie zależało, ale oni mówią: ‘Nie sądzisz, że to będzie dla ciebie trudne?’. Zajęło mi trochę czasu, zanim naprawdę zorientowałem się, co się dzieje".

Dr Timnit Gebru

Dr Timnit Gebru

East News

Doświadczyła jeszcze większych uprzedzeń, kiedy ona i jej przyjaciółka, również czarnoskóra, zostały zaatakowane w barze. "To było w San Francisco – znowu w innym liberalnym miejscu. Zostałam zaatakowana przez grupę chłopaków i nikt mi nie pomógł. To było najstraszniejsze: kiedy jesteś duszona, a ludzie przechodzą obok i patrzą na ciebie". Kiedy udało jej się uwolnić, zadzwoniła po policję. "To było gorsze niż nie zadzwonienie do nich, bo najpierw kilka razy zarzucali mi, że kłamię i ciągle kazali mi się uspokoić. A potem założyli kajdanki mojej przyjaciółce, która właśnie została napadnięta".

Timnit Gebru dostała się na Uniwersytet Stanforda w północnej Kalifornii, co otworzyło jej drogę do kariery w branży komputerowej. Podczas studiów, w 2015 roku wzięła udział w najważniejszej konferencji w dziedzinie badań nad sztuczną inteligencją, Neural Information Processing Systems (NIPS) w Montrealu. Zauważyła, że spośród 3,7 tys. uczestników była jedną z niewielu czarnoskórych badaczy. Kiedy w następnym roku wzięła udział ponownie, było tam jedynie pięciu czarnoskórych mężczyzn oraz ona jako jedyna czarnoskóra kobieta pośród 8,5 tys. delegatów. Wraz ze swoją koleżanką Rediet Abebe Gebru założyła Black in AI, której celem jest zwiększenie reprezentacji osób czarnoskórych w obszarze sztucznej inteligencji.

Czytaj więcej

Mało kto pamięta, że to kobiety dały początek branży IT. Agnieszka Suchwałko o sile nowych technologii i AI

Wraz z Joy Buolamwini przeprowadziła badanie Gender Shades, które pokazuje błędy w algorytmach rozpoznawania twarzy, znacznie słabiej rozpoznających osoby o innych kolorach skóry niż biały. Wynika z niego, że rozpoznanie czarnoskórych kobiet jest o 35 proc. mniejsze niż białych mężczyzn. Jako stażystka Uniwersytetu Stanforda Timnit Gebru miała okazję odbyć staż w Apple, pracując w dziale sprzętu zajmującym się produkcją obwodów do komponentów audio. Rok później zaproponowano jej pracę na pełny etat. Bardziej od inżynierii dźwięku zainteresowała się tworzeniem oprogramowania, które mogłoby wykrywać postacie ludzkie. Następnie opracowała algorytmy przetwarzania sygnału audio dla pierwszego iPada. Później wyznała, że nie rozważała tego systemu do potencjalnego zastosowania do inwigilacji, a jednak była taka ewentualność. Była to jedna z tez, które podkreślają jej niepokój o brak kontroli nad działaniami gigantów technologicznych.

"Potrzebujemy regulacji i czegoś lepszego niż tylko motyw zysku"

Doktorat z informatyki Timnit Gebru obroniła w laboratorium sztucznej inteligencji pod kierunkiem Fei-Fei Li w 2017 r. Po nim odbyła staż w firmie Microsoft, w laboratorium FATE (Fairness, Accountability, Transparency and Ethics in AI), poświęconym badaniom równości, przejrzystości i etyce w sztucznej inteligencji. Gebru dołączyła do Google w 2018 roku, gdzie wraz z Margaret Mitchell współprowadziła zespół ds. etyki sztucznej inteligencji. Studiowała zastosowania sztucznej inteligencji, szukając możliwości poprawy zdolności technologii do wyświadczania dobra społecznego. W grudniu 2020 roku zakończyła się jej współpraca z tą firmą. Okoliczności zerwania umowy nie są do końca jasne. Wiadomo, że została poproszona o wycofanie planowanej publikacji artykułu naukowego opracowanego wraz z kilkoma innymi pracownikami Google, w którym poruszono kwestie związane z modelami językowymi sztucznej inteligencji, w tym uprzedzeniom wobec mniejszości oraz marginalizowania niektórych osób. Ona twierdzi, że zwolnienie to jest następstwem wyrażonej przez nią krytyki dotyczącej polityki Google w zakresie rekrutacji mniejszości oraz stronniczości systemów sztucznej inteligencji. Zarząd firmy stoi na stanowisku, że badaczka dała im ultimatum, na które nie mogli się zgodzić.

Jej odejście wywołało burzę. Blisko 2700 pracowników Google oraz ponad 4300 naukowców i aktywistów podpisało list potępiający rzekome zwolnienie Gebru. Pociągnęło to zmiany w kadrze menedżerskiej firmy. Sundar Pichai, dyrektor generalny Alphabet Inc., spółki nadzorującej Google wszczął trwające wiele miesięcy dochodzenie w tej sprawie. W końcu ogłoszono, że Google zmieni swoje "podejście do sposobu, w jaki niektórzy pracownicy odchodzą z firmy" i że nastąpią zmiany w sposobie recenzowania artykułów naukowych o "wrażliwych" tematach. Realizacja celów związanych z różnorodnością, równością i włączenia społecznego mają być kwartalnie raportowane zarządowi Alphabetu. Nigdy nie wyjaśniono, w jaki sposób rozstano się z pracownicą, która właśnie o to walczyła.

Pół roku po tym, jak ogłosiła zbiórkę pieniędzy na ten cel, 2 grudnia 2021 r. Timnit Gebru uruchomiła Instytut Badań nad Rozproszoną Sztuczną Inteligencją (DAIR), który ma dokumentować wpływ sztucznej inteligencji na grupy marginalizowane, ze szczególnym uwzględnieniem imigrantów afrykańskich w Stanach Zjednoczonych. Jeden z pierwszych projektów organizacji przewiduje analizę zdjęć satelitarnych miasteczek w Republice Południowej Afryki za pomocą sztucznej inteligencji, aby lepiej zrozumieć dziedzictwo apartheidu. Badaczka zaprasza do współpracy wszystkich „zainteresowanych naszą pracą skupiającą się na łagodzeniu szkód powodowanych przez obecne systemy sztucznej inteligencji i wyobrażających sobie inną przyszłość technologiczną, która nam służy”. Jest członkiem zarządu organizacji AddisCoder, która uczy etiopskich studentów programowania. W listopadzie 2023 r. została umieszczona przez BBC na liście 100 najbardziej wpływowych kobiet świata.

Pochodząca z Etiopii Timnit Gebru mówi o sposobie, w jaki sztuczna inteligencja "wpływa na ludzi na całym świecie, a oni nie mają nic do powiedzenia na temat tego, jak powinni ją kształtować". Podkreśla, że w tej chwili prace nad rozwiązaniami AI przypominają gorączkę złota na Dzikim Zachodzie. Wszyscy kierują się chęcią zysku, a nikt nie koncentruje się na zagrożeniach, które są związane z rozwojem tej technologii. Między innymi na budowaniu jeszcze większej ilości stereotypów, nierówności i podziałów wynikających z dezinformacji. Za głośne mówienie o tych problemach straciła pracę w Google.

Pozostało 91% artykułu
2 / 3
artykułów
Czytaj dalej. Kup teraz
Jej historia
39-letnia Miss Niemiec 2024 i organizatorzy konkursu mierzą się z falą hejtu. "Nie zasługuje na tytuł"
Jej historia
Najmłodsza parlamentarzystka Estonii pozbawia się przywilejów i podbija serca rodaków
Jej historia
Fani emocjonują się informacjami o stanie zdrowia Celine Dion. Światełko w tunelu?
Jej historia
Była gwiazda Disneya Bridgit Mendler założyła firmę, której celem jest podbicie kosmosu
Materiał Promocyjny
PR&Media Days 2024 - trendy i wyzwania
Jej historia
Gwiazda "Emily w Paryżu" o swoim sukcesie i postaci, którą gra: Jak zwierzę w klatce
Jej historia
Bobbi Brown - kobieta, która wie wszystko o makijażu. Jaki jest jej przepis na bycie piękną?