Różnorodność technologii 2024: kooperacja ma najważniejsze znaczenie dla postępu DEI

Era sztucznej inteligencji (AI) zmienia krajobraz IT, ale z trwający kryzys różnorodności w sektorze technologiiokaże się, czy szybki rozwój tych technologii ostatecznie pomoże, czy przeszkodzi w naszym życiu.

W przemówieniu podczas corocznego wydarzenia Computer Weekly i Harvey Nash poświęconego różnorodności w technologiach, Bev White, dyrektor generalna spółki-matki Harveya Nasha, Nash Squared, podkreśliła znaczenie aktywnego tworzenia możliwości dla niedostatecznie reprezentowanych grup do przyłączenia się do sektora technologicznego, jeżeli chcemy uczynić branżę bardziej różnorodne miejsce.

Ubolewając nad tym, jak powoli zmienia się wskaźnik różnorodności technologicznej, White nalegał, aby pracownicy sektora aktywnie dbali o to, aby pracownicy branży technologicznej odzwierciedlali użytkowników technologii.

„To my wszyscy – nie tylko społeczność HR, nie tylko CIO, CDO i dyrektorzy generalni – musimy dokonać zmian. To zależy od nas wszystkich” – powiedziała.

„Za każdym razem, gdy myślimy o zatrudnieniu, awansowaniu lub zachęcaniu kogoś do awansu i reprezentowania działu, musimy pomyśleć o tym, jak to robimy i dać komuś szansę na wykazanie się i zabłyśnięcie. Musimy to robić każdego dnia, we wszystkim, co robimy, inaczej nic się nie zmieni”.

Wraz z szybkim rozwojem technologii, takich jak sztuczna inteligencja (AI), generatywna sztuczna inteligencja (GenAI) i uczeniu maszynowemu to uczucie nigdy nie było tak ważne.

A raport z Nash Squared wykazało, iż 75% pracowników korzysta już z GenAI w swojej pracy. W miarę wzrostu tej liczby coraz ważniejsze będzie dopilnowanie, aby ludzie opracowujący te technologie odzwierciedlali ludzi, którzy z nich korzystają.

Jak zauważył White, jeżeli zespoły opracowujące te narzędzia nie reprezentują w pełni osób, które z nich korzystają, w jaki sposób możemy zapewnić, iż spełnią swoje zadanie?

Zamiast jednak zwiększać nacisk na różnorodność, firmy wycofują się ze swoich inicjatyw na rzecz różnorodności, równości i włączenia społecznego (DEI). w obliczu cięć budżetowych i obaw przed ostrymi reakcjami za przyjęcie niewłaściwego podejścia.

Rysuje to ponury obraz przyszłości rozwoju sztucznej inteligencji, w której niezrównoważone zespoły i brak uwzględnienia użytkowników już spowodowały problemy.

To, iż możesz, nie znaczy, iż powinieneś

Chociaż wykorzystanie sztucznej inteligencji gwałtownie rośnie, rozwój technologii sztucznej inteligencji nie jest niczym nowym.

Maria Axente, dyrektor ds. polityki publicznej i etyki AI w PwC, stwierdziła, iż ​​rozwój technologii często opiera się na zasadzie „ponieważ możemy”, nie biorąc pod uwagę „wpływu na użytkowników i tego, kto powinien być zaangażowany w rozmowę o projektowaniu”.

Jej rola jako etyki technologii wymaga od niej rozważenia dokładnie tych kwestii – jakiemu celowi będzie służyć technologia, dla kogo jest ona przeznaczona i kto powinien być zaangażowany w jej tworzenie.

Wyjaśniła: „Etyka sztucznej inteligencji to dyscyplina zajmująca się tworzeniem wizji dobrego życia ze sztuczną inteligencją, cokolwiek oznacza dobre życie ze sztuczną inteligencją”.

Oprócz historii stronniczego rozwoju technologii, od pasów bezpieczeństwa po urządzenia do pomiaru miesiączki, Axente zwróciła uwagę na kobiety, które walczą o to, aby technologie takie jak sztuczna inteligencja były etyczne, użyteczne i sprawiedliwe.

Przekonanie niektórych z tych, którzy opracowują technologie, iż to, co tworzą, będzie miało bezpośredni wpływ na życie ludzi i iż w niektórych przypadkach wpływ ten będzie negatywny, może zająć dużo czasu, wysiłku i dowodów, jeżeli nie zostaną wdrożone odpowiednie najlepsze praktyki .

Axente powiedziała: „Stopniowo nauczyliśmy się, iż technologia w wymierny sposób szkodzi ludziom”.

Istnieje wiele sposobów, w jakie rozwój sztucznej inteligencji i uczenia maszynowego wpływa na kobiety i inne niedostatecznie reprezentowane grupy. Beckie Taylor, współzałożycielka Tech Returners, podała przykład znanej firmy technologicznej, która wdrożyła model uczenia maszynowego AI do sprawdzania kandydatów do pracy. Taylor wyjaśniła, w jaki sposób zespół programistów, który go zbudował, składał się głównie z mężczyzn, doprowadził do tego, iż oprogramowanie było uprzedzone wobec kandydatek płci żeńskiej.

https://www.youtube.com/embed/OITPMxkcBek

Chociaż problem ten został gwałtownie zidentyfikowany i naprawiony, „pokazuje to, jak istotny jest w tym procesie człowiek” – stwierdził Taylor.

„Mimo iż nazywa się to sztuczną inteligencją, tworzą ją ludzie, budują ją ludzie, wdrażają ją ludzie, dlatego ważne jest, kim są ci ludzie i czy wnoszą do swojej pracy szeroki wachlarz doświadczeń i perspektyw”.

Zdarzały się inne przypadki, w których sztuczna inteligencja była szkolona przy użyciu zbiorów danych lub opracowywana przez niezróżnicowane zespoły, co zwiększa prawdopodobieństwo wystąpienia błędów, np. diagnostyka oparta na obrazach jest dokładniejsza w przypadku białych pacjentów i rzekomo Apple Card oferując mężczyznom wyższe limity kredytowe niż kobietom.

Etyk AI, Axente, powiedziała: „Zawdzięczamy to wielu wspaniałym kobietom, które zabierały głos pomimo ostrej reakcji, jaką spotkały. Pomagają nam lepiej zrozumieć, w jaki sposób ta technologia utrwala istniejące szkody”.

Zdaniem Axente, niektóre z tych kobiet były „zastraszane”, „zwalniane” i „ignorowane” podczas ich wysiłków na rzecz zapewnienia, iż ​​rozwój sztucznej inteligencji przyniesie korzyści większości, a nie nielicznym – twierdzi Axente, która stwierdziła, iż ​​teraz jesteśmy w lepszej sytuacji zacząć zmieniać sposób myślenia o rozwoju i wdrażaniu technologii – zamiast budować ją dla samego rozwoju, a skupiać się na budowaniu jej celowo.

Oczywistym sposobem zapewnienia reprezentatywności algorytmów dla szerszej populacji jest przyciągnięcie i zatrzymanie większej liczby talentów technologicznych z niedostatecznie reprezentowanych grup, ale także upewnienie się, iż osoby „kształtujące przyszłość ludzkości dzięki sztucznej inteligencji” odzwierciedlają większą populację użytkowników, którzy ostatecznie będą zmuszeni włączenie sztucznej inteligencji do ich codziennego życia – „sztuczna inteligencja skoncentrowana na osobie” powinna być w centrum uwagi w przyszłości.

Axente stwierdziła: „Jeśli chcemy, aby sztuczna inteligencja działała dla nas jako jednostek i jako kolektywu, rozwiązaniem jest współpraca, a nie konkurencja”.

Pracując razem

Według Jasmin Guthmann, współwiceprezydenta MACH Alliance, choć około 5% więcej kobiet korzysta z technologii sztucznej inteligencji niż 10 lat temu, w technologiach pracuje o 10% mniej kobiet niż w 1984 r.

Ta nierównowaga między liczbą kobiet korzystających ze sztucznej inteligencji a liczbą kobiet rozwijających sztuczną inteligencję przyczynia się do uprzedzeń dotyczących sztucznej inteligencji i technologii, które nie są odpowiednie dla wszystkich jej użytkowników – do tego stopnia, iż ​​rząd nakreślił plany w swoim niedawnym raporcie Plan działania dotyczący możliwości AI zwiększenie różnorodności puli talentów w zakresie sztucznej inteligencji i analityki danych w Wielkiej Brytanii.

Guthmann stwierdziła jednak, iż kobiety w tej chwili „próbują rozwiązać ten problem samodzielnie i to nie rozwiąże problemu”.

Od pewnego czasu różnorodność personelu technologicznego pozostaje w stagnacji. Rok 2024 Raport o różnorodności z BCS, The Chartered Institute for IT, stwierdziła, iż ​​jeśli obecne tendencje się utrzymają, upłyną kolejne 283 lata, zanim odsetek kobiet pracujących w brytyjskim sektorze technologicznym dorówna 48% kobiet stanowiących ogół siły roboczej.

Ale jak zauważył Guthmann: „Jeśli spróbuję to zmienić sam, do niczego nie dojdę”.

Przesunięcie pokrętła w bardziej rozsądnym tempie będzie wymagało wspólnego wysiłku, co według Guthmann jest jednym z powodów, dla których nie chciała, aby odgałęzienie MACH, Women in MACH, było wyłącznie o kobietach lub dla kobiet. „Na sali musieli znajdować się mężczyźni” – stwierdziła. „Potrzebujemy was wszystkich, fantastycznych sojuszników na sali, aby pomogli nam nawiązać szerszą rozmowę i prowadzić tę rozmowę w naszym imieniu, gdy nie ma nas w pokoju”.

Jest też wiele przypadków, w których na sali nie ma kobiet ani innych niedostatecznie reprezentowanych grup – tylko 13% dyrektorów IT w Wielkiej Brytanii pochodzi ze środowisk czarnoskórych, azjatyckich lub należących do mniejszości etnicznych (BAME), a kobiety stanowią wyłącznie jedna czwarta stanowisk CIO w spółkach FTSE 100 w 2023 r.

Wszyscy powinniśmy angażować się w każdy możliwy sposób, zwłaszcza iż „niedostatecznie reprezentowane mniejszości i kobiety częściej niż inne wahają się przed kandydowaniem” na stanowiska i możliwości technologiczne, stwierdziła Guthmann.

Przedstawiła pewne zalecenia dla niedostatecznie reprezentowanych osób i sojuszników, aby nawoływali do wprowadzenia małych zmian, które zebrane razem spowodują dużą zmianę. Należą do nich przedstawianie ludziom możliwości, wzywanie do udziału w wydarzeniach, gdy na wydarzeniach organizowane są panele wyłącznie dla mężczyzn, upewnianie się, iż opinia spokojniejszych osób zostanie wysłuchana oraz zapraszanie męskich sojuszników do kobiet na wydarzeniach technologicznych.

„Od tego dnia Twoim celem jest bycie głosem, który mówi, czy można to zrobić lepiej” – powiedziała. „Ludzie będą sobie radzić lepiej tylko wtedy, gdy wszyscy pociągniemy ich do odpowiedzialności. Jak na nowo zdefiniować przyszłość technologii? Innowacje nie pojawiają się w ciszy, pojawiają się, gdy wspólnie przekraczamy granice – więc zrób dziś jedną małą rzecz, aby jutro uczynić świat lepszym miejscem.

Kiedy nadchodzi katastrofa

Współpraca może być potężnym narzędziem, jeżeli zostanie adekwatnie wykorzystana.

Kiedy na początku ubiegłego roku rząd ogłosił plany podniesienia progu dochodów potencjalnych aniołów biznesu, Emma Wright, partnerka w kancelarii prawnej Harbottle & Lewis, zmobilizowała dużą grupę kobiet z branży technologicznej do unieważnienia prawa.

Ministerstwo Skarbu planowało zmienić kryteria określające „osobę o wysokim majątku netto”co oznacza, iż ​​do zainwestowania dana osoba będzie potrzebować dochodu w wysokości co najmniej 170 000 funtów w poprzednim roku finansowym lub aktywów netto o wartości co najmniej 430 000 funtów.

Wraz z usunięciem 70% kobiet zdolnych do zapewnienia aniołów biznesu na mocy nowego prawa, zmiana ta zagroziła liczbie firm prowadzonych przez kobiety w Wielkiej Brytanii.

„Założycielki generują większe przychody niż ich koledzy” – wyjaśniła Wright.

„Zaledwie 1,7% funduszy venture capital trafia do fundatorów, a kobiety wspierają inne kobiety ponad dwukrotnie częściej niż mężczyźni”.

Doświadczenie Wrighta doskonale nadaje się do takiego wyzwania. Ponieważ wcześniej kierowała sektorem rządowym i publicznym jako partner w Deloitte Legal, rozumie, jak działa rząd, a także swoją rolę jako prawnika ds. technologii i danych, była jednym z założycieli Międzyparlamentarnego Forum na rzecz Emerging Tech (dawniej Instytut AI).

Wright uruchomił kampanię investHER, opublikowanie listu otwartego w którym wezwano rząd do podjęcia decyzji w sprawie przyszłego budżetu. Wiele kobiet, które podpisały list otwarty, pochodziło z listy „Computer Weekly”. Najbardziej wpływowe kobiety w brytyjskiej branży technologicznej.

Jak zauważył Wright, każda technologia, która nie jest zbudowana z myślą o wszystkich, „działa jak bariera i nie umożliwia”. To niebezpieczny precedens, jeżeli chodzi o technologię taką jak sztuczna inteligencja, która wydaje się mieć ogromny wpływ na przyszłość każdego człowieka.

Chociaż tę szczególną nierówność udało się załatać, wysiłki investHER w dalszym ciągu zdołały jedynie odwrócić problematyczne prawo, a nie zwiększyć potencjalną liczbę kobiet-inwestorek i osób wspierających start-upy prowadzone przez kobiety.

Wright powiedział: „Jeśli wszyscy nie opracują rozwiązań technologicznych, nie będziemy mogli konkurować na arenie globalnej i nie będziemy mieli inkluzywnej sztucznej inteligencji”.

Wyraźny przykład tego, jak przyjęcie technologii może mieć negatywny wpływ, jeżeli nikt nie bierze pod uwagę użytkownika końcowego Skandal na poczcie.

Była zastępczyni kierownika poczty, Jo Hamilton, powiedziała w rozmowie z „Computer Weekly” o różnorodności, iż nie miała żadnych problemów z prowadzeniem oddziału poczty do czasu wprowadzenia systemu Horizon.

Ponieważ nie miała pojęcia o komputerach, kiedy w systemie pojawiały się błędy w jej rozliczeniu na koniec dnia, myślała, iż ​​to ona popełnia błędy, w wyniku czego Urząd Pocztowy twierdził, iż jest im winna coraz więcej pieniędzy z powodu rzekomo niezbilansowanych książek – mimo iż zawinił komputer.

To samo przydarzyło się setkom innych kierowników poczty w Wielkiej Brytanii. System przyszedł bez szkolenia i bez wsparcia.

„Najpierw pomyśl o nas, pomyśl o ludziach, którzy nie mają zielonego pojęcia o technologii i jej używaniu. Byliśmy po prostu małymi sklepikarzami” – powiedział Hamilton.

Nalegała, aby ci, którzy opracowują technologię, „wzięli pod uwagę ludzi, którzy będą z niej korzystać [tech] którzy nie mają kwalifikacji technicznych”.

Zdarzenia takie jak ten i te wspomniane wcześniej będą zdarzać się coraz częściej, jeżeli nie zadba się o to, aby różne zespoły opracowywały sztuczną inteligencję i inne technologie z uwzględnieniem etycznych przypadków użycia.

Ale to z kolei można zapewnić jedynie dzięki współpracy – od nauczycieli po rządy, organizacje i pojedyncze osoby.

Bez wszystkich zaangażowanych w kształtowanie naszej przyszłości w partnerstwie ze sztuczną inteligencją nie każdy dostrzeże korzyści.