Liderzy coraz częściej uwzględniają role agentów AI w strukturze organizacyjnej, ustalając cele wydajnościowe, a choćby nadając im nazwy. Można by pomyśleć, iż to symboliczna decyzja. Może ona jednak mieć znaczący wpływ na to, jak starannie menedżerowie monitorują pracę AI i przypisują jej odpowiedzialność.
Zespół badawczy z Uniwersytetu Bostońskiego i firmy konsultingowej BCG przeprowadził ankietę wśród 1261 dyrektorów w USA, Kanadzie i UE. 31% z nich stwierdziło, iż sztuczna inteligencja jest już postrzegana w ich firmie jako „członek zespołu” lub „pracownik”. 23% stwierdziło, iż agenci AI zostali uwzględnieni w strukturze organizacyjnej i otrzymali oficjalne role. Podczas gdy agenci AI traktowani są jak członkowie zespołu, menedżerowie mniej dokładnie analizują ich wyniki.
Jak to podejście wpływa na zachowanie menedżerów? Aby się tego dowiedzieć, naukowcy przeprowadzili eksperyment, prosząc 813 uczestników o przejrzenie dokumentów, w których celowo zawarli błędy. Uczestnicy mieli 20 minut na przejrzenie jak największej liczby dokumentów, zaznaczenie błędów i eskalację poważnych problemów na wyższy poziom.
W rzeczywistości takie ujęcie miało niewielki wpływ na zachowanie menedżerów – z wyjątkiem tych, których pracodawcy zintegrowali agentów AI ze schematem organizacyjnym. jeżeli uczestnicy badania uważali, iż autor jest doświadczonym pracownikiem AI, a nie tylko narzędziem AI, ich pewność siebie malała. Wykrywali o 18% mniej błędów i byli o 22% bardziej skłonni do eskalacji problemów. Dotyczyło to również sytuacji, gdy niepotrzebna dodatkowa ocena ze strony przełożonych miała dla nich negatywne konsekwencje.
Zespół badawczy pisze, iż tam, gdzie agenci AI są traktowani jak członkowie zespołu, menedżerowie zdają się mniej uważnie analizować sytuację. Bardziej polegają na innych i częściej obwiniają AI, gdy coś pójdzie nie tak. „Nasze odkrycia sugerują, iż agenci AI powinni być traktowani tak, jak są: oprogramowaniem. Aby zminimalizować ryzyko, ludzie muszą przez cały czas brać na siebie odpowiedzialność”.
