Nowy raport “Data and AI Impact Report: The Trust Imperative”, przygotowany przez IDC na zlecenie firmy SAS, ujawnia niepokojący paradoks na rynku sztucznej inteligencji. Mimo iż zaufanie do generatywnej AI jest rekordowo wysokie, to w parze z nim nie idą inwestycje w budowę faktycznie wiarygodnych i bezpiecznych systemów. Ta rozbieżność, nazwana przez badaczy “dylematem zaufania”, dotyka blisko połowy firm na świecie i ogranicza ich zdolność do osiągania realnych korzyści z AI.
Zgodnie z badaniem, aż 81% firm korzysta już z generatywnej AI, która cieszy się znacznie większym zaufaniem (48% wskazań) niż tradycyjne modele sztucznej inteligencji (18%). Problem w tym, iż to zaufanie jest często bezpodstawne. Zaledwie 40% organizacji aktywnie inwestuje w mechanizmy, które czynią AI godną zaufania, takie jak odpowiednie zarządzanie, transparentność i zabezpieczenia etyczne. Oznacza to, iż choć 78% liderów deklaruje pełne zaufanie do AI, większość z nich opiera je na percepcji, a nie na weryfikowalnych podstawach. Jak wskazuje Kathy Lange, Research Director w IDC, “rozwiązania AI o charakterze interaktywnym i zbliżone do ludzkiej komunikacji zyskują najwyższy poziom zaufania, mimo iż ich skuteczność i przewidywalność pozostają ograniczone”.
Ta rozbieżność między deklarowanym zaufaniem a rzeczywistą wiarygodnością systemów ma wymierne konsekwencje finansowe. Badanie dowodzi, iż organizacje, które priorytetowo traktują odpowiedzialne wdrażanie AI, mają o 60% większe szanse na co najmniej podwojenie zwrotu z inwestycji (ROI). Tymczasem wdrażanie procesów zapewniających wiarygodność sztucznej inteligencji jest traktowane marginalnie – zaledwie 2% respondentów wskazało opracowanie ram zarządzania AI jako jeden z trzech głównych priorytetów strategicznych. W efekcie niemal połowa firm na świecie (46%) tkwi w “dylemacie zaufania”, przez co nie wykorzystuje w pełni potencjału swoich inwestycji.
Raport identyfikuje również trzy główne bariery, które spowalniają rozwój dojrzałych i wiarygodnych systemów AI. Prawie połowa organizacji (49%) wskazuje na brak scentralizowanych fundamentów danych lub nieoptymalne środowiska chmurowe jako główną przeszkodę. Na kolejnych miejscach znalazły się niewystarczające procesy zarządzania danymi (44%) oraz niedobór wykwalifikowanych specjalistów (41%). Jak podsumowuje Bryan Harris, Chief Technology Officer w SAS, “dla dobra społeczeństwa, biznesu i pracowników, zaufanie do AI jest absolutnie kluczowe. Aby je osiągnąć, branża musi zwiększyć skuteczność wdrożeń, a ludzie powinni krytycznie oceniać wyniki generowane przez AI”.
