Microsoft twierdzi, iż sztuczna inteligencja Windowsa 11 ma być bezpieczna i pewna. Jednocześnie producent przyznaje, iż agenci AI mogą powodować problemy związane ze złośliwym oprogramowaniem.
Po wprowadzeniu eksperymentalnej funkcji agentów Microsoft ostrzegł, iż narzędzia te mogą popełniać błędy. Mogą to być zarówno mniej poważne sytuacje, jak halucynacje – czyli podawanie fałszywych, wymyślonych informacji – jak i bardziej istotne, np. przypadkowa instalacja złośliwego oprogramowania. W mediach społecznościowych narracja wygląda jednak zupełnie inaczej.
Windows 11 ze sztuczną inteligencji jest niebezpieczny… ale bezpieczny
Choć agenci AI w systemie Windows 11 nie są jeszcze dostępni dla wszystkich, Microsoft coraz bardziej przygotowuje użytkowników na przyszłość, w której sztuczna inteligencja będzie wykonywała określone czynności w ich imieniu. Ostatnio choćby firma nieco ulepszyła kwestię prywatności i wprowadziła okno dialogowe, w którym użytkownik może (lub nie) przyznać dostęp agentom do plików przechowywanych w pamięci komputera.
Kolejnym krokiem w stronę próby zachęcenia do korzystania z agentów było opublikowanie postu w serwisie X, na profilu Windows Developer. Treść komunikatu brzmi:
Windows ewoluuje, aby umożliwić użytkownikom łatwe, bezpieczne i pewne korzystanie ze sztucznej inteligencji. System staje się płótnem dla sztucznej inteligencji – wbudowanym w system, układ scalony i sprzęt, dzięki czemu organizacje mogą przejść od eksperymentów do wdrożenia na dużą skalę.
W krótkiej wiadomości Microsoft twierdzi, iż sztuczna inteligencja ma być całkowicie bezpieczna i przede wszystkim pewna. Trochę ironicznie, jeżeli przypomnimy wcześniejsze komunikaty Microsoftu, gdzie gigant sam przyznał, iż narzędzia sztucznej inteligencji w systemie Windows 11, a szczególnie agenci AI, wprowadzają nowe zagrożenia bezpieczeństwa.
Jednym z największych problemów związanych z narzędziami AI jest możliwość instalacji złośliwego systemu na komputer użytkownika. Twórcy wirusów mogą opracować techniki wykorzystujące naiwność agentów sztucznej inteligencji, nakłaniajac ich do wykonania poleceń prowadzących do instalacji wirusów.
Aplikacje agentowej AI wprowadzają nowe zagrożenia bezpieczeństwa, takie jak wstrzykiwanie kodu między monitami (XPIA). Złośliwa zawartość osadzona w elementach interfejsu użytkownika lub dokumentach może nadpisać instrukcje agenta, prowadząc do niezamierzonych działań, takich jak wyciek danych lub instalacja złośliwego systemu – pisze w komunikacie Microsoft.
Niespójność, która nie powinna mieć miejsca
W przekazie Microsoftu widać wyraźną niespójność. W mediach społecznościowych, gdzie dociera do szerokiego grona odbiorców, agenci AI przedstawiani są jako w pełni bezpieczni. Tymczasem na stronie pomocy, mniej popularnym źródle informacji, firma przyznaje, iż agenci mogą stanowić realne zagrożenie.
Gdzie leży prawda? Uważam, iż najbliżej środka. Możliwość manipulacji agentami nie oznacza, iż każdy użytkownik spotka takie problemy. Mimo to nazywanie AI „bezpieczną i pewną” jest dalekie od prawdy, szczególnie iż sztuczna inteligencja ma tendencję do zmyślania i przedstawiania fałszywych informacji.
Więcej o systemie operacyjnym Windows przeczytasz na Spider’s Web:
