Według twórców, Windows 11 może podawać nieprawdziwe informacje. Microsoft ostrzega przed nowymi funkcjami systemu.
Do Windowsa 11 powoli trafiają funkcje agentów sztucznej inteligencji, które mają wykonywać wiele czynności w imieniu użytkownika. Microsoft jednak sam zastrzega, iż tego typu narzędzia nie gwarantują pełnego bezpieczeństwa ani poprawnego działania.
Windows 11 będzie ci mówił i pisał niestworzone rzeczy
W dokumencie pomocy technicznym Microsoft jasno przyznaje, iż obecna technologia sztucznej inteligencji nie jest idealna. Oznacza to nie tylko potencjalne problemy z wykonywaniem określonych czynności przez agentów AI.
Modele AI przez cały czas napotykają ograniczenia funkcjonalne w zakresie swojego zachowania i czasami mogą generować halucynacje i nieoczekiwane wyniki.
Ślepe poleganie na informacjach pochodzących od sztucznej inteligencji nie jest dobrym pomysłem. AI często działa tak, iż pokazuje nam odpowiedź, którą chcemy zobaczyć, zamiast takiej, którą powinniśmy zobaczyć. W praktyce wiele informacji od AI to kompletne bzdury pozbawione rzetelnego źródła. Modele są trenowane tak, aby nie przyznawały się do niepewności i brzmiały przekonująco.
Agenci sztucznej inteligencji bazują na tych samych rozwiązaniach, które znajdziemy w czatbotach AI. Dlatego prawdopodobieństwo, iż Windows z zaawansowanymi funkcjami AI, które mają wykonywać czynności w systemie za użytkownika, będzie generował dziwne, błędne lub zaskakujące efekty, jest bardzo duże.
Poza tym nowe funkcje sztucznej inteligencji mogą padać ofiarą dedykowanych ataków, które mogą być równoznaczne z instalacją złośliwego systemu lub wyciekiem danych.
Aplikacje agentowej AI wprowadzają nowe zagrożenia bezpieczeństwa, takie jak wstrzykiwanie kodu między monitami (XPIA), gdzie złośliwa zawartość osadzona w elementach interfejsu użytkownika lub dokumentach może nadpisać instrukcje agenta, prowadząc do niezamierzonych działań, takich jak wyciek danych lub instalacja złośliwego oprogramowania.
Microsoft zobowiązuje się do wprowadzenia mechanizmów kontroli bezpieczeństwa, ale i tak tworzy poligon doświadczalny
Agenci sztucznej inteligencji mają działać na osobnych kontach i w odizolowanych sesjach, z ściśle określonymi uprawnieniami. Ich działania będą również rejestrowane do wglądu. Niestety, AI przez cały czas otrzyma dostęp do ważnych folderów użytkownika: Pobrane, Pulpit, Zdjęcia, Muzyka i wielu innych. Microsoft zapewnia jednak, iż „zobowiązuje się do wdrożenia solidnych mechanizmów kontroli bezpieczeństwa i prywatności”.
Sytuacja pokazuje, iż Microsoft jest świadom ryzyka, jakie niosą nowe funkcje – i iż mogą one działać na niekorzyść użytkownika. Firma zaleca więc korzystanie z nich z rozwagą. Mimo to gigant nie zamierza rezygnować i dalej zmienia Windowsa 11 w poligon doświadczalny dla sztucznej inteligencji. choćby jeżeli użytkownicy są już zmęczeni Copilotami i innymi funkcjami, o które nikt nie prosił, Microsoft nie odpuszcza.
Więcej o Microsofcie przeczytasz na Spider’s Web:
