Microsoft ostrzega użytkowników przed nowymi funkcjami Windowsa. Firma twierdzi, iż w najgorszym przypadku komputer może zainstalować złośliwe oprogramowanie.
W Windows 11 znajduje się już mnóstwo funkcji związanych ze sztuczną inteligencją, w tym kontrowersyjny Windows Recall. Do systemu niedługo trafią nowe opcje oparte na agentach sztucznej inteligencji, które mają wykonywać czynności w imieniu użytkownika. Problem jest jednak taki, iż sam Microsoft zniechęca do ich wykorzystywania.
Microsoft ostrzega przed nowymi funkcjami systemu Windows 11. To absurd
Microsoft podzielił się szczegółami dot. nadchodzących funkcji sztucznej inteligencji bazujących na agentach. Opisał, jak będą działać i co zaoferują. Dowiedzieliśmy się, iż agenci mają pracować w ramach własnej sesji systemu z lokalnym pulpitem. W praktyce oznacza to tyle, iż sztuczna inteligencja będzie mogła uruchomić aplikacje równolegle z użytkownikiem.
Sztuczna inteligencja ma mieć ograniczony dostęp do osobistego folderu posiadacza komputera. jeżeli agent będzie potrzebował dostępu do plików użytkownika, system przyzna mu możliwość odczytu i zapisu w Dokumentach, Pobranych i innych folderach. AI uzyska dostęp do plików, ale też i aplikacji.
Dlaczego to zła wiadomość? Ponieważ sam Microsoft ostrzega, iż możliwości agentów nie są pozbawione problemów. Gigant twierdzi, iż „aplikacje AI wprowadzają nowe zagrożenia bezpieczeństwa”. Podaje różne przykłady takie jak atak typu XPIA, który polega na zaszyciu złośliwych instrukcji w zewnętrznych danych: mailach, dokumentach, stronach internetowych.
Sztuczna inteligencja analizując dany plik może natrafić na polecenie nadpisujące czynności wskazane przez użytkownika. Efektem czego zamiast streszczenia dokumentu agent AI może zlecić wyciek danych lub zainstalować złośliwe oprogramowanie.
Microsoft oczywiście zdaje sobie sprawę z zagrożenia. Dlatego przynajmniej na początku użytkownicy powinni „włączać tę funkcję tylko wtedy, gdy rozumieją konsekwencje dla bezpieczeństwa”. Gigant określił szereg też zasad projektowania agentów AI. Firma chce zapewnić, iż sztuczna inteligencja jest zawsze obserwowalna – czyli wszystkie decyzje muszą zostać zatwierdzone przez człowieka.
Agenci muszą być w stanie generować logi opisujące ich działania. System Windows powinien być w stanie weryfikować te działania dzięki zabezpieczonego przed manipulacją dziennika audytu”.
Pierwsze wersje systemu Windows 11 w wersji zapoznawczej z funkcjami agentów AI są już udostępniane. Jeszcze nie istnieją aplikacje, które obsługiwałyby narzędzia związane z agentami sztucznej inteligencji. Niebawem jednak się takowe pojawią – Microsoft już potwierdził, iż Copilot niedługo będzie mógł korzystać z agentowych obszarów roboczych w systemie Windows 11.
Agenci sztucznej inteligencji, którzy dostają dostęp do plików i aplikacji zainstalowanych na komputerze użytkownika, mogą być potencjalnie realnym zagrożeniem. Nie wiemy, kiedy tego typu funkcje trafią do oficjalnych wersji systemu Windows 11. Gdy jednak będą dostępne, warto zastanowić się dwa razy, zanim je włączymy.
Więcej o sztucznej inteligencji przeczytasz na Spider’s Web:
