Microsoft ma wielkie plany związane z kulturą pracy Windows 11. Jednym z bardziej ekscytujących elementów wydają się być zapowiadane Agenty AI, mające wziąć na siebie część codziennej pracy z komputerem. To innowacja na miarę XXI wieku, ale jak to często bywa – z nowymi technologiami przychodzą nowe wyzwania. Microsoft opublikował oficjalny komunikat, w którym ostrzega przed nową, poważną luką. W skrócie: zaawansowane funkcje AI, mające dostęp do danych, mogą zostać wykorzystane do kradzieży informacji lub instalacji złośliwego oprogramowania.
Agenty AI to nie proste chatboty. Aby mogły być efektywne, muszą działać w systemie z dużą swobodą. Oznacza to, iż mają zwykle szeroki dostęp do plików i uprawnień, działając w imieniu właściciela urządzenia. Ta wysoka pozycja w hierarchii systemu, niezbędna do wykonywania skomplikowanych zadań, czyni je głównym celem dla osób o złych zamiarach. Przejęcie kontroli nad inteligentnym agentem może zapewnić cyberoszustom cenną przewagę.
Oszukiwanie sztucznej inteligencji
W swoim komunikacie Microsoft szczegółowo opisuje mechanizm, umożliwiający hakerom przejęcie istotnych funkcji. W istocie, polega on na tym, iż złośliwa treść – ukryta na przykład w dokumencie lub na stronie internetowej – może wprowadzić Agenty AI w błąd.
To nie jest typowy wirus, ale luka, która wykorzystuje sposób, w jaki sztuczna inteligencja interpretuje informacje. Zamiast realizować swoje normalne zadania, Agent AI może zostać zmuszony do wykonania poleceń narzuconych z zewnątrz. Konsekwencje takich działań mogą być następujące:
- Kradzież danych: Agent może przesłać poufne pliki poza komputer właściciela.
- Instalacja malware’u: Może również wykorzystać swoje uprawnienia do cichego uruchomienia i instalacji złośliwych programów.
Co więcej, Microsoft zwraca uwagę, iż AI generalnie ma sporą tendencję do popełniania nieoczekiwanych błędów. To samo w sobie może skutkować różnego rodzaju problemami, niezależnie od celowego ataku.
Agenty AI w fazie testów – co to oznacza?
Źródło: Ars TechnicaMicrosoft wprowadza Agenty AI w sposób transparentny. Funkcje te mają aktualnie status eksperymentalny. Oznacza to, iż w systemie Windows 11 będą, póki co, domyślnie wyłączone. Producent daje w ten sposób sygnał, iż rozwiązanie jest w fazie testów, a każda osoba, która chce z niego skorzystać, musi manualnie aktywować je w Ustawieniach. To podkreśla, iż decyzja ze strony użytkownika powinna być dobrowolna i w pełni świadoma.
Takie podejście firmy wydaje się być konieczne. w tej chwili nie wiadomo, kiedy Agenty AI w Windows 11 staną się ogólnodostępne. Pierwsze testy zostaną uruchomione, prawdopodobnie, wraz z najbliższą aktualizacją. Na ten moment ryzyko dotyczy więc tylko tych osób, które świadomie się na nie zdecydują. Wspomniana transparentność daje więc Microsoftowi czas na dopracowanie zabezpieczeń.
Warto zauważyć, iż ostatnie kroki giganta z Redmond mają również znaczenie wizerunkowe. Firma wprowadza innowacje, które posiadają jeszcze luki, ale jednocześnie komunikuje to wprost. Dzięki takiej otwartości, Microsoft buduje wrażenie, iż dba o uczciwą relację z użytkownikami, zanim technologia trafi do powszechnego użycia.
Źródło: Microsoft , Kotaku / Zdj. otwierające: Unsplash (@Windows)
