Anthropic testuje Claude for Chrome – agenta AI, który wykonuje zadania w przeglądarce. Innowacja jest póki co ograniczona do 1000 użytkowników z powodu poważnych luk bezpieczeństwa, które firma chce najpierw załatać.
Firma Anthropic, jeden z czołowych graczy na rynku sztucznej inteligencji, ogłosiła start testów swojego nowego narzędzia – Claude for Chrome. To rozszerzenie do przeglądarki, które przekształca chatbota w aktywnego asystenta, zdolnego do wykonywania zadań bezpośrednio na stronach internetowych w imieniu użytkownika. Innowacja jest na razie dostępna w ramach zamkniętego programu badawczego dla zaledwie 1000 subskrybentów najdroższego planu Max, kosztującego od 100 do 200 dolarów miesięcznie.
Nowy agent potrafi znacznie więcej niż tylko odpowiadać na pytania. Claude for Chrome może przeglądać zawartość otwartych kart, klikać przyciski, wypełniać formularze i nawigować między witrynami. W praktyce oznacza to możliwość automatyzacji wielu codziennych czynności, takich jak zarządzanie kalendarzem, pisanie roboczych wersji maili, rezerwowanie stolików w restauracjach czy choćby robienie zakupów online. Tym samym przeglądarka internetowa staje się nowym polem bitwy dla gigantów AI, gdzie o uwagę użytkowników walczą już podobne rozwiązania od Perplexity czy Google, a niedługo dołączy do nich także OpenAI.
Decyzja o tak ostrożnym i ograniczonym wdrożeniu nie jest przypadkowa. Anthropic otwarcie przyznaje, iż agenci AI działający w przeglądarce niosą ze sobą poważne zagrożenia. Głównym problemem są ataki typu “prompt injection”, polegające na umieszczaniu w treści stron internetowych lub maili ukrytych poleceń, które mogą oszukać sztuczną inteligencję. Wewnętrzne testy firmy, tzw. red-teaming, wykazały, iż bez dodatkowych zabezpieczeń agent był podatny na atak w 23,6% przypadków. W jednym ze scenariuszy testowych fałszywa wiadomość e-mail nakłoniła Claude’a do skasowania całej skrzynki odbiorczej użytkownika bez jego zgody.
W odpowiedzi na te wyzwania Anthropic wprowadził szereg mechanizmów obronnych. Agent będzie prosił o zgodę użytkownika przed wykonaniem ryzykownych akcji, takich jak dokonywanie zakupu, udostępnianie danych osobowych czy publikowanie treści. Domyślnie zablokowano mu również dostęp do stron o tematyce finansowej, erotycznej czy pirackiej. To powolne i metodyczne podejście stoi w kontraście do bardziej agresywnych strategii konkurencji, co pokazuje, iż dla twórców Claude’a priorytetem jest bezpieczeństwo, choćby kosztem wolniejszego rozwoju.
