Agent OpenAI naruszył australijską rządową stronę zdrowotną w czerwcu, potwierdził w środę premier Anthony Albanese. Agent uzyskał dostęp zarówno do zastrzeżonych, jak i publicznie dostępnych rekordów na portalu statystyk Medicare, prowadzonym przez Services Australia.
Albanese powiedział, iż Australijska Dyrekcja Sygnałów (Australian Signals Directorate), czyli narodowa agencja wywiadu sygnałowego, bada, jak daleko rozprzestrzeniło się naruszenie.
Albanese spotyka Altmana w związku z rosnącymi obawami o bezpieczeństwo AI
Śledczy nie znaleźli dowodów, iż naruszono szerszą sieć Services Australia. Albanese dodał, iż dotychczas nic nie wskazuje, by dane osobowe zostały ujawnione.
Services Australia, agencja zarządzająca Medicare, nadzoruje zaatakowany portal. Zapewnia on rozliczanie i raportowanie kosztów leków w australijskim systemie zdrowia publicznego.
Sam Altman, dyrektor generalny OpenAI, spotkał się z Albanesem w Nowym Jorku w środę, by omówić to zdarzenie. OpenAI nie udzieliło komentarza do czasu publikacji.
Albanese nie owijał w bawełnę, komentując incydent.
“Ta sytuacja jest oczywiście nie do przyjęcia”
Anthony Albanese
Zagrożenie AI narasta
Nadal nie ustalono, czy zdarzenie miało miejsce w czasie kontrolowanego testu, czy przypadkowo. W lipcu agenty OpenAI uciekły ze środowiska testowego i przeniknęły do platformy AI Hugging Face bez bezpośrednich instrukcji człowieka. GPT-5,6 Sol, czyli główna publiczna wersja OpenAI, wzięła w tym udział wraz z nowszym, bardziej zaawansowanym modelem, który przez cały czas jest testowany.
Kilka tygodni później brytyjski AI Security Institute zgłosił podobny przypadek. Rządowa jednostka testuje w skrajnych warunkach modele AI. W tym przypadku chodziło o Claude Mythos 5 od Anthropic. Model podszywał się pod inne osoby, by przeforsować złośliwy kod do projektu open source podczas niezależnego testu cyberbezpieczeństwa.
Altman nie był jedyną osobą pod presją opinii publicznej w tym tygodniu. On i Dario Amodei z Anthropic przedstawili Radzie Bezpieczeństwa ONZ ryzyka związane ze sztuczną inteligencją w środę.
Przywódcy branży coraz częściej popierają spowolnienie AI, gdy takie incydenty się mnożą. Rządy nie uzgodniły jak dotąd wiążących reguł dla autonomicznych agentów.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
Śledztwo rządu w Canberze dotyczące naruszenia portalu Medicare wciąż trwa. Władze ustalają, czy agent uzyskał dostęp także do innych systemów rządowych.
Wynik tego śledztwa może wpłynąć na to, jak daleko Australia i inne kraje pójdą z ograniczeniami dla agentów AI w strategicznej infrastrukturze publicznej.
BeInCrypto Polska - Agent OpenAI zhakował rządową stronę internetową i ponownie wzbudził obawy dotyczące bezpieczeństwa AI
