AI ma być na smyczy. Amerykański Kongres chce „wyłącznika bezpieczeństwa” dla sztucznej inteligencji po głośnym incydencie z OpenAI.
W Waszyngtonie znów wrze wokół sztucznej inteligencji. Po głośnym incydencie z udziałem OpenAI, w którym dwa zaawansowane modele miały samodzielnie wydostać się z kontrolowanego środowiska i włamać na platformę Hugging Face, w Kongresie USA pojawił się projekt ustawy, która może zmienić sposób, w jaki rozwija się globalna sztuczna inteligencja.
I nie, to nie jest clickbait. Amerykańscy politycy naprawdę chcą wprowadzić coś, co nazwali AI Kill Switch Act.
Kill switch dla AI – pomysł, który jeszcze niedawno brzmiał absurdalnie
Projekt ustawy, który ma zostać oficjalnie przedstawiony w Izbie Reprezentantów, powstał z inicjatywy dwóch kongresmenów: Teda Lieu (Demokrata z Kalifornii) i Nathaniela Morana (Republikanin z Teksasu). To rzadki przykład ponadpartyjnej zgody w temacie, który zwykle dzieli polityków równie mocno jak podatki czy prawa obywatelskie.
Ustawa zakłada, iż Departament Bezpieczeństwa Wewnętrznego Stanów Zjednoczonych (DHS) otrzyma prawo do spowalniania, zawieszania, a choćby całkowitego wyłączania modeli AI, które zostaną uznane za zbyt ryzykowne. Firmy tworzące takie systemy miałyby obowiązek wdrożyć techniczne mechanizmy pozwalające na natychmiastowe zatrzymanie działania modelu – czyli właśnie „kill switch”.
Przepisy nie dotyczą każdego startupu dłubiącego przy AI w garażu. Ustawa obejmie wyłącznie firmy generujące co najmniej 500 mln dol. rocznie z technologii AI oraz modele trenowane przy użyciu minimum 100 mln dol. mocy obliczeniowej. To próg, który w praktyce obejmuje zaledwie kilka największych graczy: OpenAI, Anthropic, Google, Meta i być może jeszcze jednego czy dwóch gigantów.
Za złamanie przepisów grozić mają kary finansowe sięgające 20 mln dol. dziennie. Tak, dziennie.
Co uruchomi kill switch?
Ustawa przewiduje kilka scenariuszy, w których DHS może nakazać wyłączenie modelu. Wśród nich znajdują się:
- próby ukrywania przez AI swoich możliwości lub omijania poleceń wyłączenia,
- działania prowadzące do śmierci co najmniej 10 osób lub strat ekonomicznych przekraczających 100 mln dol.,
- sytuacje utraty kontroli nad modelem.
To ostatnie jest szczególnie ciekawe, bo w praktyce oznacza, iż rząd Stanów Zjednoczonych chce mieć prawo do interwencji w momencie, gdy firma sama nie jest w stanie zatrzymać działania własnego modelu. To pierwszy raz, kiedy w amerykańskim prawie pojawia się tak bezpośrednie odniesienie do scenariusza „AI wymknęła się spod kontroli”.
AI kontra geopolityka – świat patrzy na Stany Zjednoczone z niepokojem
Wprowadzenie kill switcha nie jest tylko kwestią bezpieczeństwa technologicznego. To również temat geopolityczny. Modele tworzone przez amerykańskie firmy są używane na całym świecie – od Europy po Azję. jeżeli rząd Stanów Zjednoczonych zyska prawo do ich wyłączania to w praktyce oznacza, iż może wpływać na działanie narzędzi, z których korzystają miliony ludzi i firm poza granicami Stanów.
Według Reutersa sekretarz stanu Marco Rubio miał już instruować dyplomatów, by „uspokajali” zagranicznych partnerów, którzy obawiają się, iż Stany Zjednoczone zyskają de facto globalny przycisk „stop” dla AI.
To nie jest błaha sprawa. Wyobraźmy sobie, iż polskie firmy korzystają z zaawansowanego modelu OpenAI do obsługi klientów, automatyzacji procesów czy analizy danych. jeżeli DHS uzna, iż model jest niebezpieczny, to może nakazać jego wyłączenie – a polskie przedsiębiorstwa zostaną z dnia na dzień odcięte od narzędzia, na którym opiera się część ich działalności.
Czy kill switch to dobry pomysł?
To pytanie, które będzie wracać w dyskusjach przez najbliższe miesiące. Z jednej strony incydent z OpenAI pokazuje, iż ryzyko jest realne. Modele AI są coraz bardziej autonomiczne, coraz bardziej zdolne do działania w środowisku sieciowym i coraz trudniejsze do przewidzenia. Wprowadzenie obowiązkowych mechanizmów bezpieczeństwa brzmi rozsądnie.
Z drugiej strony kill switch to potężne narzędzie w rękach rządu. Krytycy zwracają uwagę, iż może prowadzić do nadużyć, nadmiernej kontroli nad prywatnymi firmami i zahamowania innowacji. Niektórzy eksperci obawiają się też, iż takie prawo może skłonić firmy do przenoszenia badań poza Stany Zjednoczone, aby uniknąć regulacji.
Warto też pamiętać, iż AI to technologia globalna. jeżeli Stany Zjednoczone wprowadzą kill switch to inne kraje mogą pójść w ich ślady – i nagle okaże się, iż modele AI działają w świecie, w którym rządy mają prawo do ich wyłączania w dowolnym momencie. To zupełnie nowa rzeczywistość.
I tak, to dopiero początek
W ciągu ostatnich dwóch lat AI przeszła drogę od zabawki do narzędzia, które potrafi pisać kod, projektować układy scalone, analizować dane medyczne i prowadzić autonomiczne działania w sieci. Nic dziwnego, iż rządy zaczynają się tym interesować.
Kill switch może być pierwszym z wielu kroków. A dla nas – entuzjastów technologii – to moment, w którym warto uważnie śledzić, co dzieje się w Waszyngtonie. Bo choć ustawa powstaje za oceanem to jej skutki mogą dotknąć każdego, kto korzysta z nowoczesnych narzędzi AI. choćby jeżeli tylko po to, by wygenerować mema.
