Coraz więcej osób na co dzień korzysta z usług, które oferuje sztuczna inteligencja. Chodzi nie tylko o szybkie przerobienie zdjęć czy podanie pomysłu, co zrobić na obiad, ale także o takie rzeczy, jak znalezienie numeru telefonu jakiejś firmy czy uzyskanie odpowiedzi na inne proste pytania, których zwykle musieliśmy głębiej szukać w zakątkach internetu. Okazuje się jednak, iż przez przypadek można się naciąć. Jakiś czas temu na swoim przykładzie ostrzegł przed tym Alex Rivlin, właściciel firmy zajmującej się nieruchomościami w Las Vegas.
REKLAMA
Odpowiedź wygenerowana przez AI Google zaznaczona w czerwonym kwadracie.screen Google
Zobacz wideo Wielkie korporacje chciały przemycić ustawę pozwalającą im szpiegować ludzi dzięki AI
Szukał numeru do firmy wycieczkowej. "Dałem się nabrać"
Alex szukał numeru telefonu do konsultanta firmy wycieczkowej Royal Caribbean, ponieważ akurat planował wakacje w Europie i chciał zarezerwować transport na statek wycieczkowy. W tym celu wpisał odpowiednie zapytanie w wyszukiwarce Google i na górze od razu pokazała mu się odpowiedź wygenerowana przez AI Overview. Choć na końcu zawsze jest dopisek "Odpowiedzi wygenerowane przez AI mogą zawierać błędy", to rzeczywistość pokazuje, iż odpowiedziami sztucznej inteligencji sugeruje się już wielu użytkowników. Alex Rivlin zadzwonił pod numer telefonu podany przez sztuczną inteligencję, wcześniej go nie weryfikując. Wszystko wydawało się w porządku... do czasu.
Rozmowa wyglądała tak, jakby rzeczywiście była przeprowadzana z konsultantem firmy. Osoba ta znała szczegóły dotyczące kosztów wycieczek i miejsc odbioru klientów, a choćby zaproponowała zniżkę, więc Alex postanowił dokonać opłaty w wysokości 768 dolarów. Jedyne co początkowo wzbudziło jego podejrzenia, to nieznana nazwa firmy, która pojawiła się na obciążeniu karty kredytowej. Jednak już kolejnego dnia karta zaczęła być obciążana transakcjami, na które się nie godził, a mężczyzna, który podawał się za konsultanta, okazał się oszustem. - Jestem dość zaawansowany technologicznie, a jednak dałem się nabrać - wyznał Rivlin.
Jak doszło do oszustwa? "Strzelanie do łatwych celów"
Na portalu ca.news.yahoo.com wyjaśniono, w jaki sposób mogło dojść do oszustwa. Okazuje się, iż prawdopodobnie przestępcy podawali wcześniej ów numer telefonu na różnych forach internetowych. jeżeli pojawiał się często, algorytm Google mógł uznać, iż jest prawdziwy i zasugerował go użytkownikowi. - Manipulowanie nowymi narzędziami, jakimi jest sztuczna inteligencja, z wykorzystaniem technik sprzed 30 lat (jak fałszywe ogłoszenia na forum) to jak strzelanie do łatwych celów - wyjaśnił Mike Blumenthal, analityk w Near Media.
Jak podaje portal, rzecznik Google przekazał w oświadczeniu, iż firma "podjęła działania" w związku z tą i podobnymi sytuacjami oraz pracuje nad usprawnieniami, które pomogą zweryfikować podobne oszustwa w przyszłości. Jak najczęściej korzystasz ze sztucznej inteligencji? Zapraszamy do udziału w sondzie oraz do komentowania.
Zachęcamy do zaobserwowania nas w Wiadomościach Google.
