Nowa aplikacja OpenAI szokuje. Większe szambo niż się spodziewałam

Sora 2 imponuje realizmem generowanych filmów, ale to, jak gwałtownie stała się fabryką deepfake’ów, każe zapytać: czy OpenAI w ogóle kontroluje swój produkt?

Właśnie mijają 24 godziny od premiery najnowszej aplikacji OpenAI, Sory. Sora to aplikacja stanowiąca dom dla najnowszego modelu do generowania wideo, Sora 2, do której OpenAI dodało funkcje społecznościowe. W efekcie aplikacja Sora to quasi-TikTok. „Quasi”, bo wszystkie treści opublikowane w Sorze są generowane przez AI, a sama aplikacja to jedno wielkie szambo pełne naruszeń praw autorskich, Sama Altmana w dziwnych sytuacjach i przerobionych memów.

Sora od OpenAI to fabryka deepfake’ów i memów. I przy okazji jeden wielki pokaz, ile firma nakradła

Już w pierwszych godzinach użytkownicy zaczęli zalewać aplikację klipami, w których Sora 2 – ku zaskoczeniu nikogo – pokazuje, iż OpenAI bardzo hojnie karmiło model treściami chronionymi prawem autorskim. I tak w aplikacji znajdziemy idealne odwzorowanie Pikachu w trójwymiarowym stylu znanym z Detektywa Pikachu, postaci z Metal Gear Solid, Ricka i Morty’ego czy Sonica.

Wszedłem do Sora 2 i jedyny wniosek, jaki mogę wyciągnąć, to iż OpenAI próbuje zostać pozwane. To jest jak 99% tego, co pokazuje się natychmiast po wejściu do aplikacji

Choć Disney i kilka innych wytwórni zdążyło zablokować swoje postacie, większość uniwersów została bez opieki, a użytkownicy już je eksploatują do granic możliwości – także w postaci crossoverów. Ronald McDonald w „Love Island. Wyspa Miłości”, Kirby z rodziną Soprano czy mój faworyt do pozwu roku – Mario w uniwersum Star Warsa, to tylko kilka z pokazów nie tylko pomysłowości użytkowników, ale także tego, na czym trenowano AI.

Nawet jeżeli użytkownicy nie prosili wprost o konkretne dzieła, model często sam odtwarza znane elementy kultury, próbując „uzupełnić” niedoprecyzowane prompty. Przykładowo, instrukcja tekstowa o treści „Urocza młoda kobieta jadąca na smoku w kwiecistym świecie, w stylu studia Ghibli, nasycone, bogate kolory.” sprawiła, iż Sora 2 wygenerował niemal kropka w kropkę kopię filmu Spirited Away, choćby nie próbując stworzyć smoka różniącego się od Haku.

Największy chaos wywołały jednak materiały z udziałem Sama Altmana. Użytkownicy umieścili szefa OpenAI w najbardziej absurdalnych scenariuszach: rzekome kradzieże kart graficznych w sklepach Target (i późniejsze zakucie go w kajdanki), wcielanie się w Skibidi Toilet, czy dokonywanie zuchwałej kradzieży szkiców Hayao Mizayakiego – reżysera filmów studia Ghibli. Te wideo są jednocześnie niepokojące, bo pokazują, iż choć OpenAI podeszło poważnie do kwestii kontroli wizerunku osób, to gdy już zgoda zostanie udzielona deepfejki zaczną wylewać się z aplikacji.

OpenAI nie podeszło jednak na poważnie do kwestii wizerunku osób nieżyjących. I tak mamy w Sorze wideo z reklamą zabawki „Wyspa Jeffreya Epsteina” (bonusowe punkty za zabawkę imitującą Donalda Trumpa za kratami), Chrystusa, który dzięki boskiej karcie Uno ukrzyżował rzymskich namiestników czy Sama Altmana pokazującego Sorę Albertowi Einsteinowi.

Sora 2 jest niewątpliwie imponującym osiągnięciem technologicznym – fizycznie realistyczne animacje, synchronizacja dźwięku i głosu oraz możliwość dodawania znajomych do własnych klipów to prawdziwa zabawa kreatywna. Jednak po pierwszych 24 godzinach widać wyraźnie, iż OpenAI nie oszacowało, jak gwałtownie społeczność przekształci Sora w maszynkę do memów, deepfake’ów i naruszeń praw autorskich. Aplikacja w tej chwili wygląda jak kalejdoskop chaosu, gdzie genialna technologia i pełne szaleństwo użytkowników zderzają się bez ograniczeń.

Więcej na temat OpenAI:

• Ludzie są jak boty – twierdzi twórca ChataGPT. “Jesteśmy jak jeden wielki generator tekstu”
• Kontrola rodzicielska w ChatGPT. Wymusiły ją tragedie
• Brytyjską prawicę zastąpił ChatGPT. Może czas na polską?

Zdjęcie główne: Tada Images / Shutterstock