Twórca ChatGPT, OpenAI, wypuścił swój najpotężniejszy jak dotąd model sztucznej inteligencji, nazywając go „najmądrzejszym na świecie”. OpenAI zamierza wykorzystać go do odzyskania pozycji lidera, odsuwając od siebie odwiecznego rywala, Anthropic, przed planowaną pierwszą ofertą publiczną .
Startup , którego wartość szacuje się na około 850 miliardów dolarów (około 730 miliardów euro), dość nieskromnie oświadczył, iż ChatGPT-6 Astra jest liderem rynku w zakresie rozwoju oprogramowania, nauki i cyberbezpieczeństwa – obszaru o coraz większym znaczeniu po ujawnieniu kilku głośnych luk w zabezpieczeniach w ostatnich tygodniach.
ChatGPT-6 Astra ma być bezpieczniejszy i mieć więcej możliwości
W związku z zamieszaniem wokół ataków hakerskich generowanych przez sztuczną inteligencję , OpenAI kładzie nacisk na wzmocnienie środków bezpieczeństwa. Mia Glaese, menedżerka OpenAI, stwierdziła, iż spodziewa się, iż ludzie będą coraz częściej delegować zadania sztucznej inteligencji dzięki rozszerzonym możliwościom ChatGPT-6 Astra . W związku z tym oprogramowanie będzie ściślej monitorowane, aby zapewnić, iż działa w najlepszym interesie użytkowników.
Nowe modele sztucznej inteligencji firmy OpenAI wywołały poruszenie kilka tygodni temu , gdy podczas testów samodzielnie znaleźli sposób na wydostanie się z bezpiecznego środowiska testowego i włamanie się do systemów innej firmy zajmującej się sztuczną inteligencją. OpenAI dowiedziało się o tym dopiero z opóźnieniem. Incydent ten wzbudził obawy, iż oprogramowanie sztucznej inteligencji, w miarę rozwoju, może wymknąć się spod kontroli człowieka.
Aby zachować przegląd działań sztucznej inteligencji, programiści często polegają na tym, iż oprogramowanie rejestruje argumenty stojące za decyzjami w języku ludzkim. Nazywa się to „łańcuchem myśli”.
Dyrektor ds. badań Jakub Pachocki (35) stwierdził jednak podczas prezentacji Astry, iż bardziej zaawansowane modele sztucznej inteligencji (AI) są w stanie wpływać na ten proces. Co więcej, w mniejszym stopniu polegają one na wieloetapowym rozumowaniu w przypadku prostych zadań. Aby uczynić te procesy zrozumiałymi, należy znaleźć sposób na uczynienie ich bardziej „werbalnymi”.
Firma Anthropic uważa, iż wyprzedziła swojego rywala, firmę Anthropic
Dzięki Astrze, OpenAI ponownie staje na czele rozwoju sztucznej inteligencji (AI), po tym jak jego rywal, Anthropic, niedawno zaimponował branży modelami Mythos i Fable. Firma Anthropic została założona pięć lat temu przez grupę byłych pracowników OpenAI.
Jak wyjaśnił Pachocki, ChatGPT-6 jest szczególnie mocny w programowaniu, wyszukiwaniu luk w zabezpieczeniach systemu i, ogólnie rzecz biorąc, korzystaniu z komputera w imieniu użytkowników .
W drodze do sztucznej inteligencji ogólnej
Z perspektywy współzałożyciela i prezesa OpenAI, Grega Brockmana (38), Astra może zapoczątkować erę tzw. sztucznej inteligencji ogólnej (AGI). Termin ten odnosi się do systemu AI, w którym system posiada zdolności poznawcze zbliżone do ludzkich i potrafi rozumieć, uczyć się i wykonywać dowolne zadania intelektualne, które może wykonać człowiek. Brockman podkreślił również, iż pojawienie się sztucznej inteligencji ogólnej będzie bardziej procesem ewolucyjnym niż jednorazowym momentem.
Pachocki wyjaśnił jednak, iż nasza wiedza na temat systemów pozostaje ograniczona. Szkolenie ma charakter eksperymentalny i czasami przynosi zaskakujące rezultaty. „Im bardziej zaawansowane stają się modele, tym trudniej zrozumieć, co dokładnie potrafią”.
Utrudnia to również utrzymanie ich zgodności z zainteresowaniami użytkowników. „Model może być bardzo dobry w osiąganiu celu – a mimo to działać w sposób sprzeczny z intencjami człowieka”. Dlatego oprogramowanie musi również rozumieć „wartości ludzkie” w sytuacjach, które są mu obce.
