Badania firmy analitycznej Gartner wykazały, iż 30% generatywna sztuczna inteligencja Oczekuje się, iż projekty GenAI zostaną porzucone po fazie dowodu koncepcji do końca 2025 r., głównie z powodu takich wyzwań, jak niska jakość danych, rosnące koszty i niejasna wartość biznesowa.
Gartner odkrył, iż wcześni użytkownicy w różnych branżach i procesach biznesowych zgłaszają szereg usprawnień biznesowych, które różnią się w zależności od przypadku użycia, rodzaju pracy i poziomu umiejętności pracownika. Według badania respondenci zgłosili średnio 15,8% wzrostu przychodów, 15,2% oszczędności kosztów i 22,6% poprawy produktywności.
Przyglądając się generowaniu wartości z AI, Eyad Tachwali, starszy dyrektor w Gartner, powiedział: „Jeśli chodzi o to, jak myśleć o wartości, którą można wygenerować dzięki generatywnej AI, pierwszą rzeczą, którą musimy zrobić, jest rozpakowanie różnych sposobów, w jakie możemy używać AI. Jedną z części jest to, co nazywamy codzienną AI, co zasadniczo polega na używaniu AI, aby pomóc Ci wykonywać istniejące zadania lepiej, szybciej, taniej, a czasem w lepszej jakości”.
Stwierdził, iż wartość codziennej sztucznej inteligencji mierzy się wzrostem produktywności.
https://www.youtube.com/embed/https://youtu.be/bZDrEmLYT4Q
Innym typem AI, który Gartner widzi, jest to, co nazywa zmieniającą zasady gry AI. „To tutaj używasz AI, aby tworzyć zupełnie nowe rzeczy” — powiedział Tachwali. „Więc jeżeli codzienna AI koncentruje się na produktywności, zmieniająca zasady gry AI koncentruje się na kreatywności”.
Przykładem może być sytuacja, gdy firma farmaceutyczna wykorzystuje sztuczną inteligencję do odkrycia nowej cząsteczki, która może posłużyć do opracowania leku.
W przypadku aplikacji GenAI, jak powiedział, liderzy IT muszą brać pod uwagę wiele czynników, określenie kosztów inwestycji, które muszą poczynić. „Istnieje wiele zmiennych”, powiedział Tachwali. „To zależy od przypadków użycia. To zależy od branży. To zależy od apetytu organizacji na ryzyko”.
Zazwyczaj organizacje mogą szukać szybkich wygranych, korzystając z gotowych produktów, takich jak ChatGPT lub Microsoft Copilot. Powiedział, iż w przypadku takich produktów kalkulacje kosztów są stosunkowo proste, ponieważ opierają się na liczbie użytkowników i koszcie licencji oprogramowania.
Jednak w przypadku inicjatyw zmieniających zasady gry w zakresie sztucznej inteligencji koszty są wyższe trudno obliczyć„Masz możliwości zapewniane przez dostawców, którzy są szkoleni na publicznych danych, ale używasz również danych swojej własnej organizacji. Masz dodatkowy koszt: koszty infrastruktury IT; koszt danych; koszty rozwoju aplikacji”.
Istnieją również elementy kosztów mnożnikowych, które według Tachwali mogą zwiększyć koszty operacyjne. Na przykład, oprócz kosztów licencji na użytkownika, często stosuje się cennik oparty na tokenach, aby umożliwić decydentom IT poprawę dokładności odpowiedzi generowanych przez generatywny model AI.
Tokeny to słowa lub części słów, które można wprowadzić do dużego modelu językowego jako dane wejściowe. „Mogą one naprawdę zwiększyć koszty od pięciu do dziesięciu razy” — powiedział. „Stają się bardzo zmienne i bardzo trudno je przewidzieć”.
Gartner zaleca liderom IT, aby próbowali symulować dolne i górne granice wykorzystania dużego modelu językowego, aby uzyskać lepsze pojęcie potencjalnych kosztów. Następnie można użyć tej liczby, aby utrzymać wykorzystanie w granicach progowych, aby zapewnić, iż koszty uruchomienia modelu nie przekraczać potencjalnej wartości, jaką może dostarczyć.
