Stwórz własnego chatbota w 5 minut! Lokalna instalacja modeli językowych na Linuksie i Windowsie. Poradnik krok po kroku

purepc.pl 1 miesiąc temu
Usługi związane ze sztuczną inteligencją cały czas się rozwijają, a prym wśród nich wiodą chatboty, które są oparte na dużych modelach językowych (LLM). Najbardziej znanym jest oczywiście ten od firmy OpenAI, czyli ChatGPT, gdyż to on zapoczątkował całą rewolucję. Jednak chatboty mają wspólną cechę, która wiele osób skłania do tego, aby z nich nie korzystać - jest nią fakt, iż wszystkie dane są przetwarzane w chmurze, więc nasze konwersacje z modelami językowymi nie są prywatne. Ba, służą one choćby za informacje, na których modele mogą się później dalej szkolić. Jedynym słusznym rozwiązaniem w takiej sytuacji jest uruchomienie modelu językowego lokalnie na naszym komputerze. Dzięki temu mamy pewność, iż żadne informacje z naszych rozmów z chatbotami nie zostaną wysłane w świat. Aktualnie taki proces jest naprawdę banalnie prosty, ponieważ wystarczy kilka kliknięć i jedno polecenie, aby zacząć prywatną konwersację z wybranym LLM.
Idź do oryginalnego materiału