Chatboty oparte na dużych modelach sztucznej inteligencji zmieniają naszą rzeczywistość, a dzięki narzędziu NVIDIA ChatRTX sami możemy być częścią tego procesu.
ChatRTX to aplikacja, która pozwala spersonalizować duży model językowy GPT (LLM) i połączyć go z prywatnymi treściami użytkownika – dokumentami, notatkami lub innymi danymi. W praktyce oznacza to, iż zadając pytania tak skonstruowanemu, niemal osobistemu, chatbotowi, otrzymujemy odpowiedzi idealnie pasujące do kontekstu i naszych wymagań – a co najważniejsze, kompletnie za darmo.
Jeśli ktoś martwi się o cenzurowanie AI, być może znalazł odpowiedź
Wielką zaletą aplikacji, a jednocześnie jej największą wadą, jest fakt działania na naszym własnym komputerze. Sprawia to, iż użyte dane są zabezpieczone przed chociażby wyciekiem, jaki może dotknąć plików trzymanych w chmurze. Minusem jest fakt, iż jednak do obsługi musimy posiadać maszynę nieco mocniejszą niż biurowy laptop. Chociaż wymagania nie są wcale specjalnie wygórowane:
- Karta graficzna: NVIDIA GeForce RTX z serii 30 lub 40 z co najmniej 8 GB pamięci VRAM
- Pamięć RAM: 16 GB
- Miejsce na dysku: 35 GB
- Sterownik graficzny: 535.11 lub nowszy
- System operacyjny : Windows 11
Usługa jest cały czas rozwijana, a w tej chwili mamy do czynienia z wersją demo. Zieloni dbają jednak o wprowadzanie nowych funkcjonalności, ostatnio dodano między innymi:
- Nowe modele językowe – Gemma od Google oraz ChatGLM3 (otwarty model dostępny w języku angielskim i chińskim)
- Contrastive Language-Image Pre-training (CLIP) od OpenAI – ulepszona obsługa plików graficznych i zdjęć, umożliwiająca użytkownikom łatwe ich wyszukiwanie i lokalną interakcję bez konieczności stosowania skomplikowanego etykietowania metadanych
- Whisper – automatyczny system rozpoznawania mowy oparty na AI, za pomocą którego możemy wchodzić w interakcję z danymi dzięki komend głosowych
