Jeden z Jabłka pozorny sztuczna inteligencja ambicją jest umożliwienie chatbot na urządzeniu które można uruchomić na iPhone’ach, zamiast używać serwerów do przetwarzania. Umożliwiłoby to dostęp do danych przechowywanych na Twoim iPhonie, a także zwiększenie prywatności…
Nvidia przyjęła to samo podejście, tworząc chatbota działającego na komputerze PC z systemem Windows – oczywiście wyposażonym w jeden z własnych, wysokiej klasy procesorów graficznych firmy.
Apple pracuje nad chatbotem na urządzeniu iPhone
Artykuł badawczy Apple opublikowany pod koniec ubiegłego roku zdawał się wskazywać, iż firma umożliwiła działanie chatbota na urządzeniu na iPhonie.
Artykuł dotyczy minimalizacji ilości danych, jakie należy przenieść z pamięci flash do pamięci RAM. LLM to ogólny termin określający systemy czatów AI, które zostały przeszkolone na dużych ilościach tekstu.
Takie podejście umożliwia LLM działanie do 25 razy szybciej na urządzeniach z ograniczoną pamięcią RAM.
Chociaż artykuł nie ujawnia żadnych szczegółów na temat planów Apple, pojawia się coraz więcej oznak, iż iOS 18 to moment, w którym firma w końcu wypuść znacznie potężniejszą wersję Siri, korzystając z technologii generatywnej sztucznej inteligencji zwanej AppleGPT. Mówi się, iż kolejna wersja iOS, która ma zostać zaprezentowana na WWDC w czerwcu, jest taka największa aktualizacja w historii firmy.
Chatbot na urządzeniu Nvidia
Nvidia już to zrobiła stworzył wersję demonstracyjną jednego chatbota na urządzeniu, aczkolwiek takiego, który wymaga komputera z systemem Windows i jedną z własnych kart graficznych klasy premium firmy.
Chat With RTX to aplikacja demonstracyjna, która umożliwia personalizację modelu wielkojęzykowego GPT (LLM) połączonego z Twoją zawartością — dokumentami, notatkami, filmami i innymi danymi. Wykorzystując generację wspomaganą wyszukiwaniem (RAG), akcelerację TensorRT-LLM i RTX, możesz wysyłać zapytania do niestandardowego chatbota, aby gwałtownie uzyskać odpowiedzi istotne kontekstowo. A ponieważ wszystko działa lokalnie na komputerze lub stacji roboczej z systemem Windows RTX, uzyskasz szybkie i bezpieczne wyniki […]
Czat z RTX obsługuje różne formaty plików, w tym tekst, pdf, doc/docx i xml. Wystarczy skierować aplikację na folder zawierający Twoje pliki, a w ciągu kilku sekund załaduje je do biblioteki. Dodatkowo możesz podać adres URL playlisty YouTube, a aplikacja załaduje transkrypcje filmów z playlisty, umożliwiając sprawdzenie treści, które obejmują.
Twój komputer z systemem Windows będzie potrzebował procesora graficznego NVIDIA GeForce RTX z serii 30 lub 40 albo procesora graficznego RTX Ampere lub Ada Generation z co najmniej 8 GB pamięci VRAM.
ChatGPT może w końcu Cię zapamiętać
W innych wiadomościach dotyczących sztucznej inteligencji ChatGPT pobiera pamięć – przynajmniej dla niewielkiej liczby użytkowników.
Jednym z dotychczasowych ograniczeń ChatGPT było to, iż każda sesja przebiega oddzielnie – to znaczy, iż nie będzie pamiętała niczego, co zrobiłeś w poprzednich sesjach.
OpenAI testuje w tej chwili wersję, która zapamiętuje określone dane i preferencje, aby zapewnić bardziej spójne doświadczenie w miarę upływu czasu.
Testujemy pamięć dzięki ChatGPT. Zapamiętywanie tematów omawianych na wszystkich czatach pozwala uniknąć konieczności powtarzania informacji i sprawia, iż przyszłe rozmowy będą bardziej przydatne.
Masz kontrolę nad pamięcią ChatGPT. Możesz wyraźnie powiedzieć mu, żeby coś zapamiętał, zapytać, co pamięta, i powiedzieć mu, żeby zapomniał w rozmowie lub poprzez ustawienia. Można go także całkowicie wyłączyć […]
Pamięć ChatGPT będzie coraz lepsza, im częściej będziesz z niej korzystać, a z biegiem czasu zaczniesz zauważać poprawę. Na przykład:
- Wyjaśniłeś już, iż wolisz, aby notatki ze spotkań miały na dole nagłówki, punktory i działania podsumowane. ChatGPT zapamiętuje to i w ten sposób podsumowuje spotkania.
- Powiedziałeś ChatGPT, iż jesteś właścicielem pobliskiej kawiarni. Kiedy zastanawiasz się nad przesłaniem postu społecznościowego upamiętniającego nową lokalizację, ChatGPT wie, od czego zacząć.
- Wspominasz, iż masz małe dziecko i iż uwielbia meduzy. Kiedy poprosisz ChatGPT o pomoc w stworzeniu jej kartki urodzinowej, zasugeruje to meduzę w imprezowym kapeluszu.
- Jako nauczyciel w przedszkolu liczącym 25 uczniów wolisz 50-minutowe lekcje z dodatkowymi zajęciami. ChatGPT pamięta o tym, pomagając Ci w tworzeniu planów lekcji.
Firma twierdzi, iż w tym tygodniu będzie testowana na niewielkiej liczbie użytkowników i iż po ocenie wyników udostępni szersze plany wdrożenia.
FTC: Korzystamy z automatycznych linków partnerskich generujących dochód. Więcej.
