CrankGPT będzie działać tylko wtedy, gdy użyjesz siły – niewielkiej ilości. Nie potrzebuje wypijać kontynentalnych zapasów wody, nie wymaga gigawatów elektryczności.
CrankGPT to jeden z tych projektów, które zaczynają się jak żart, a kończą jako całkiem poważny komentarz do współczesnej technologii. W czasach, gdy każde pytanie do sztucznej inteligencji potrafi uruchomić setki GPU w odległym centrum danych dwójka twórców – Katrin Tomanek i Alex Kauffmann – postanowiła zbudować urządzenie, które działa wyłącznie dzięki sile ludzkich mięśni..To AI, które odpowie ci na pytanie tylko wtedy, gdy będziesz kręcić korbką. I to nie przez chwilę, ale przez pełne 30 sekund, zanim w ogóle zacznie z tobą rozmawiać.
AI na korbkę, czyli manifest w formie gadżetu
CrankGPT to niewielkie, wydrukowane drukarką 3D pudełko z korbką i Raspberry Pi w środku. Do tego specjalnie zaprojektowana płytka kondensatorów, która pozwala urządzeniu działać przez około 20 sekund bez kręcenia. Potem – koniec rozmowy, czas wracać do pracy ramion.
Twórcy nie ukrywają, iż to projekt z przymrużeniem oka. Kauffmann porównuje proszenie dużych modeli o proste zadania do zabijania muchy kulą do wyburzania budynków – i trudno się z nim nie zgodzić. Żyjemy w dziwnych czasach, w których choćby dodanie dwóch liczb potrafi uruchomić chmurę wartą miliardy dolarów, CrankGPT jest jak mem, który nagle stał się fizycznym urządzeniem.
Ale to także demonstracja filozofii firmy Squeez, założonej przez Tomanek i Kauffmanna. Ich celem jest tworzenie małych, prywatnych modeli AI, które działają lokalnie, na tanim sprzęcie, bez wysyłania danych do chmury. Modele wyspecjalizowane, a nie wszechwiedzące. Takie, które potrafią rozpoznać mowę osoby z silnym akcentem albo pomóc w ogrodnictwie, ale nie będą udawać ekspertów od wszystkiego.
30 sekund kręcenia, 20 sekund rozmowy
Z dokumentacji wynika, iż od pierwszego obrotu korbki do rozpoczęcia rozmowy mija około 30 sekund. To czas potrzebny, by naładować kondensatory i uruchomić system. Potem użytkownik ma około 20 sekund „wolności”, zanim urządzenie zacznie domagać się kolejnych obrotów.
To doświadczenie, które trudno porównać z jakimkolwiek innym gadżetem AI. Zwykle narzekamy, iż modele odpowiadają za wolno. Tutaj wolno odpowiadają… bo nie kręcisz wystarczająco szybko.
CrankGPT bez obudowy. Cały projekt dostępny na GitHubieCrankGPT to oczywiście zabawka, ale jednocześnie komentarz do współczesnej infrastruktury AI. OpenAI, Anthropic i inni spalają miliardy dolarów rocznie na obliczenia, a ceny tokenów rosną szybciej niż inflacja – taki projekt działa jak zimny prysznic. Pokazuje, iż AI nie musi być gigantycznym, energożernym molochem. Może być małe, prywatne, wyspecjalizowane – i działać na sprzęcie, który w normalnych warunkach zasilałby lampkę nocną.
To także przypomnienie, iż nie każda interakcja z AI musi kończyć się w chmurze. Czasem wystarczy Raspberry Pi, kilka kondensatorów i… twoje bicepsy.
CrankGPT nie trafi do sklepów. Nie zastąpi Siri, Alexy ani ChatGPT. Nie stanie się też nowym trendem w elektronice użytkowej. Ale jego istnienie jest ważne, bo pokazuje alternatywną drogę: AI, które działa lokalnie, jest prywatne, energooszczędne i wyspecjalizowane. Nie wszystko musi być wielkie. Nie wszystko musi być w chmurze. Nie wszystko musi być zasilane elektrownią. Czasem wystarczy korbka.
