Przejdź do treści

Qwenputer: działający procesor RISC-V schowany w wagach modelu Qwen 3.5

Adam Marzec
Karta eksperymentu Qwenputer: trzy białe karty z wynikiem 18 mln instrukcji bez błędu, wzrostem NUPA z 48,6 na 100 procent i wymaganiem 24 GB GPU; pieczątka BEZ TRENINGU; nagłówek QWENPUTER CPU W WAGACH MODELU; odczyty 29.10.2026

Na Hacker News wylądował dziś eksperyment, który brzmi jak żart, a ma tabele z liczbami. Qwenputer to zwykły Qwen 3.5 4B, do którego w wagach dorzucono kompletny 32-bitowy procesor RISC-V. Bez wtyczki, bez uruchamiania zewnętrznego Pythona, bez interpretera obok modelu: gdy model ma policzyć, to w trakcie generowania odpowiedzi faktycznie działa w nim CPU, którego pamięcią jest stan własnych warstw uwagi. Autor, Divyansh Agrawal, opisał całość na blogu 22 października, a wątek z 29 października zebrał 669 punktów, więc świat zdążył już dopytać o wszystko, łącznie z klasycznym „po co”.

Najważniejsze informacje

CoSzczegóły
Czym jestRISC-V RV32IM (plus rozszerzenie Zba i jednostka bignum) skompilowany w wagi Qwen 3.5 4B
JakBez treningu: kompilator ustawia wagi bezpośrednio; 11 dodatkowych warstw przed 32 oryginalnymi
RAMStan warstw Gated DeltaNet: gate = 1, beta = 1, klucze one-hot jako adresy
PoprawnośćOficjalne riscv-tests, zgodność z qemu, 18 mln instrukcji w trybie free-running bez błędu
ArytmetykaNUPA długie liczby całkowite: 48,6% → 100%, na poziomie Qwena z podpiętym Pythonem
SprzętJedna karta 24 GB; checkpoint 18,8 GB, ok. dwa razy większy od bazowego Qwena
OgraniczeniePotrzebuje sterownika RvChat, zwykłe generate() nie wystarczy; ok. 3200 tokenów CPU na sekundę na L4

Jak kompiluje się komputer w wagi

Qwen 3.5 należy do nowszej generacji hybryd, w której trzy z czterech warstw uwagi zastąpiono Gated DeltaNet, liniową rekurencją z niewielkim stanem. Każda głowa trzyma macierz stanu i co token poddaje ją bramce zanikania: gate równy 0,9 lekko wygasa wszystko, a gate równy 1 nie zapomina nic. Agrawal ustawił gate na 1, siłę zapisu beta na 1 i użył kluczy one-hot, czyli wektorów wskazujących dokładnie jeden wiersz stanu. Od tego momentu zapis nadpisuje jeden wiersz jak komórka pamięci, a odczyt zwraca dokładną wartość. O tym, że reguła delta działa jak pamięć asocjacyjną, pisał zespół Schmidthubera już w 2021 roku w pracy „Linear Transformers Are Secretly Fast Weight Programmers”; nowością jest zrobienie z tego dokładnej, adresowalnej pamięci w produkcyjnym modelu, na tyle pewnej, że trzyma cały procesor.

Same wagi procesora powstają bez ani jednego kroku uczenia. Autor opisuje CPU jako obwód, czyli listę małych kroków typu „odczytaj rejestr”, „dodaj dwie liczby”, „skocz, jeśli zero”, a kompilator zamienia każdy krok w fragment warstwy transformera: głowy uwagi odczytują, jednostki feed-forward liczą, DeltaNet trzyma RAM. Procesor zajmuje 11 warstw postawionych przed 32 oryginalnymi, a wagi Qwena zostają nietknięte. Każda instrukcja to kilka generowanych tokenów, w tym adres wiersza, wartość i znacznik STEP; ten strumień jest jednocześnie śladem wykonania, więc gdy Qwen go wypisuje, procesor naprawdę się kręci. Model podszywa się przy tym pod format wywołań narzędzi, na którym jest dobrze wytrenowany, i z jego poziomu woła własny CPU jako narzędzie, choć żadne narzędzie zewnętrzne nie istnieje.

Czy to naprawdę działa

Twarde liczby z bloga stawiają Qwenputera na poziomie Qwena z podpiętym Pythonem, a czasem wyżej. Na zestawach DeepMind dzielenie dużych liczb daje 97,5 procent wobec 95 procent z narzędziem i 72,5 procent bazowego modelu, mnożenie 97,5 wobec 100 i 55, a na długiej arytmetyce NUPA wzrost z 48,6 do 100 procent, czyli dokładnie tyle, ile daje Python podpięty jako narzędzie. Autor odtworzył około 230 tysięcy pozycji wyjściowych procesora wobec maszyny referencyjnej i nie znalazł ani jednego rozjazdu, a dodatkowo sprawdził, że dorobienie komputera nie zmienia zwykłych odpowiedzi modelu: odległość KL 6e-4 przy podłodze szumu 5e-4.

Oprócz arytmetyki jest też, na razie eksperymentalnie, system plików w środku modelu. Nazwa pliku trafia przez hash do jednego z 1024 slotów katalogu trzymanego w stanie DeltaNet, treść ląduje w innych głowach po osiem tokenów na wiersz, a całość pomieści 512 plików, czyli jakieś 53 tysiące tokenów tekstu. Ciekawsze od mechaniki jest to, że stan można zapisać na końcu rozmowy i wczytać w następnej, więc pliki są trwałe. W teście na fakty zmieniające się między czatami model z taką pamięcią trafił w 90 procent przypadków, podczas gdy wklejenie starych rozmów dawało 30 procent, a standardowe narzędzia pamięci na Pythonie 78,9 procent wobec 83,3 Qwenputera.

Limity, o których autor pisze wprost

Checkpoint rośnie do 18,8 GB, mniej więcej dwa razy od bazowego Qwena, choć większość to zerowe wypełnienie. Do uruchomienia trzeba sterownika RvChat, który ładuje firmware do stanu DeltaNet i trzyma tokeny śladu poza warstwami Qwena, więc zwykłe wywołanie generate() tego nie odpali. Jest też wolno: każda instrukcja procesora kosztuje kilka zdekodowanych tokenów, executor użyty do benchmarków robił około 3200 tokenów CPU na sekundę na karcie L4, więc poważniejsze obliczenie liczy się w sekundach, nie w milisekundach. To nadal nie jest chip klasy Linux, choć pełny zestaw instrukcji RV32IM jest zaimplementowany, w tym uruchamianie kodu w C i MicroPythonie wewnątrz przebiegów modelu.

Skąd ten eksperyment i co z tego dalej

Najlepsze pytanie z dyskusji zadał komentarz, który można streścić tak: nie chcę, żebyś używał komputera, chcę, żebyś BYŁ komputerem. Autor sam odpowiada w dwóch dodatkach, które są ciekawsze niż sama ciekawostka. Po pierwsze, model hybrydowy może trzymać rozumowanie w stanie RNN, którego standardowe monitorowanie „łańcucha myśli” nie widzi, czyli dokładnie ta mechanika, która tu służy do liczenia, może kiedyś służyć do ukrywania. Po drugie, te same skompilowane wagi działają jako monitor, którego model nie potrafi wyłączyć, bo nie jest to narzędzie, tylko fizycznie wpisany fragment sieci. To już temat dla badań nad bezpieczeństwem AI, nie dla hobbystów.

Samemu spróbować można na jednej karcie 24 GB: kod leży na GitHubie, modele na Hugging Face i ModelScope, a rozmiar 18,8 GB to mimo wszystko poziom, o którym piszemy w kontekście lokalnych modeli na co dzień. Frazy „qwenputer” jest w polskim automplecie dokładnie jedna, więc jeśli temat rośnie, to dopiero teraz. Dla chcących zrozumieć, co dokładnie jest tu „warstwą” i „głową”, dobrym wstępem pozostaje nasz tekst co to jest transformer albo co to jest inferencja, a śledzącym chiński ekosystem przypominam wątek z wyciekiem cache w GLM z końca października, bo to ta sama domena eksperymentów, tylko od innej strony.

Najczęstsze pytania

Co to jest Qwenputer?

Eksperymentalny model: standardowy Qwen 3.5 4B, w którego wagach skompilowano działający procesor RISC-V (RV32IM). Procesor działa wewnątrz przebiegów modelu, bez narzędzi zewnętrznych, a za RAM służy stan warstw Gated DeltaNet. Kod i wagi są publiczne.

Czy Qwen 3.5 radzi sobie z arytmetyką bez tego triku?

Słabo. W testach autora bazowy Qwen 3.5 4B zdobywał 55-90 procent w zależności od zestawu i tylko 48,6 procent na długiej arytmetyce NUPA. Z wgranym CPU ten ostatni wynik rośnie do 100 procent, na poziomie podpiętego narzędzia Python.

Czy mogę uruchomić Qwenputer u siebie?

Tak, przy jednej karcie 24 GB. Checkpoint ma 18,8 GB, wymaga sterownika RvChat zamiast zwykłego generate() i działa powoli: wielkie obliczenia liczy się w sekundach, bo każda instrukcja procesora to kilka wygenerowanych tokenów.

Źródła

Powiązane artykuły