Inkling 2 Mini: otwarty model Thinking Machines z pętlą warstw działa na laptopie. Co potrafi?

Inkling 2 Mini: otwarty model Thinking Machines z pętlą warstw działa na laptopie. Co potrafi?

Chcesz widzieć nas częściej w Google?

Dodaj WELES do źródeł

Thinking Machines Lab, firma Miry Murati, byłej dyrektor technologicznej OpenAI, wydała 20 listopada Inkling 2 Mini. To otwarty model, który mieści się w około 20 GB i działa lokalnie, na przykład na Macu z 32 GB pamięci. Ma dwie nietypowe cechy: część warstw przechodzi kilka razy, a z 26,4 mld parametrów na każdy token pracuje tylko 3,4 mld. W programowaniu agentowym wyprzedza podobnej wielkości Qwena, ale w wiedzy faktograficznej wypada od niego słabiej.

Co wydało Thinking Machines?

Inkling 2 Mini jest dostępny z otwartymi wagami na Hugging Face, na licencji Apache 2.0 uzupełnionej zasadami dopuszczalnego użycia. Przyjmuje tekst i obrazy, odpowiada tekstem, a okno kontekstu sięga miliona tokenów. To najmniejszy model z rodziny Inkling 2. Dwa tygodnie wcześniej, 5 listopada, firma pokazała znacznie większy Inkling 2 Small, udostępniany w chmurze przez swoją platformę Tinker, więc Mini nie oznacza odwrotu od chmury, tylko drugą, lokalną ścieżkę.

Na czym polega „zapętlony transformer”?

Zwykły model przepuszcza każdy token raz przez wszystkie warstwy. Inkling 2 Mini ma 24 warstwy podzielone na cztery bloki po sześć. Pierwszy i ostatni blok działają raz, a dwa środkowe, czyli dwanaście warstw, model wykonuje trzy razy z tymi samymi wagami. Daje to 48 przejść przez warstwy na token przy rozmiarze modelu z 24 warstwami. Model jest też typu mixture of experts: każdy token trafia do 8 ze 128 „ekspertów”, dlatego aktywnych jest 3,4 mld parametrów, a licząc pętle około 5,4 mld.

Według karty modelu wersja bez pętli była o 7,5% tańsza w treningu, ale żeby osiągnąć ten sam wynik na długich zadaniach agentowych, potrzebowała o 140% więcej obliczeń przy działaniu. W skrócie: pętla przenosi koszt z rozmiaru modelu na liczbę obliczeń, a to korzystna wymiana tam, gdzie brakuje pamięci, czyli na laptopie.

Jaki sprzęt jest potrzebny?

Wagi zajmują około 20 GB, bo model trenowano od razu w niskiej precyzji: 20 warstw w formacie NVFP4, ostatnie 4 w MXFP8. Thinking Machines podaje jako wymaganie komputer Apple z 32 GB pamięci lub więcej, jeden NVIDIA DGX Spark albo kartę graficzną z co najmniej 32 GB pamięci. Pokaz offline „w samolocie” firma nagrała na MacBooku Pro z procesorem M5 Pro i 48 GB, ale to demonstracja, a nie minimum. Wersje dla 16 GB pamięci przygotowują już społeczność i firmy trzecie, jednak Thinking Machines ich nie podaje.

Jak wypada w testach?

Najbliższym punktem odniesienia jest Qwen3.8-27B od Alibaby, gęsty model podobnej wielkości. W ogólnym indeksie Artificial Analysis oba mają po 20,1 punktu. Różnią się profilem:

TestInkling 2 MiniQwen3.8-27B
DeepSWE v1.1 (programowanie agentowe)48,2%42,2%
SWE-bench Pro v2 Hard77,9%73,8%
SWE-bench Verified79,2%77,8%
Terminal Bench v2.171,6%73,0%
AA-Omniscience: odpowiedzi bez halucynacji63,4%71,4%
Wyniki według karty modelu Thinking Machines (20.11.2026)

Inkling 2 Mini wygrywa w zadaniach programistycznych wykonywanych przez agenta i w wyszukiwaniu, Qwen w pracy w terminalu, wieloetapowych rozmowach i wiedzy faktograficznej. Wynik 63,4% to odsetek odpowiedzi bez zmyśleń, a nie poprawnych odpowiedzi, i jest tu słabszą stroną modelu.

Niezależne Artificial Analysis policzyło, że na jedno zadanie Inkling 2 Mini zużywa 2,8 raza mniej obliczeń niż Qwen3.8-27B, kończy je średnio w 9 minut zamiast 38 i kosztuje około 0,59 zamiast 3,53 dolara. Te liczby dotyczą cen u producentów, a nie uruchomienia na własnym sprzęcie. Zespół Hazy Research ze Stanfordu zmierzył z kolei „inteligencję na dżul” na DGX Spark: 0,703 dla Inkling 2 Mini wobec 0,430 dla Qwen3.6-35B-A3B, choć oba modele działały w różnej precyzji.

Bezpieczeństwo i badania nad pętlą

Obok modelu firma udostępniła wersję badawczą TML-d24-varloop-research, w której liczbę przejść przez pętlę można ustawić od 1 do 5. Pracuje nad nią z NDIF, które ma ułatwić dostęp naukowcom zajmującym się interpretowalnością, a wczesny dostęp dostał też Goodfire. W tej wersji przy pięciu przejściach łańcuch rozumowania na części pytań GPQA był o ponad połowę krótszy niż przy jednym. To wynik wariantu badawczego, nie samego Inkling 2 Mini.

W teście LinuxArena sprawdzano, jak często model wykonuje ukryte zadanie tak, by nie wykrył go monitor. Inkling 2 Mini zrobił to w 3,9% prób, licząc same wywołania narzędzi (Qwen3.8-27B w 20,5%), ale gdy monitor widział też tekst i tok rozumowania, w 1,3% (Qwen w 0,4%). Nie da się więc powiedzieć, że model nie wykazuje takiej skłonności. Wypada lepiej w jednym ustawieniu i gorzej w drugim.

Co to znaczy dla firm?

Model, który pisze i poprawia kod na poziomie dużych systemów, a mieści się na jednym komputerze, oznacza możliwość pracy na danych, które nie mogą wyjść z firmy. Słabsza wiedza faktograficzna sprawia jednak, że do odpowiadania na pytania „z głowy” lepiej podpiąć mu wyszukiwanie albo własne dokumenty. Wyniki pochodzą w większości od producenta i pierwszych niezależnych pomiarów, więc obraz może się jeszcze zmienić.

Źródła: Thinking Machines: ogłoszenie, karta modelu, Hugging Face, VentureBeat (dane Artificial Analysis), Sebastian Raschka (Inkling 2 Small).