Powrót do bloga
Open-Weight ModelsAgentic AIAgent LoopsAzja Południowo-Wschodnia

Agenci na jednej stacji roboczej: punkt przełomowy open-weight na urządzeniu

24 czerwca 2026 autor: Inference Loops

Przez większość ery agentowej istniało niewypowiedziane założenie: poważny agent kodujący działa na czyimś cudzym komputerze. Dobre modele żyły za chmurowym API, wynajmowałeś je za token, a twój kod, twój kontekst i twoje prompty robiły rundę do centrum danych, którego nie posiadałeś. To założenie po cichu się rozpada. Modele kodujące open-weight przekroczyły dwa progi w tym samym czasie — dość dobre i dość małe — a to połączenie zmienia to, gdzie agent może mieszkać.

Tę zmianę łatwo przegapić, bo każdy próg z osobna nie jest nowiną. Modele open są „prawie na miejscu” pod względem jakości już od jakiegoś czasu, a małe modele zawsze działały lokalnie. Nowe w 2026 roku jest to, że te same modele są teraz jednym i drugim: na tyle blisko frontiera w realnych benchmarkach kodowania i na tyle lekkie, by działać na sprzęcie, który mały zespół już posiada.

Luka jakościowa się domknęła

Zacznij od zdolności, bo cały argument się rozpada, jeśli lokalny model jest słaby. Już nie jest.

Qwen3-Coder-Next to najwyraźniejszy sygnał. To model mixture-of-experts o 80 miliardach parametrów, który aktywuje tylko 3 miliardy parametrów przy inferencji, a zdobywa 70,6% na SWE-bench Verified z SWE-Agent — 71,1% z MiniSWE-Agent, 71,3% z OpenHands. To open-weight notujący powyżej 70% na benchmarku, który do niedawna był domeną frontierowych modeli zamkniętych.

Devstral Small 2 od Mistrala stawia tę samą tezę od strony małych modeli. Mając zaledwie 24 miliardy parametrów, zdobywa 68,0% na SWE-bench Verified — a karta modelu samego Mistrala zauważa, że „dorównuje poziomom wydajności GLM 4.6 i Qwen 3 Coder Plus mimo użycia znacząco mniejszej liczby parametrów”. Wydany jest na licencji Apache 2.0, z oknem kontekstu 256k tokenów.

Uczciwe ujęcie jest takie, że modele te wciąż pozostają w tyle za frontierem — 68,0% Devstrala plasuje się poniżej Claude Sonnet 4.5 (77,2%) i GPT 5.1 Codex Max (77,9%) na tym samym benchmarku. Ale luka wynosi teraz mniej więcej dziewięć punktów, a nie przepaść. Dla dużej części realnej pracy inżynierskiej — rutynowego refaktoru, testu do napisania, buga do wytropienia, boilerplate’u do wygenerowania — model w okolicach wysokiej 60-tki czy niskiej 70-tki na SWE-bench Verified jest w pełni dość dobry. Pytanie przestaje brzmieć „czy model open jest zdolny?”, a staje się „czy ostatnie dziewięć punktów warte jest oddania wszystkiego, co daje uruchomienie go lokalnie?”.

Dość mały, by mieszkać na twoim biurku

Zdolność to połowa historii. Druga połowa to to, że faktycznie możesz uruchomić te modele na sprzęcie, który posiadasz.

Devstral Small 2 to czysty przykład, bo Mistral podaje wymaganie wprost: jest „dość lekki, by działać na pojedynczym RTX 4090 albo Macu z 32GB RAM, co czyni go odpowiednim modelem do lokalnego wdrożenia i użycia na urządzeniu”. To nie szafa serwerowa. To jedna stacja robocza albo laptop dewelopera. Model o 24 miliardach parametrów, który zdobywa 68% na SWE-bench Verified, działający na pojedynczym konsumenckim GPU, na liberalnej licencji — to kompletny, samodzielny agent kodujący, który nigdy nie dotyka chmury.

Qwen3-Coder-Next dochodzi tam inną drogą: rzadkim projektem mixture-of-experts. Trzymanie 80 miliardów parametrów, ale aktywowanie tylko 3 miliardów na token oznacza, że obliczenia na krok są skromne, mimo że model jest duży — architektura jest wprost zbudowana tak, by, jak ujmuje to raport, „latencja, przepustowość i koszt były ograniczeniami pierwszego rzędu”. Pełne wagi wciąż muszą być rezydentne (społecznościowe quantization plasują go w klasie ~48GB łącznej pamięci, więc raczej pojedyncza stacja robocza o dużej pamięci niż laptop), ale zasada się trzyma: jakość zbliżona do frontiera nie wymaga już maszyny frontierowej skali.

Liczy się linia trendu. Rzadka aktywacja i agresywna quantization ściągają zdolne modele na sprzęt z półki szybciej, niż większość zespołów zaktualizowała swoje założenia. Chmurowe API było koniecznością w 2024 roku. W 2026 coraz bardziej staje się wyborem.

Co praca na urządzeniu naprawdę ci daje

Uruchomienie agenta na własnym sprzęcie nie jest preferencją estetyczną. Zmienia trzy rzeczy, które mają znaczenie dla biznesu.

Suwerenność danych. Gdy model działa lokalnie, twój kod, dane twoich klientów, twoje wewnętrzne dokumenty i twoje prompty nigdy nie opuszczają budynku. Nic nie jest wysyłane do API strony trzeciej, nic nie jest logowane na cudzych serwerach, nic nie podlega jurysdykcji innego kraju ani polityce retencji dostawcy. Dla pracy regulowanej — dokumentacja medyczna, dane finansowe, systemy rządowe — to często różnica między „możemy tu użyć agenta” a „prawnie nie możemy”.

Brak rachunku za token. Pisaliśmy już wcześniej, że rachunek to nowe wąskie gardło — że długa pętla agenta przesyła swój kontekst na nowo na każdym kroku, a mierzony koszt szybko narasta. Praca na urządzeniu całkowicie odwraca strukturę kosztów: płacisz raz za sprzęt, a potem inferencja jest na marginesie praktycznie darmowa. Pętla, która kosztowałaby realne pieniądze za przebieg na mierzonym API, kosztuje prąd na maszynie, którą już kupiłeś. Dla wysokowolumenowej, długo działającej pracy agentowej to nie mała oszczędność — to inny model ekonomiczny, capex zamiast nieograniczonego opex.

Offline i niska latencja. Lokalny model nie dba o twoje połączenie internetowe, awarię API, rate limit ani o odcięcie regionu. Odpowiada z latencją sieci lokalnej, za każdym razem. Wszędzie tam, gdzie łączność jest przerywana, albo w każdym przepływie pracy, który nie toleruje zależności od działającego zdalnego serwisu, ta niezawodność to cały sens.

Kompromis jest realny, ale to pokrętło, a nie ściana

Byłoby nieuczciwe udawać, że nie ma kosztu. Lokalny model jest około dziewięć punktów za frontierem na SWE-bench Verified, a przy naprawdę trudnych problemach — subtelnej decyzji architektonicznej, paskudnym bugu wielosystemowym — te punkty są realne. Czasem będziesz chciał najmocniejszego modelu na świecie, a ten model wciąż mieszka w centrum danych.

Ale to pokrętło, a nie ściana. Pragmatyczny wzorzec jest hybrydowy: uruchom gros pracy — wysokowolumenowe, rutynowe, wrażliwe na dane 80% — na lokalnym modelu open-weight, a routuj tylko najtrudniejsze, niewrażliwe problemy do frontierowego API, gdy dodatkowa zdolność zarabia na swój koszt i swoją ekspozycję danych. Konkretnie: lokalny agent szkicuje kod, pisze testy, tropi oczywiste bugi i obsługuje wszystko, co dotyka wrażliwych danych, wszystko na twojej własnej maszynie; model frontierowy jest zarezerwowany dla raz-na-dzień decyzji architektonicznej albo buga, który naprawdę pokonał lokalny model — i nawet wtedy tylko jeśli w promptcie nie ma chronionych danych. Większość zespołów odkrywa, że udział lokalny jest znacznie wyższy, niż się spodziewali. To utrzymuje mierzony rachunek mały, utrzymuje wrażliwe dane w domu domyślnie, a wciąż daje ci frontierowy mięsień do rzadkiego zadania, które go potrzebuje. Decyzja o tym, co gdzie działa, to dokładnie ten rodzaj inżynierskiego osądu, o którym wciąż argumentujemy, że jest prawdziwą pracą — i to ta sama niezależna od GPU, trwała zdolność decydowania, jak skomponować pętlę, zastosowana poziom wyżej: komponowanie floty.

Dlaczego sprzyja to Azji Południowo-Wschodniej

Oto część, która liczy się najbardziej dla tego regionu, i praca na urządzeniu może być najostrzejszą wersją tego argumentu. Każda przewaga uruchomienia agenta lokalnie odwzorowuje się wprost na strukturalne realia budowania AI w Azji Południowo-Wschodniej.

Suwerenność nie jest tu abstrakcyjna. Kambodżański bank, wietnamski szpital, kambodżańskie ministerstwo rządowe — te instytucje często nie mogą wysłać swoich danych do zagranicznej chmury, z powodów prawnych, regulacyjnych albo strategicznych. Zdolny agent, który działa w całości lokalnie, gdzie dokumenty khmerskie i lokalne rejestry nigdy nie opuszczają kraju, nie jest miłym dodatkiem; to jedyna wersja, którą w ogóle da się wdrożyć. Open-weight na licencji Apache 2.0 nie da się też objąć embargiem, podnieść ceny ani wycofać spod ciebie — to ty trzymasz model.

Ekonomia pasuje do regionu ubogiego w kapitał. Pojedyncza stacja robocza uruchamiająca agenta open-weight ma stały, przewidywalny koszt i nie wykrwawia się na każdym tokenie tak, jak mierzone frontierowe API. Mały zespół w Phnom Penh albo Da Nang może uruchamiać wysokowolumenowe przepływy agentowe na sprzęcie, który posiada, po koszcie, który kontroluje, i prześcignąć marżą konkurenta, który płaci amerykańskiemu centrum danych za token. A odporność offline ma znaczenie tam, gdzie łączność wciąż jest nierówna.

Frontierowe laboratorium będzie dalej sprzedawać najzdolniejszy model za token, i dla najtrudniejszych problemów będzie dalej tego wart. Ale cichy punkt przełomowy 2026 roku jest taki, że nie potrzebujesz już centrum danych dla większości pracy. Agent na poziomie zbliżonym do frontiera mieści się teraz na jednej maszynie, którą posiadasz — a posiadanie maszyny, modelu i danych to najbardziej trwała, suwerenna, kapitałowo efektywna pozycja w całym stosie agentowym. Dla tego regionu to nie wygoda. To cała strategia.