Artykuły

Artykuł · · 2 min czytania

Amerykańskie usługi inferencji i chińskie modele

Nathan Lambert opublikował analizę rynku otwartych modeli przygotowaną dla członków i pracowników amerykańskiego Kongresu. Opisuje w niej konkurencję między laboratoriami z USA i Chin oraz wykorzystanie ich modeli przez firmy oferujące usługi AI.

Kimi, Qwen i DeepSeek w amerykańskich firmach

Lambert wymienia DoorDash korzystający z Kimi, Airbnb z Qwen i Perplexity z DeepSeek. To wskazane przez autora przykłady zastosowań, bez danych o tym, jaką część ruchu każda z tych firm kieruje do poszczególnych modeli.

Takie wdrożenia są możliwe dzięki udostępnieniu wag, czyli parametrów wyznaczonych podczas treningu. W granicach licencji można pobrać model i uruchomić go poza infrastrukturą jego twórcy. Dostawca inferencji zapewnia serwery oraz oprogramowanie wykonujące obliczenia, a aplikacja przesyła do niego zapytania. Kilku operatorów może więc oferować dostęp do tego samego modelu.

W polskim wdrożeniu trzeba rozróżnić pochodzenie laboratorium i miejsce przetwarzania zapytań. Określenie „chiński model” mówi o jego twórcy; samo w sobie nie ustala, gdzie działa wybrana usługa inferencji. Analogicznie amerykański dostawca usługi może obsługiwać model opracowany przez chińskie laboratorium. Użyte przez Lamberta rozróżnienie na modele krajowe i zagraniczne odnosi się do Stanów Zjednoczonych.

Ruch otwartych modeli w OpenRouter

Przytoczone przez Lamberta dane OpenRouter pokazują wzrost tygodniowego ruchu dotyczącego otwartych modeli z około 1 bln tokenów we wrześniu 2025 roku do około 80 bln we wrześniu 2026 roku. W tym samym porównaniu udział modeli chińskich wzrósł z około 70% do ponad 80%. OpenRouter udostępnia wspólny interfejs do modeli wielu dostawców, a te liczby opisują ruch przechodzący przez platformę.

Z wolumenu tokenów nie da się wyliczyć przychodów ani marż operatorów. Nie jest to również pomiar całego rynku: Together AI i Fireworks AI nie ujawniają ruchu w podziale na modele, a wdrożenia prywatne pozostają poza zestawieniem. Lambert zaznacza też brak dobrych danych o wykorzystaniu modeli poza USA i Chinami. Tych udziałów nie można przenieść na polski rynek.

Wagi, dane i kod treningu

Operator dysponujący wagami może samodzielnie uruchamiać model, ale same parametry nie wystarczą do odtworzenia jego treningu. Potrzebne są również dane i kod. Lambert odróżnia pod tym względem modele open-weight od pełniejszych publikacji open-source. Przykład szerszego udostępnienia opisuje notka o OLMo 3, a Lambert sam wcześniej pracował nad rodziną OLMo w Allen Institute for AI.

Rozbudowa infrastruktury inferencji zwiększa zdolność obsługi zapytań do istniejących modeli. Nie dowodzi, że operator potrafi wytrenować ich konkurencyjnego następcę. Może rozwijać usługę na pobranych wagach, lecz dostęp do kolejnej generacji zależy od laboratorium, które ją przygotuje, i warunków, na jakich ją udostępni.

Wykorzystuję treści generowane przez AI jako część mojego codziennego procesu nauki.