Czym są tokeny i okno kontekstowe w modelu AI

W mediach technologicznych oraz cennikach dostawców oprogramowania nieustannie pojawiają się dwa pojęcia: tokeny oraz okno kontekstowe. To podstawowe jednostki miary określające, ile informacji model językowy potrafi przetworzyć jednocześnie oraz w jaki sposób rozliczane są usługi automatyzacji. Zrozumienie tych pojęć bez wchodzenia w skomplikowany żargon programistyczny pozwala właścicielowi małej firmy skuteczniej kontrolować koszty i uniknąć błędu "zapominania" faktów przez firmowe boty.

Pojęcia te zyskały na znaczeniu w połowie sierpnia 2026 roku w związku z masowymi obniżkami stawek u głównych dostawców API, gdzie opłaty naliczane są właśnie na podstawie liczby tokenów wchodzących i wychodzących.

Czym jest token i dlaczego to nie to samo co słowo

Model językowy nie czyta tekstu tak jak człowiek — litera po literze ani całościowymi słowami. Zamiast tego dzieli wprowadzony tekst na mniejsze fragmenty nazywane tokenami. Tokenem może być całe krótkie słowo, jego część, pojedyncza sylaba, a nawet pojedynczy znak interpunkcyjny.

W języku angielskim przyjęło się przelicznik, według którego jeden token odpowiada średnio trzem czwartym jednego słowa (czyli 100 tokenów to około 75 słów). W języku polskim, ze względu na bogatą odmianę końcówek oraz znaki diakrytyczne (np. ą, ę, ś, ć), model dzieli słowa na drobniejsze cząstki, co sprawia, że ten sam tekst po polsku zużywa nieco więcej tokenów niż po angielsku.

Gdy zlecasz agentowi AI napisanie wiadomości e-mail lub przeanalizowanie dokumentu PDF, system rozliczeniowy zlicza tokeny zawarte w Twoim pytaniu (tzw. tokeny wejściowe) oraz tokeny w wygenerowanej odpowiedzi (tzw. tokeny wyjściowe).

Czym jest okno kontekstowe i dlaczego ma granice

Okno kontekstowe (context window) to cyfrowa "pamięć podręczna" lub obszar roboczy modelu językowego podczas pojedynczej konwersacji. Można je porównać do biurka, na którym leżą dokumenty: model widzi i pamięta wyłącznie te informacje, które mieszczą się na tym biurku w danej chwili.

Wielkość okna kontekstowego mierzy się właśnie w tokenach. Jeśli model posiada okno o wielkości 128 tysięcy tokenów, oznacza to, że w jednej rozmowie potrafi przeanalizować tekst o długości odpowiadającej około 300 stronom tradycyjnej książki.

Gdy konwersacja z klientem lub analiza dokumentów staje się zbyt długa i przekracza dopuszczalny limit okna kontekstowego, najstarsze informacje "spadają z biurka". W efekcie chatbot zaczyna zapominać ustalenia z początku rozmowy lub gubi wątek w złożonych sprawach.

Jak wielkość okna i liczba tokenów wpływa na finanse firmy

Współczesne modele językowe oferowane w drugiej połowie 2026 roku dysponują gigantycznymi oknami kontekstowymi, sięgającymi od kilkuset tysięcy do nawet kilku milionów tokenów. Choć pozwala to na wczytywanie całych baz danych czy rocznych sprawozdań finansowych w jednym zapytaniu, wiąże się z konkretnymi wyzwaniami budżetowymi.

Im większe okno kontekstowe przesyłasz w każdym zapytaniu do modelu, tym więcej tokenów wejściowych zużywasz. Jeśli wysyłasz do bota pytanie z załączonym stustronnicowym plikiem PDF, płacisz za przetworzenie całego tego pliku przy każdej kolejnej wiadomości w danej konwersacji.

Dlatego w bezpiecznie zaprojektowanych systemach dla MŚP nie wkleja się całych dokumentów do okna rozmowy, lecz stosuje architekturę RAG. Pozwala ona odnaleźć i przesłać do okna kontekstowego wyłącznie te 2-3 akapity, które są bezpośrednio potrzebne do udzielenia odpowiedzi, co drastycznie obniża zużycie tokenów.

Co z tego wynika

Token to podstawowa cząstka tekstu, za pomocą której modele AI mierzą objętość pracy i rozliczają koszty, natomiast okno kontekstowe określa maksymalną ilość informacji, jaką program pamięta w jednej rozmowie. Dla małej firmy znajomość tych pojęć oznacza możliwość świadomego wybierania narzędzi i unikania niepotrzebnego przepłacania za zbyt długie zapytania. Odpowiednie zarządzanie wielkością przesyłanych informacji sprawia, że firmowy asystent AI działa szybko, nie gubi wątków i nie generuje wysokich rachunków.