Kontekst to pamięć robocza, nie archiwum
Model nie pamięta rozmowy „sam z siebie”. Przy każdym kroku dostaje ponownie treść, którą widział wcześniej: Twoje polecenia, swoje odpowiedzi, wyniki narzędzi, wklejone pliki. Ta całość to okno kontekstu — odpowiednik pamięci roboczej, a nie dysku.
Z tego wynikają dwie rzeczy. Po pierwsze: koszt — im dłuższa historia, tym więcej tokenów wchodzi na wejściu przy każdym pytaniu, nawet krótkim. Po drugie: jakość — im więcej materiału, tym trudniej modelowi utrzymać uwagę na tym, co ważne, i tym większa szansa, że zgubi wczesne ustalenia.
Okno się kończy. Gdy jest prawie pełne, system zaczyna streszczać starsze fragmenty (kompaktowanie). Streszczenie ratuje ciągłość, ale traci detale — a przy pracy z produkcją detale są najważniejsze.
Progi, które działają w praktyce
Nie ma jednej „właściwej” liczby, ale powtarzalne progi sprawdzają się w codziennej pracy: poniżej 30% możesz swobodnie łączyć wątki, w okolicy 50% kończysz zadanie i zapisujesz stan, a powyżej 60% przechodzisz do nowej sesji — nawet jeśli temat jest ten sam.
| Zapełnienie | Co robić | Strefa |
|---|---|---|
| 0–30% | Pracuj spokojnie — możesz łączyć kilka zadań | zielony |
| 30–50% | Dokańczaj bieżące zadanie; nowy, niezwiązany temat → nowa sesja | limonkowy |
| 50–60% | Zapisuj stan do pliku (ustalenia, otwarte punkty) i planuj przejście | żółty |
| 60–75% | Przełączaj — nawet ten sam wątek, ale z plikiem-handoffem | pomarańczowy |
| 75–90% | Ryzyko kompaktowania: gubienie szczegółów, spadek jakości | czerwony |
| >90% | Wysokie ryzyko błędów i ucinania wypowiedzi | ciemny czerwony |
Dlaczego nie warto czekać do 100%
Trzy mechanizmy działają przeciwko Tobie, gdy czat jest przepełniony:
- Koszt rośnie z każdym krokiem. Krótkie pytanie w długim wątku kosztuje tyle, ile cała dotychczasowa rozmowa plus nowa treść.
- Uwaga modelu słabnie. Wczesne ustalenia i reguły łatwiej umykają, gdy w oknie jest dużo materiału; rośnie ryzyko powtórzeń i sprzeczności.
- Kompaktowanie gubi detale. Streszczenie zachowuje sens, ale nie precyzję — nazwy plików, numery, kolejność kroków potrafią zniknąć.
W praktyce granica „bezpiecznie” to moment, w którym kończysz logiczny etap zadania — nie wtedy, gdy okno się zapcha.
Jak policzyć, czy warto zacząć od nowa
Weź długość historii w tokenach (widać ją w interfejsie) i porównaj z narzutem nowej sesji. Nowa sesja płaci raz za instrukcję systemową i definicje narzędzi, a potem rośnie od zera. Długi wątek płaci całą historię przy każdym pytaniu.
| Scenariusz | Wejście na krok | Efekt |
|---|---|---|
| Nowa sesja z krótkim kontekstem | niewielkie | tanie pytania, pełna uwaga |
| Długi wątek przy 50–60% okna | połowa okna | 2–3× drożej niż na starcie |
| Wątek przy 80%+ | większość okna | drogo, ryzyko kompaktowania i błędów |
Wniosek: nowa sesja prawie nigdy nie jest stratą, jeśli zadanie jest nowe. Stratą jest ciągnięcie wątku tylko dlatego, że „już jest otwarty”.
Handoff: jak przejść bez straty
Zmiana czatu nie może oznaczać zaczynania od zera. Przed przełączeniem zapisz krótki plik, który nowa sesja przeczyta w całości — to tańsze niż odtwarzanie historii z pamięci.
- Stan: co jest zrobione i potwierdzone (z linkami i numerami wersji).
- Decyzje: co ustalono i dlaczego — żeby nie wracać do odrzuconych opcji.
- Otwarte punkty: co zostało, w jakiej kolejności, na co uważać.
- Zasady: ograniczenia, których nie wolno łamać (na przykład: jeden operator wdrożeń).
Taki plik ma zwykle kilkaset linii. Czytanie go w nowej sesji to ułamek kosztu, jaki pochłania odtwarzanie długiej rozmowy — i zero ryzyka, że coś umknie kompaktowaniu.
Kiedy łamać regułę
Są zadania, w których ciągłość jest warta kosztu: wieloetapowe debugowanie zależne od poprzednich ustaleń, praca nad jednym dokumentem, rozmowa, w której każde zdanie wynika z poprzedniego. Wtedy zostań w wątku — ale ogranicz „tłuste” elementy: czytaj logi fragmentami, nie wklejaj całych JSON-ów, nie zostawiaj w kontekście zrzutów, które już spełniły swoją rolę.
W pozostałych przypadkach działa prosta zasada: nowy temat = nowa sesja, ten sam temat przy 50–60% = handoff do pliku i nowa sesja.
Checklista na koniec etapu
- Czy bieżące zadanie jest domknięte albo ma zapisany stan?
- Czy decyzje i otwarte punkty są w pliku, a nie tylko w rozmowie?
- Czy w kontekście zostały duże artefakty, które można usunąć?
- Czy następne pytanie dotyczy tego samego zadania, czy już nowego?
Jeśli odpowiedzi wskazują na nowy temat — zamknij czat bez sentymentu. Tańszy i dokładniejszy będzie nowy.