f33cdc88f4
PRZYCZYNA PUSTYCH ODPOWIEDZI NA ANTHROPICU (potwierdzona w dokumentacji API): domyslnym modelem byl `claude-sonnet-5`, ktory przy POMINIETYM parametrze `thinking` wlacza myslenie adaptacyjne, a `thinking.display` domyslnie jest "omitted". Tokeny myslenia licza sie do max_tokens, wiec przy LLM_MAX_TOKENS=2000 cala tura wychodzila jako bloki `thinking` z pustym tekstem — parser filtrowal type=="text" i zwracal pusty string. Opus 4.8 bez `thinking` nie mysli, wiec tam objaw by nie wystapil. Gwarancja niepustej odpowiedzi (wszyscy trzej dostawcy): - generate() to teraz PETLA, nie pojedynczy strzal: tura -> jesli urwana na limicie, dopisz ture „kontynuuj" w tej samej rozmowie i sklej tekst, - tura zlozona z samego myslenia traktowana jak urwana (nie jak pustka), - pusta i NIE urwana -> jedna proba z podpowiedzia, dopiero potem blad, - kontynuacja konczy sie tura UZYTKOWNIKA — Claude odrzuca prefill asystenta (400), - `thinking` konfigurowany JAWNIE (adaptive + effort=high; ANTHROPIC_THINKING=off). Okna kontekstu i rezerwa na odpowiedz (app/llm/limits.py): - tabela okien/limitow wyjscia per model + nadpisanie z ENV, - plan() liczy okno odpowiedzi jako okno - prompt - margines i NIGDY nie oddaje calego kontekstu promptowi, - Anthropic liczy tokeny DOKLADNIE (/v1/messages/count_tokens), reszta szacuje, - >90 tys. tokenow promptu -> ostrzezenie, ale wyslanie NADAL mozliwe i z pelnym oknem odpowiedzi. UI: suwak budzetu rozszerzony o „bardzo obszerny" i „maksymalny kontekst modelu" (liczony z okna wybranego modelu po odjeciu rezerwy); przy wyniku widac plan tokenow, liczbe tur i ostrzezenia. Domyslny model Anthropic: claude-opus-4-8. Testy: 170 passed / 1 skipped (logika) + 15 (prezentacja). Nowe testy pokrywaja sklejanie kontynuacji, brak prefillu asystenta, ture z samego myslenia, rezerwe na odpowiedz i prog ostrzezenia. Zweryfikowane e2e na atrapie Anthropica odtwarzajacej zgloszony objaw: 3 tury, obie czesci tekstu obecne. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
106 lines
4.7 KiB
HTML
106 lines
4.7 KiB
HTML
{# Wspólny blok: sterowanie generowaniem + prompt (LOG-29/30) + horoskop (LOG-31).
|
|
Używany na ekranach Interpretacje i Kalendarz. #}
|
|
<div class="opts">
|
|
<label>Budżet promptu
|
|
<select name="prompt_budget">
|
|
{% set pb = form.prompt_budget or 'medium' %}
|
|
<option value="concise" {{ 'selected' if pb == 'concise' else '' }}>zwięzły (~4 tys. znaków)</option>
|
|
<option value="medium" {{ 'selected' if pb == 'medium' else '' }}>średni (~12 tys.)</option>
|
|
<option value="extensive" {{ 'selected' if pb == 'extensive' else '' }}>obszerny (~30 tys.)</option>
|
|
<option value="huge" {{ 'selected' if pb == 'huge' else '' }}>bardzo obszerny (~120 tys.)</option>
|
|
<option value="max" {{ 'selected' if pb == 'max' else '' }}>maksymalny kontekst modelu</option>
|
|
</select>
|
|
</label>
|
|
<label>Model
|
|
<select name="llm_provider">
|
|
{% set lp = form.llm_provider or 'local' %}
|
|
<option value="local" {{ 'selected' if lp == 'local' else '' }}>lokalny — nic nie opuszcza sieci</option>
|
|
<option value="anthropic" {{ 'selected' if lp == 'anthropic' else '' }}>Anthropic — dane wychodzą</option>
|
|
<option value="openai" {{ 'selected' if lp == 'openai' else '' }}>OpenAI — dane wychodzą</option>
|
|
</select>
|
|
</label>
|
|
</div>
|
|
<p class="muted small">
|
|
Prompt zawiera <strong>oryginalne opisy z baz</strong> oraz dane urodzeniowe. Model lokalny
|
|
przetwarza je u nas; wybór dostawcy w chmurze oznacza, że ta treść <strong>opuszcza naszą
|
|
sieć</strong>. Możesz najpierw obejrzeć prompt, a dopiero potem wysłać.
|
|
</p>
|
|
|
|
{% if prompt_result %}
|
|
{% set st = prompt_result.stats %}
|
|
|
|
{# --- wynik: napisany horoskop (LOG-31) + transparentność (PRE-15) --- #}
|
|
{% if prompt_result.horoscope %}
|
|
<div class="meta">
|
|
Horoskop napisany przez: <strong>{{ prompt_result.provider }}</strong> ·
|
|
model: {{ prompt_result.model }}
|
|
{% if prompt_result.usage and prompt_result.usage.completion_tokens %}
|
|
· tokeny odpowiedzi: {{ prompt_result.usage.completion_tokens }}
|
|
{% endif %}
|
|
{% if prompt_result.leaves_lan %}
|
|
· <strong class="retro">dane opuściły sieć</strong>
|
|
{% else %}
|
|
· dane nie opuściły sieci
|
|
{% endif %}
|
|
</div>
|
|
<div class="actions">
|
|
<button type="button" class="ghost" data-copy="#horoscopeText">Kopiuj horoskop</button>
|
|
</div>
|
|
<textarea id="horoscopeText" class="prompt" rows="20" readonly>{{ prompt_result.horoscope }}</textarea>
|
|
<p class="muted small">
|
|
Treść wygenerował model językowy na podstawie {{ st.included }} wskazań z baz.
|
|
<strong>Nie stanowi porady medycznej, prawnej ani finansowej.</strong>
|
|
</p>
|
|
{% endif %}
|
|
|
|
{% if prompt_result.warnings %}
|
|
{% for w in prompt_result.warnings %}
|
|
<p class="muted small"><strong>Uwaga:</strong> {{ w }}</p>
|
|
{% endfor %}
|
|
{% endif %}
|
|
|
|
{% if prompt_result.token_plan %}
|
|
{% set tp = prompt_result.token_plan %}
|
|
<p class="muted small">
|
|
Tokeny: prompt {{ tp.prompt_tokens }} · okno modelu {{ tp.context_window }} ·
|
|
zarezerwowane na odpowiedź {{ tp.max_output }}
|
|
{% if prompt_result.usage and prompt_result.usage.turns and prompt_result.usage.turns > 1 %}
|
|
· odpowiedź złożona z {{ prompt_result.usage.turns }} tur (model dokańczał urwany tekst)
|
|
{% endif %}
|
|
</p>
|
|
{% endif %}
|
|
|
|
{% if prompt_result.llm_error %}
|
|
<div class="error">
|
|
Nie udało się napisać horoskopu: {{ prompt_result.llm_error }}<br>
|
|
Prompt poniżej jest gotowy — możesz go skopiować i użyć ręcznie.
|
|
</div>
|
|
{% endif %}
|
|
|
|
{# --- prompt: zawsze dostępny do podglądu i skopiowania --- #}
|
|
<div class="meta">
|
|
Prompt · {{ st.chars }} znaków (~{{ st.est_tokens }} tokenów) ·
|
|
budżet: {{ st.budget }} ·
|
|
wskazań: <strong>{{ st.included }}</strong>
|
|
{% if st.omitted %}· pominięto: <strong>{{ st.omitted }}</strong>{% endif %}
|
|
{% if st.deduplicated %}· scalono powtórek: {{ st.deduplicated }}{% endif %}
|
|
</div>
|
|
|
|
{% if st.omitted %}
|
|
<p class="muted small">
|
|
Pominięto {{ st.omitted }} najsłabszych wskazań (próg wagi {{ st.min_score_included }}).
|
|
Chcesz komplet — wybierz obszerniejszy budżet i wygeneruj ponownie.
|
|
</p>
|
|
{% endif %}
|
|
|
|
{% if prompt_result.data_error %}
|
|
<div class="error">{{ prompt_result.data_error }} — prompt złożony z samych wyliczeń.</div>
|
|
{% endif %}
|
|
|
|
<div class="actions">
|
|
<button type="button" class="ghost" data-copy="#promptText">Kopiuj prompt</button>
|
|
<span class="muted small">Możesz też wkleić go samodzielnie do ChatGPT lub Claude.</span>
|
|
</div>
|
|
<textarea id="promptText" class="prompt" rows="14" readonly>{{ prompt_result.prompt }}</textarea>
|
|
{% endif %}
|