fix(llm): konfiguracja per dostawca — przelacznik w UI byl iluzja #15
Reference in New Issue
Block a user
Delete Branch "fix/llm-per-provider-config"
Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?
Blad
UI pozwala wybrac dostawce przy kazdym zadaniu, ale
factory.pyczytalo jedna wspolnatrojke
LLM_MODEL/LLM_BASE_URL/LLM_API_KEYdla wszystkich dostawcow.Na klastrze
LLM_BASE_URLtrzeba ustawic na lokalny model (domyslnelocalhost:11434w podzie nie istnieje) — i wtedy:
Czyli nie bylo miejsca, w ktore dalo sie sensownie wpisac klucze do chmury — stad to PR,
zanim odpowiem na pytanie „gdzie dac tokeny".
Naprawa
Konfiguracja per dostawca:
Zgodnosc wstecz zachowana: wspolne
LLM_*dziala nadal, ale stosuje sie wylacznie dodostawcy domyslnego (
LLM_PROVIDER). Instalacja jednodostawcowa nie wymaga zmian, apozostali dostawcy nie dziedzicza cudzej konfiguracji.
Przy okazji: Anthropic dostal brakujaca walidacje klucza (mial ja tylko OpenAI, wiec bez
klucza szedl request i dopiero API zwracalo blad), a komunikat wskazuje teraz konkretna
zmienna do ustawienia zamiast ogolnego
LLM_API_KEY.Testy
Nowe testy regresyjne pilnuja, ze ustawienia jednego dostawcy nie przeciekaja na
pozostalych — w tym dokladny scenariusz z bledu (skonfigurowany lokalny + wybor OpenAI).
Calosc: 143 passed / 1 skipped.
View command line instructions
Checkout
From your project repository, check out a new branch and test the changes.