feat(astrololo): klucze do modeli w chmurze + konfiguracja modelu lokalnego #3

2026-07-21T20:34:07Z

gitea commented

2026-07-21 20:34:07 +00:00

Odpowiedz na pytanie gdzie dac tokeny API do LLM-ow. Wymaga zmergowania
astrololo #15 — bez niego konfiguracja
per dostawca nie istnieje i klucze i tak by nie zadzialaly.

Co dochodzi do `logic`

Jawnie (nie sa tajne): LLM_PROVIDER=local, LOCAL_BASE_URL, LOCAL_MODEL,
LLM_TIMEOUT=180, LLM_MAX_TOKENS=2000.
Z sekretu astrololo-llm: OPENAI_API_KEY, ANTHROPIC_API_KEY.

Dlaczego OSOBNY sekret i dlaczego OPCJONALNY

Osobny (astrololo-llm, nie doklejony do astrololo-auth) — zeby klucze LLM dalo sie
wymieniac bez dotykania hasla do aplikacji i tokenu miedzywarstwowego.
optional: true — swiadomie inaczej niz przy auth. Auth to zabezpieczenie i ma
zatrzymac pody, gdy go brak. Klucze do chmury to funkcja: ich brak nie moze wywracac
wdrozenia. Bez sekretu pody startuja normalnie, dziala model lokalny, a chmura jest
po prostu niedostepna.

Utworzenie sekretu

read -rs -p "OPENAI_API_KEY (Enter = pomin): " OPENAI_KEY; echo
read -rs -p "ANTHROPIC_API_KEY (Enter = pomin): " ANTHROPIC_KEY; echo

kubectl -n astrololo create secret generic astrololo-llm \
  --from-literal=OPENAI_API_KEY="$OPENAI_KEY" \
  --from-literal=ANTHROPIC_API_KEY="$ANTHROPIC_KEY"

unset OPENAI_KEY ANTHROPIC_KEY
kubectl -n astrololo rollout restart deploy/logic

Restart jest konieczny — zmienne wstrzykuja sie przy starcie poda, nie w locie.

Do dopasowania u siebie

LOCAL_BASE_URL wskazuje dzis http://ollama.ollama.svc.cluster.local:11434/v1 — zmien na
adres, pod ktorym naprawde stoi Twoja Ollama/vLLM. Jesli modelu lokalnego jeszcze nie ma,
ustaw LLM_PROVIDER na openai/anthropic albo wybieraj dostawce w UI.

Wartosci kluczy nie trafiaja do repo — w wyniku kubectl kustomize nadal nie ma zadnego
kind: Secret. Instrukcja podmiany pojedynczego klucza w astrololo/README.md.

Wybor chmury oznacza, ze oryginalne opisy z baz opuszczaja siec. Prompt mozna obejrzec
przed wyslaniem; warto zawnioskowac u dostawcy o Zero Data Retention (LOG-32).

Odpowiedz na pytanie **gdzie dac tokeny API do LLM-ow**. Wymaga zmergowania [astrololo #15](https://gitea.czernobog.pl/gitea/astrololo/pulls/15) — bez niego konfiguracja per dostawca nie istnieje i klucze i tak by nie zadzialaly. ## Co dochodzi do `logic` Jawnie (nie sa tajne): `LLM_PROVIDER=local`, `LOCAL_BASE_URL`, `LOCAL_MODEL`, `LLM_TIMEOUT=180`, `LLM_MAX_TOKENS=2000`. Z sekretu `astrololo-llm`: **`OPENAI_API_KEY`**, **`ANTHROPIC_API_KEY`**. ## Dlaczego OSOBNY sekret i dlaczego OPCJONALNY - **Osobny** (`astrololo-llm`, nie doklejony do `astrololo-auth`) — zeby klucze LLM dalo sie wymieniac bez dotykania hasla do aplikacji i tokenu miedzywarstwowego. - **`optional: true`** — swiadomie inaczej niz przy auth. Auth to *zabezpieczenie* i ma zatrzymac pody, gdy go brak. Klucze do chmury to *funkcja*: ich brak nie moze wywracac wdrozenia. Bez sekretu pody startuja normalnie, dziala model lokalny, a chmura jest po prostu niedostepna. ## Utworzenie sekretu ```bash read -rs -p "OPENAI_API_KEY (Enter = pomin): " OPENAI_KEY; echo read -rs -p "ANTHROPIC_API_KEY (Enter = pomin): " ANTHROPIC_KEY; echo kubectl -n astrololo create secret generic astrololo-llm \ --from-literal=OPENAI_API_KEY="$OPENAI_KEY" \ --from-literal=ANTHROPIC_API_KEY="$ANTHROPIC_KEY" unset OPENAI_KEY ANTHROPIC_KEY kubectl -n astrololo rollout restart deploy/logic ``` **Restart jest konieczny** — zmienne wstrzykuja sie przy starcie poda, nie w locie. ## Do dopasowania u siebie `LOCAL_BASE_URL` wskazuje dzis `http://ollama.ollama.svc.cluster.local:11434/v1` — **zmien na adres, pod ktorym naprawde stoi Twoja Ollama/vLLM**. Jesli modelu lokalnego jeszcze nie ma, ustaw `LLM_PROVIDER` na `openai`/`anthropic` albo wybieraj dostawce w UI. Wartosci kluczy **nie trafiaja do repo** — w wyniku `kubectl kustomize` nadal nie ma zadnego `kind: Secret`. Instrukcja podmiany pojedynczego klucza w `astrololo/README.md`. > Wybor chmury oznacza, ze **oryginalne opisy z baz opuszczaja siec**. Prompt mozna obejrzec > przed wyslaniem; warto zawnioskowac u dostawcy o Zero Data Retention (LOG-32).

gitea added 1 commit 2026-07-21 20:34:08 +00:00

feat(astrololo): klucze do modeli w chmurze + konfiguracja modelu lokalnego 4eed105571

Domyslnie dziala model LOKALNY i nic nie opuszcza sieci. Zeby dalo sie wybrac
w UI OpenAI albo Anthropic, logika potrzebuje ich kluczy.

- LLM_PROVIDER=local, LOCAL_BASE_URL, LOCAL_MODEL, LLM_TIMEOUT, LLM_MAX_TOKENS
  jawnie (nie sa tajne),
- OPENAI_API_KEY i ANTHROPIC_API_KEY z osobnego sekretu `astrololo-llm`.

Sekret jest OPCJONALNY (optional: true) — inaczej niz `astrololo-auth`. Auth to
zabezpieczenie i ma zatrzymac pody, gdy go brak; klucze do chmury to funkcja,
wiec ich brak nie moze wywracac wdrozenia. Bez nich pody startuja normalnie,
tylko chmura jest niedostepna.

Osobny sekret, a nie doklejenie do astrololo-auth, zeby klucze LLM dalo sie
wymieniac bez dotykania hasla i tokenu miedzywarstwowego.

Zwalidowane kubectl kustomize; w wyniku nadal zadnego `kind: Secret`.
Instrukcja tworzenia i podmiany kluczy w astrololo/README.md.

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

This pull request can be merged automatically.

This branch is out-of-date with the base branch

You are not authorized to merge this pull request.

View command line instructions

Checkout

From your project repository, check out a new branch and test the changes.

git fetch -u origin feat/llm-keys:feat/llm-keys

git checkout feat/llm-keys

Sign in to join this conversation.

1 Participants

Notifications

Due Date

No due date set.

Dependencies

No dependencies set.

Reference: gitea/deploy#3