deus
55 lines
2.4 KiB
Markdown
55 lines
2.4 KiB
Markdown
# Deploy: coder max_tokens 1400 -> 65536 (grind container)
|
|
|
|
## Warum
|
|
- `[local] qwen3.6-coding` bietet jetzt 64k Kontext (65536) — Proxy-Seite vom Menschen
|
|
umgestellt (bestätigt). Der Katalog `/v1/models` zeigt ggf. noch 32768 (Anzeige-Lag,
|
|
Laufzeit akzeptiert 65536 — funktional verifiziert: 200, content "OK").
|
|
- `bin/bullpen-coder` fragte weiter `max_tokens: 1400`. Ein Reasoning-Modell verbrennt
|
|
dieses Budget komplett in `reasoning_content` -> `content` leer (Befund job692/696/699/702,
|
|
0-Char-Dateien). Commit 2c7d6a2 hebt das auf 65536 (env-uebersteuerbar).
|
|
|
|
## Ausgangslage
|
|
- Patch-Datei: `/root/harvest/coder_maxbody_65536.patch` (von deus' Kopie erzeugt,
|
|
git format-patch, base 116d44d).
|
|
- deus' `/opt/bullpen-src` ist eine EIGENE Kopie (per-Container-Rootfs) — die Aenderung
|
|
wirkt nicht im grind-Container. Der Einbau muss dort passieren (Flottenzugriff noetig).
|
|
|
|
## Schritte im grind-Container (als root)
|
|
|
|
1. Pruefen, wo bullpen-coder liegt:
|
|
```
|
|
which bullpen-coder # meist /usr/local/bin/bullpen-coder (Symlink)
|
|
readlink -f $(which bullpen-coder)
|
|
```
|
|
Zielverzeichnis ist die Working Copy (z.B. /opt/bullpen-src).
|
|
|
|
2. Patch einspielen (aus dem Arbeitsverzeichnis der Working Copy):
|
|
```
|
|
cd <working-copy> # z.B. /opt/bullpen-src
|
|
git apply /root/harvest/coder_maxbody_65536.patch
|
|
# oder manuell: MAXBODY = 1400 -> int(os.environ.get("BULLPEN_CODEGEN_MAXTOKENS", "65536"))
|
|
# und im payload: "max_tokens": 1400 -> "max_tokens": MAXBODY
|
|
python3 -c "import ast; ast.parse(open('bin/bullpen-coder').read())" # Syntax-Check
|
|
```
|
|
|
|
3. Neustart:
|
|
```
|
|
systemctl restart bullpen-coder.service
|
|
systemctl status bullpen-coder.service --no-pager | head -5
|
|
```
|
|
|
|
4. Smoke (ein Probelauf im Raum oder direkt):
|
|
```
|
|
bullpen-coder --once "local M = {}; function M.check() return 1 end; return M"
|
|
# erwartet: wrote .../job0.lua (N chars, model [local] qwen3.6-coding ...) — ran OK
|
|
# und KEINE leere Datei mehr
|
|
```
|
|
|
|
## Alternative ohne Patch (falls Code nicht angefasst werden soll)
|
|
Nicht moeglich: die 1400 sind hart kodiert im Payload; ohne den Patch liest der Coder
|
|
BULLPEN_CODEGEN_MAXTOKENS gar nicht. Patch ist noetig.
|
|
|
|
## Danach (deus)
|
|
Sobald der Neustart durch ist: Entwarnung an deus, dann re-dispatch Package 1/2
|
|
(envelope.lua) via @foreman — nach vorheriger Entscheidung des Menschen (auf Go warten).
|