Files
lmcp/deploy_coder_65536.md
T

2.4 KiB

Deploy: coder max_tokens 1400 -> 65536 (grind container)

Warum

  • [local] qwen3.6-coding bietet jetzt 64k Kontext (65536) — Proxy-Seite vom Menschen umgestellt (bestätigt). Der Katalog /v1/models zeigt ggf. noch 32768 (Anzeige-Lag, Laufzeit akzeptiert 65536 — funktional verifiziert: 200, content "OK").
  • bin/bullpen-coder fragte weiter max_tokens: 1400. Ein Reasoning-Modell verbrennt dieses Budget komplett in reasoning_content -> content leer (Befund job692/696/699/702, 0-Char-Dateien). Commit 2c7d6a2 hebt das auf 65536 (env-uebersteuerbar).

Ausgangslage

  • Patch-Datei: /root/harvest/coder_maxbody_65536.patch (von deus' Kopie erzeugt, git format-patch, base 116d44d).
  • deus' /opt/bullpen-src ist eine EIGENE Kopie (per-Container-Rootfs) — die Aenderung wirkt nicht im grind-Container. Der Einbau muss dort passieren (Flottenzugriff noetig).

Schritte im grind-Container (als root)

  1. Pruefen, wo bullpen-coder liegt:

    which bullpen-coder          # meist /usr/local/bin/bullpen-coder (Symlink)
    readlink -f $(which bullpen-coder)
    

    Zielverzeichnis ist die Working Copy (z.B. /opt/bullpen-src).

  2. Patch einspielen (aus dem Arbeitsverzeichnis der Working Copy):

    cd <working-copy>            # z.B. /opt/bullpen-src
    git apply /root/harvest/coder_maxbody_65536.patch
    # oder manuell: MAXBODY = 1400  ->  int(os.environ.get("BULLPEN_CODEGEN_MAXTOKENS", "65536"))
    # und im payload: "max_tokens": 1400  ->  "max_tokens": MAXBODY
    python3 -c "import ast; ast.parse(open('bin/bullpen-coder').read())"   # Syntax-Check
    
  3. Neustart:

    systemctl restart bullpen-coder.service
    systemctl status bullpen-coder.service --no-pager | head -5
    
  4. Smoke (ein Probelauf im Raum oder direkt):

    bullpen-coder --once "local M = {}; function M.check() return 1 end; return M"
    # erwartet: wrote .../job0.lua (N chars, model [local] qwen3.6-coding ...) — ran OK
    # und KEINE leere Datei mehr
    

Alternative ohne Patch (falls Code nicht angefasst werden soll)

Nicht moeglich: die 1400 sind hart kodiert im Payload; ohne den Patch liest der Coder BULLPEN_CODEGEN_MAXTOKENS gar nicht. Patch ist noetig.

Danach (deus)

Sobald der Neustart durch ist: Entwarnung an deus, dann re-dispatch Package 1/2 (envelope.lua) via @foreman — nach vorheriger Entscheidung des Menschen (auf Go warten).