Lokales KI-System für einen GaLaBau-Betrieb. Alle KI-Funktionen laufen auf dem eigenen Server, aufgeteilt auf drei VMs (LLM, OCR, Coordinator).
Angebotsautomatisierung
- LV einlesen (PDF, Scan, GAEB, Excel)
- Preise aus alten LVs inflationsbereinigt vorschlagen
- Material bei Lieferanten anfragen und Preise mit Preisgarantie cachen
- Angebot als GAEB X84, PDF oder Excel ausgeben
Dokumenten-Chatbot
- Indexiert das Netzlaufwerk, auch gescanntes Papier per OCR
- Beantwortet Fragen mit Quellenangabe (Datei und Seite)
Bedienung
- Desktop-App mit Installer und Auto-Updater (Tauri)
- Web-Panel auf dem Coordinator für Download und Administration: Updates, Wartungsmodus, Claude-Zugang
Weiterführende Doku:
- CLAUDE.md: Verträge zwischen den Teilen, VMs, Ports
- docs/ARCHITEKTUR.md: fachliche Architektur und Meilensteine
- docs/BETRIEB.md: Einrichtung und Betrieb der VMs
| Pfad | Inhalt |
|---|---|
crates/doc-ir |
Zwischenrepräsentation: Tokens mit Bbox, Konfidenz und Herkunft, Zeilenbildung |
crates/lv-model |
LV-Domänenmodell: Titel/Positionen, OZ, Einheiten, deutsche Zahlen, Review-Felder (WASM-tauglich) |
crates/api-types |
Gemeinsame API- und Live-Event-Typen für Server und Desktop-App (WASM-tauglich) |
crates/pdf |
PDFium-Anbindung: Textebene → Wort-Tokens, Seiten-Triage (Textebene oder OCR?), Rendern |
crates/ocr |
OcrEngine-Trait und PaddleOCR über oar-ocr (CPU; CUDA nur als optionales Feature) |
crates/gaeb |
GAEB DA XML 3.x lesen (X81–X86, tolerant, ISO-8859-1) und X84-Angebotsabgabe aus der Original-X83 schreiben |
crates/export |
Bepreistes LV als Excel mit Formeln, Titelsummen und MwSt. |
crates/db |
Postgres-Pool und Migrationen |
crates/llm |
Client für llama-server (LLM-VM) |
crates/retrieval |
Embeddings (BGE-M3) und hybride Suche (pgvector + Volltext) |
crates/ingest |
Netzlaufwerk scannen, Text gewinnen, chunken |
crates/chat |
Dokumenten-Chatbot: Antwort mit Quellen |
apps/coordinator |
REST-API für die Desktop-App, Web-Panel, Update-Server |
apps/worker |
Verarbeitung: --role vision (OCR-VM) und --role cpu (Coordinator-VM) |
apps/desktop |
Desktop-App (Tauri 2 + Leptos), eigener Cargo-Workspace |
apps/bench |
M0-Benchmark für Textebene und OCR an echten LVs |
deploy/ |
Compose-Dateien, systemd-Units und Install-Skripte je VM |
Voraussetzungen: rustup und die Visual Studio Build Tools mit C++-Workload.
winget install Rustlang.Rustup
winget install Microsoft.VisualStudio.2022.BuildTools --override "--wait --quiet --add Microsoft.VisualStudio.Workload.VCTools --includeRecommended"Das Repo liegt auf einem Netzlaufwerk. Von dort lassen sich keine Build-Skripte ausführen, und Kompilieren über SMB ist langsam. Deshalb das Build-Verzeichnis auf die lokale Platte legen:
$env:CARGO_TARGET_DIR = "$env:LOCALAPPDATA\cargo-target\gala"
cargo test --workspaceDauerhaft geht das mit setx CARGO_TARGET_DIR "%LOCALAPPDATA%\cargo-target\gala".
Die Desktop-App baut man getrennt, siehe apps/desktop/README.md.
PDFium wird zur Laufzeit geladen und nicht eingecheckt:
pdfium-win-x64.tgz(bzw.pdfium-linux-x64.tgz) von bblanchon/pdfium-binaries herunterladen.- Nach
vendor/pdfium/entpacken. Das Tool findet dannvendor/pdfium/bin/pdfium.dllbzw.vendor/pdfium/lib/libpdfium.soautomatisch. - Alternativ
PDFIUM_DIRsetzen.
Misst an echten LVs, bevor die Import-Pipeline darauf aufbaut. Beispiel-LVs gehören nach corpus/private/; der Ordner wird nicht eingecheckt.
# Welche Seiten haben eine brauchbare Textebene, welche brauchen OCR?
cargo run --release -p bench -- text corpus/private
# OCR-Presets vergleichen. Die Modelle lädt oar-ocr beim ersten Lauf nach ~/.oar.
cargo run --release -p bench -- ocr corpus/private --preset v5-latin --preset v6-small --json bench-out/ocr.json --dump-dir bench-out/texteSo misst bench ocr die Zeichenfehlerrate:
- Digitale Seiten: Die Textebene dient automatisch als Referenz. Das ist optimistisch, weil die Seite sauber gerendert ist.
- Scans: Hier braucht es Ground-Truth-Dateien neben dem PDF,
<name>.p<Seite>.txt(Seite 1-basiert). Bei Bildern heißt die Datei<name>.txt.
Auf der OCR-VM (gala-ocr, OCR auf der CPU) misst deploy/ocr/ocr-test.sh mit dem Bench-Image:
sudo /bin/bash /opt/gala/deploy/ocr/ocr-test.sh /mnt/archiv/<ordner>