Diese Demo zeigt, wie man mit Hilfe großer Sprachmodelle (Large Language Models, LLMs) eingescannte Stücklisten digitalisiert.
Hintergründe zu diesem Anwendungsfall im mittelständischen Maschinenbau finden Sie in diesem Beitrag:
Stücklisten digitalisieren mit KI
Verfügbarkeit des KI-Servers
Da der für diese Demo verwendete KI-Server auch zu anderen Zwecken genutzt wird, ist diese Demo nicht jederzeit verfügbar. Versuchen Sie es dann zu einem späteren Zeitpunkt erneut.
Beispieldaten oder Bild-Upload
oder eigenes Bild hochladen
Bilddatei aus Explorer hier reinziehen
PNG, JPG bis zu 10 MB
oder
—
Anderes Bild hier reinziehen zum Ersetzen
Sprachmodell wählen
Die verschiedenen frei verfügbaren "Open Weights" Sprachmodelle (LLMs) haben unterschiedliche Stärken und Schwächen.
Welches Modell für den eigenen Anwendungsfall die besten Ergebnisse liefert, und ob Anpassungen nötig sind, muss durch systematische Tests ermittelt werden.
In dieser Demo stehen folgende Modelle zur Auswahl:
Gemma4-26B-A4B des US-Herstellers Google. Die hier installierte Version (mit 4 Bit-Quantisierung) benötigt etwa 12 GB Videospeicher (VRAM) auf der GPU.
Qwen3.6-35B-A3B des chinesischen Herstellers Alibaba. Es benötigt ebenfalls knapp 12 GB VRAM.
Gemma4-E4B-IT ist eine deutlich kleinere Variante des Google-Modells Gemma4. Hier mit 8 Bit Quantisierung und etwa 10 GB VRAM-Bedarf. Bei der 4-Bit Variante sinkt der VRAM-Bedarf auf etwa 5 GB, so dass es auf einer GPU mit nur 8 GB VRAM laufen könnte.
Bei meinen Tests waren die Ergebnisse mit diesem Modell deutlich schlechter als mit den anderen beiden.
