LV-Extraktion in
Echtzeit
— destilliertes 4B-Modell vs. Teacher
Echtzeit · NVIDIA RTX 6000 Pro
≡
Test_LV.pdf
Leistungsverzeichnis · Dachdeckerarbeiten
Seite 1/3
S
Student · 4B
destilliert & fine-tuned
fine-tuned
Geschwindigkeit
–
t/s
Tokens
0
Dokument wird analysiert …
T
Teacher · Qwen 27B
Basismodell
Teacher
Geschwindigkeit
–
t/s
Tokens
0
Dokument wird analysiert …
Identisches Ergebnis
·
9/9 Positionen
·
–× schneller
Student 4B, destilliert aus Qwen 27B — gemessen auf einer NVIDIA RTX 6000 Pro