HyperAIHyperAI

Command Palette

Search for a command to run...

Online-Tutorial | Schnelle Entscheidungen, Bedarfsgerechtes Schlussfolgern – JEV-27B-VL Basiert Auf Qwen3.8-27B Und Unterstützt Bild-Text-Erkennung, Multiple-Choice Und Bewertung

Featured Image

Visuelle Sprachmodelle sind bereits in der Lage, Bilder zu verstehen und Fragen zu beantworten. Doch wenn KI Bilder analysiert, muss sie nicht unbedingt eine lange Antwort generieren. Beispielsweise erfordern Aufgaben wie die Prüfung, ob ein Bild gegen Richtlinien verstößt, die Auswahl des am besten passenden Produkts aus einer Reihe von Angeboten oder die Entscheidung, ob ein Kurzvideo-Cover empfehlenswert ist, oft keine ausführliche Analyse, sondern eine klare Entscheidung samt einer Angabe der Konfidenz dieser Entscheidung.

Das visuelle Entscheidungsmodell JEV-27B-VL, das vom AutoTrust-Team im Jahr 2026 eingeführt wurde, erforscht einen anderen Lösungsansatz. Es belegt den ersten Platz in der Vision-Rangliste des Community-Index Jev Decision Index 0.3. Laut Projektbeschreibung konzentriert sich JEV-27B-VL im Gegensatz zu visuellen Sprachmodellen, die primär auf offene Textgenerierung ausgelegt sind, stärker auf Typed Decisions (typisierte Entscheidungen): Das Modell gibt direkt auf Text- und Bildeingaben abgestimmte Ergebnisse zurück, die einem spezifizierten Typ entsprechen.

Technisch basiert JEV-27B-VL auf Qwen3.8-27B und integriert über den Blocks-of-Experts-Ansatz zwei unterschiedliche Verarbeitungswege: System 1 ist für schnelle Entscheidungen zuständig, System 2 für tiefgehendes Reasoning. Es werden die Rechenpfade für verschiedene Aufgaben neu angeordnet, um zu vermeiden, dass jede Entscheidung die vollständigen Kosten für Generierung und Reasoning trägt, was zu einer leichtgewichtigeren Architektur führt. System 1 gibt über einen speziellen Decision Head in einem einzigen Vorwärtsschritt kalibrierte Wahrscheinlichkeiten für die Optionen aus. Dies unterstützt Ja/Nein-Entscheidungen, Multiple-Choice-Fragen (2–16 Optionen) sowie Bewertungen von 0–5 Punkten, ohne dass die Antwort tokenweise autoregressiv generiert werden muss. Bei geringer Entscheidungs-Konfidenz wird zusätzlich System 2 aufgerufen, das das ursprüngliche Qwen3.8-27B für schrittweises Reasoning nutzt. Im Vergleich dazu, dass alle Aufgaben den vollständigen Generierungsprozess durchlaufen, ist diese bedarfsgesteuerte Zuteilung von Rechenressourcen besser für Anwendungen geeignet, bei denen Latenz und Reasoning-Kosten kritisch sind.

Wenn eine Aufgabe nur eine Entscheidung erfordert, muss das Modell keine ausführliche Antwort generieren. Derzeit ist im Tutorial-Bereich der HyperAI-Website (hyper.ai) das Tutorial „JEV-27B-VL: Strukturiertes Entscheidungsmodell für Text und Bild“ verfügbar, das Entwicklern die schnelle Nutzung der Modellfähigkeiten erleichtert.

Online ausführen:

https://go.hyper.ai/B3HaT

Weitere Online-Tutorials:

https://hyper.ai/notebooks

Demo-Seite

Demo ausführen

  1. Gehen Sie auf die Startseite von hyper.ai, wählen Sie die Seite „Tutorials“ oder klicken Sie auf „Weitere Tutorials anzeigen“, wählen Sie „JEV-27B-VL: Strukturiertes Entscheidungsmodell für Text und Bild“ aus und klicken Sie auf „Dieses Tutorial ausführen“.
  1. Nach der Seitenweiterleitung klicken Sie oben rechts auf „Clone“, um das Tutorial in Ihren eigenen Container zu klonen.

Hinweis: Oben rechts auf der Seite kann die Sprache umgeschaltet werden. Derzeit stehen Chinesisch und Englisch zur Verfügung. In diesem Tutorial werden die Schritte anhand der englischen Version gezeigt.

  1. Wählen Sie „NVIDIA RTX 5090“ und das entsprechende Image aus und klicken Sie auf „Continue job execution“ (Job-Ausführung fortsetzen). Dieses Tutorial nutzt standardmäßig die Ressource NVIDIA GeForce RTX 5090 (32 GB VRAM).
  1. Warten Sie, bis die Ressourcen zugewiesen sind. Wenn der Status auf „Running“ (Läuft) wechselt, klicken Sie auf „Open Workspace“, um den Jupyter Workspace zu öffnen.

Ergebnis-Demonstration

  1. Nach der Seitenweiterleitung klicken Sie links auf die README-Datei. Klicken Sie oben auf „Run“ (Ausführen).
  1. Nach Abschluss der Ausführung öffnen Sie ein neues Terminal und führen Sie den folgenden Befehl aus, um Open WebUI zu starten.
  1. Nach dem Start klicken Sie rechts auf die API-Adresse, um die Open WebUI-Oberfläche im Browser aufzurufen.