Zum Inhalt springen

KI-Kompass / Kurzfassungen

Ein Modell, das nur entscheidet, kostet fast nichts

Automatisierung Kosten

Routinefragen in Agenten-Abläufen werden deutlich billiger und schneller, wenn ein Entscheidungsmodell sie beantwortet und das große Sprachmodell nur noch schreibt.

Ausführlich: Entscheidungsmodelle – wann ein Modell nur wählen soll

Viele Agenten-Schritte sind Entscheidungen statt Schreibaufgaben: Ja/Nein, Auswahl aus einer Liste oder ein Score. Dafür gibt es jetzt Entscheidungsmodelle wie Jev von TypeSafe. Sie liefern eine der festgelegten Antworten plus Wahrscheinlichkeit, schreiben aber keinen Text und rufen keine Werkzeuge auf. Laut OpenRouter kostet Jev 0,042 $ je Million Eingabe-Tokens, die Ausgabe ist kostenlos (extern geprüft).

Werkzeug und Alternative

Jev ist proprietär und über eine eigene Decisions-Schnittstelle bei OpenRouter erreichbar; die Schnittstelle trägt dort den Namen „alpha“. Neuanmeldungen bei TypeSafe selbst sind laut AI LABS (28.09.) pausiert. Offen: ein kleines lokales Klassifikationsmodell. Oder ein kleines Sprachmodell wie Claude Haiku mit fest vorgegebenen Antworten: teurer, Listenpreise vor der Wahl vergleichen, dafür ohne Bindung an eine einzelne Schnittstelle.

Quellen

Einordnung: 7 Videos auf 3 Kanälen in zwei Wochen, teils mit Partnerlinks, also keine unabhängige Begeisterung. Kostenvergleiche der Creator: eigene Messungen, Prompts nicht offengelegt.

Das mit deinem Team ausprobieren? Dafür gibt es die KI-Werkstatt. KI-Werkstatt ansehen