Modellklasse, die vor der Antwort extra Rechenzeit ins Nachdenken steckt und dabei Zwischenschritte des Reasonings erzeugt. Pro Antwort langsamer und teurer, bei schweren Problemen aber spürbar besser.
Definition: Modellklasse, die vor der Antwort extra Rechenzeit ins Nachdenken steckt und dabei Zwischenschritte des Reasonings erzeugt. Pro Antwort langsamer und teurer, bei schweren Problemen aber spürbar besser.
Eine Modellklasse, die vor der Antwort extra Rechenzeit ins Nachdenken steckt und dabei Zwischenschritte erzeugt, die die Leistung bei Mathe, Code und komplexer Analyse verbessern. Pro Antwort langsamer und teurer, bei schweren Problemen aber spürbar besser. Bewerte sie anders als schnelle Chat-Modelle: Latenz und Kosten verschieben sich, und der Gewinn zeigt sich nur, wenn die Aufgabe tatsächlich schwer ist.
Ein KI-System, das auf grossen Mengen von Text trainiert wurde, um menschenähnliche Sprache vorherzusagen und zu generieren. Am besten als Konzept-Transformationsmaschine zu verstehen, nicht als Wissensdatenbank.
Ein trainiertes Modell laufen lassen, um Output zu erzeugen, im Gegensatz zum Training. Jeder API-Aufruf an ein Sprachmodell ist Inferenz, und die Inferenz-Kosten pro Token prägen die Ökonomie von LLMs.
Trainiertes System, das Eingabe über gelernte Muster auf Ausgabe abbildet. In der Research-Praxis meist ein Large Language Model, aber der Begriff umfasst auch Bild-, Audio- und multimodale Systeme.