Eine Technik, die LLM-Antworten verbessert, indem zunächst relevante Informationen aus einer spezifischen Wissensbasis abgerufen werden, um die Ausgabe des Modells zu fundieren.
Definition: Eine Technik, die LLM-Antworten verbessert, indem zunächst relevante Informationen aus einer spezifischen Wissensbasis abgerufen werden, um die Ausgabe des Modells zu fundieren.
Retrieval-Augmented Generation (RAG) ist eine fortgeschrittene Technik, die die Genauigkeit von LLMs verbessert, indem das Modell mit einer spezifischen Datenbank von Dokumenten oder Wissen verbunden wird.
Anstatt sich ausschließlich auf seine Trainingsdaten zu stützen, geht ein RAG-fähiges System wie folgt vor:
Stellen Sie es sich so vor, als ob die KI eine spezifische, kuratierte Bibliothek konsultiert, bevor sie Ihre Frage beantwortet.
RAG reduziert Halluzinationen, beseitigt sie aber nicht. Das Modell kann weiterhin:
RAG ist besonders wertvoll für den Aufbau von Research Repositories, in denen ein KI-Assistent Fragen spezifisch zu vergangenen Studien, Methodologien und Ergebnissen Ihrer Organisation beantworten soll, statt generische Antworten aus seinem allgemeinen Training zu generieren.
Ein KI-System, das auf grossen Mengen von Text trainiert wurde, um menschenähnliche Sprache vorherzusagen und zu generieren. Am besten als Konzept-Transformationsmaschine zu verstehen, nicht als Wissensdatenbank.
Wenn ein KI-Modell plausibel klingende, aber faktisch falsche oder erfundene Informationen generiert. Eine natürliche Konsequenz daraus, wie LLMs wahrscheinlichen Text vorhersagen, statt Wahrheit zu verifizieren.
Der Prozess des Weitertrainierens eines vortrainierten LLM auf einem spezialisierten Datensatz, um sein Verhalten zu verändern oder die Leistung bei bestimmten Aufgaben zu verbessern. Ein aufwändiger Ansatz für grosse, spezialisierte Anforderungen.
Dieser Begriff wird in den folgenden Artikeln referenziert:
Jenseits einfacher Prompts gibt es Techniken, die die Zuverlässigkeit von KI dramatisch verbessern: strukturierte Kommunikation, Notizen statt Transkripte, Modelle als Komitee von Bewerter*innen einsetzen und verstehen, wann RAG oder Fine-Tuning sinnvoll ist.
Wenn Research-Praxen reifen, brechen Ad-hoc-Methoden zusammen. Research Operations (ResearchOps) verlagert den Fokus von der Durchführung einzelner Studien auf den Aufbau von Infrastruktur, die Forschenden ermöglicht, effizient und konsistent im großen Maßstab zu arbeiten.