Unterschiede zwischen Large Language Modellen

---

KI-Sprachmodelle haben verschiedene Eigenschaften, die die  Leistungsfähigkeit sowie den Anwendungsbereich des LLMs beeinflussen. Je nach Anwendungsbereich berücksichtigt man bei der Abwägung für oder gegen ein Modell verschiedene Eigenschaften des LLMs. Nachfolgend finden Sie einige wichtige Eigenschaften knapp erklärt:

• Verfügbarkeit: Wenn LLMs offen verfügbar (OpenSource) sind, kann ihr Quellcode im Internet frei eingesehen und genutzt werden. So können offene Modelle z.B. auch lokal betrieben werden, ohne dass Daten an externe Dienstleister geschickt werden müssen.
• Reasoning: Modelle mit „Reasoning“-Fähigkeiten gehen nicht direkt zur Antwort über, sondern erzeugen durch Zwischenschritte eine Art “Gedankenkette”. Anstatt also den Output direkt zu generieren, geben sie ihre eigenen „Gedanken“ in eine Art Schleife, um möglichst zu besseren Ergebnissen zu kommen.
• Spezialisierte Funktionen: Einige Modelle sind auf die Verarbeitung von bestimmten Daten spezialisiert, z.B.:
  • Vision: die Fähigkeit, Bilder zu verarbeiten und zu beschreiben
  • Programming/Coding: die Fähigkeit, Code zu verarbeiten und zu generieren
  • Tooleinbindung: Das Modell wurde darin trainiert, Werkzeuge für mehrere Funktionen zu kombinieren. So kann z.B. mit der Einbindung einer Suchmaschine Zugang zu aktuellen Daten aus dem Internet gegeben werden.
• Knowledge Cutoff: LLMs werden mit Daten trainiert bevor die Modelle für Nutzende zugänglich sind. Am Ende des Trainings kommt es zum Knowledge Cutoff, zur „Wissensgrenze“. Das bedeutet, LLMS habe keine Informationen über Ereignisse, Entwicklungen oder neue Fakten, die nach dem Cutoff-Datum stattgefunden haben. Einige Modelle können das durch eine Onlinesuche kompensieren. Sie greifen dann in Echtzeit auf Daten aus dem Internet zurück.
• Kontextfenster: Die Generierung von Text durch KI-Systeme erfolgt auf der Grundlage einer Analyse vorheriger Token und ihres umgebenden Kontexts. Die Kapazität des Modells, diesen Kontext zu verarbeiten, wird durch die Größe des Kontextfensters definiert.

Informationen zu den Unterschieden zwischen den lokal sowie extern betriebenen Modellen in kiwi finden Sie im Bereich „Datenschutz“ auf der Seite KI@UOS.