Unterschiede zwischen Large Language Modellen

---

KI-Sprachmodelle haben verschiedene Eigenschaften, die die  Leistungsfähigkeit sowie den Anwendungsbereich des LLMs beeinflussen. Je nach Anwendungsbereich berücksichtigt man bei der Abwägung für oder gegen ein Modell verschiedene Eigenschaften des LLMs. Nachfolgend finden Sie einige wichtige Eigenschaften knapp erklärt:

• Verfügbarkeit: Wenn LLMs offen verfügbar (OpenSource) sind, kann ihr Quellcode im Internet frei eingesehen und genutzt werden. So können offene Modelle z.B. auch lokal betrieben werden, ohne dass Daten an externe Dienstleister geschickt werden müssen.
• Reasoning: Modelle mit „Reasoning“-Fähigkeiten gehen nicht direkt zur Antwort über, sondern erzeugen durch Zwischenschritte eine Art “Gedankenkette”. Anstatt also den Output direkt zu generieren, geben sie ihre eigenen „Gedanken“ in eine Art Schleife, um möglichst zu besseren Ergebnissen zu kommen.
• Spezialisierte Funktionen: Einige Modelle sind auf die Verarbeitung von bestimmten Daten spezialisiert, z.B.:
  • Vision: die Fähigkeit, Bilder zu verarbeiten und zu beschreiben
  • Programming/Coding: die Fähigkeit, Code zu verarbeiten und zu generieren
  • Tooleinbindung: Das Modell wurde darin trainiert, Werkzeuge für mehrere Funktionen zu kombinieren. So kann z.B. mit der Einbindung einer Suchmaschine Zugang zu aktuellen Daten aus dem Internet gegeben werden.
• Knowledge Cutoff: LLMs werden mit Daten trainiert bevor die Modelle für Nutzende zugänglich sind. Am Ende des Trainings kommt es zum Knowledge Cutoff, zur „Wissensgrenze“. Das bedeutet, LLMS habe keine Informationen über Ereignisse, Entwicklungen oder neue Fakten, die nach dem Cutoff-Datum stattgefunden haben. Einige Modelle können das durch eine Onlinesuche kompensieren. Sie greifen dann in Echtzeit auf Daten aus dem Internet zurück.
• Kontextfenster: Die Generierung von Text durch KI-Systeme erfolgt auf der Grundlage einer Analyse vorheriger Token und ihres umgebenden Kontexts. Die Kapazität des Modells, diesen Kontext zu verarbeiten, wird durch die Größe des Kontextfensters definiert.

Modelle in kiwi

lokale Modelle: 
Angehörige der Uni Osnabrück können in kiwi auf an der Uni betriebene Open-Source Sprachmodelle zugreifen. Die eingegebenen Daten werden nicht an externe Anbieter weitergegeben und somit auch nicht weiterverarbeitet. Das bringt den Vorteil mit sich, dass in diese Modelle auch sensible Daten (wie bspw. personenbezogene Daten oder Werke Dritter) eingegeben werden dürfen. 

externe Modelle: 
Zusätzlich gibt es die Möglichkeit, mit dem gpt-Sprachmodell von OpenAI zu interagieren, ohne dass hierfür ein eigener Account bei OpenAI anlegen werden muss. kiwi übermittelt bei der Anmeldung keine persönlichen Daten an OpenAI. Darüber hinaus wird verhindert, dass Eingaben (“Prompts”) einer Person zugeordnet werden und dass Chat-Inhalte als Trainingsdaten verwendet werden. Alle Daten werden aber aus rechtlichen Gründen 6 Monate auf den Servern von OpenAI gespeichert. Durch diese Maßnahmen sind die Anforderungen für den Einsatz von OpenAI’s GPT in der Lehre allerdings ebenfalls erfüllt. 
Sämtliche Eingaben werden aber auf externen Servern verarbeitet. Sie sollten also keine persönlichen Informationen eingeben!