KI-Detektoren
Bild auf Pexels von cottonbro studio
Kann ich mithilfe von KI-Detektoren erkennen, ob in einer schriftlichen Arbeit KI-Tools genutzt wurden?
Momentan arbeiten KI-Detektoren typischerweise probabilistisch und können KI-generierte Inhalte nur mithilfe von Wahrscheinlichkeiten identifizieren. Derzeit liefern verbreitete KI-Detektoren immer wieder falsch positive sowie falsch negative Ergebnisse (vgl. Weber-Wullf et al. 2023). Daher bilden sie bislang keine geeignete Grundlage für einen rechtssicheren Nachweis, dass KI-Tools bei der Erstellung einer schriftlichen Arbeit genutzt wurden.
„Ab August 2026 besteht für Anbieter von KI-Systemen die Pflicht, KI-generierte Audio-, Bild-, Video- oder Textinhalte in einem maschinenlesbaren Format, z. B. mit Wasserzeichen oder Hashtag, zu kennzeichnen (KI-VO, Art. 50). Für Betreiber und Nutzende – somit auch für Lehrende und Studierende als Nutzende von KI-Systemen – gilt grundsätzlich die Pflicht, KI-generierte Inhalte sichtbar als solche zu kennzeichnen, sofern diese nicht bereits vom KI-System mit einem entsprechenden Icon als KI-generiert gekennzeichnet wurden (KI-VO, Art. 50, Abs. 4)“ (DLHN-Handlungsempfehlungen 2026, S. 10)
Ob und inwiefern KI-Ursprungsdetektoren (im Gegensatz zu den oben erwähnten Stil-Detektoren) künftig helfen, KI-generierte Inhalte in studentischen Arbeiten zu identifizieren, muss sich noch zeigen. Die Pflicht, KI-generierte Inhalte seitens der Anbieter von KI-Systemen zu kennzeichnen, gilt ab Dezember 2026 (s. The EU AI Act Newsletter #105: Transparency Tools Land) – bereits jetzt ist schon klar, dass es weiterhin Wege gibt, diese Kennzeichnungen zu entfernen oder zu umgehen.
Vor diesem Hintergrund empfehlen wir, sich von dem Wunsch zu verabschieden, KI-generierte Arbeiten mithilfe von KI-Detektoren zu „ertappen“. Vielversprechender erscheint es, auf Ihre Erfahrungen als Lehrende zu setzen: Gibt es in der betreffenden Arbeit leere Phrasen, auffällig viele Tautologien, unplausible Herleitungen oder schiefe Ausdrucksweisen? Diese Indizien sind keine Belege für einen KI-Gebrauch, sondern Indizien, die im Fall der Fälle im Anscheinsbeweis einen Verdacht erhärten können. Wenn Sie den Verdacht haben, dass eine Arbeit in entscheidendem Maße KI-generiert ist, wenden Sie sich an Ihr zuständiges Prüfungsamt, das Sie ggf. mit der Unterstützung der Koordinationsstelle Prüfungsverwaltung beim weiteren Vorgehen unterstützen kann. In den UOS-Handlungsempfehlungen zum Umgang mit KI-basierten Anwendungen finden Sie ebenfalls Hinweise zum Thema Täuschungsnachweise. Achten Sie jedoch darauf, Studierende nicht fälschlicherweise der Täuschung zu bezichtigen.
KI-Detektoren: Quellen zur Vertiefung
DLHN-Vortrag zu KI-Detektoren
Im Foliensatz zum Vortrag zu KI-Detektoren, der von Susanne Susanne Schorer, Janine Horn und Kira Baresel erstellt wurde, erhalten Sie einen Überblick über Probleme mit KI-Detektoren sowie Handlungsoptionen im Täuschungsverdacht.
DLHN-Stellungnahme zu KI-Detektoren
Die Stellungnahme zeigt auf, dass aufgrund der Unzuverlässigkeit sowie rechtlichen Herausforderungen bei der Implementierung von KI-Detektoren von deren Nutzung im Prüfungskontext abzusehen ist und welche alternativen Handlungsoptionen es gibt.
Studie zur Verlässlichkeit von KI-Detektoren
Ausgehend von einem Test verbreiteter KI-Detektoren kommen Weber-Wulff et al. in ihrem 2023 publizierten Paper zu dem Schluss, dass KI-Detektoren keine verlässlichen Ergebnisse liefern und Texte eher als menschengemacht als KI-generiert klassifizieren.
