OpenAI: Tool soll Texte von ChatGPT erkennen können

Seit November ist ChatGPT frei verfügbar – und hat zahlreiche Diskussionen angestoßen. Der KI-Textgenerator sorgt vor allem im Bildungsbereich für Probleme, da textbasierte Aufgaben kaum mehr sinnvoll gestellt werden können, wenn nicht überprüfbar ist, ob eine KI hinter der Arbeit steht. OpenAI möchte dem nun entgegenwirken und hat ein Tool vorgestellt, das Texte von ChatGPT erkennen soll. So soll Betrug vorgebeugt werden.

Probleme von ChatGPT

ChatGPT ist ein KI-basierter Textgenerator. Wird er mit Fragen oder Arbeitsanweisungen gefüttert, spuckt er formal einwandfreie Texte aus. Was zunächst sehr komfortabel klingt, bringt jedoch zahlreiche Probleme mit sich. So konnte etwa vielfach nachgewiesen werden, dass das Programm dazu neigt, Fakten und Quellen zu erfinden. Was oberflächlich nach einer tiefgehenden Analyse aussieht, ist in vielen Fällen tatsächlich haarsträubender Unsinn. Wird ChatGPT großflächig zur Erstellung redaktioneller Inhalte eingesetzt, braucht es daher nicht einmal bösartige Desinformationskampagnen, um den gesamten Wissensschatz im Internet unzuverlässig zu machen. In der Konsequenz bedeutet das, dass eine wesentlich höhere Medienkompetenz benötigt wird als bisher, um zwischen seriösen und unseriösen Quellen unterscheiden zu können. Mit der steigenden Verbreitung des Programms dürfte das immer schwieriger werden.

Hinzu kommen Probleme im Bildungsbereich. Insbesondere in kulturwissenschaftlichen Studiengängen sind textbasierte Arbeiten der Standard. Die Hauptkompetenz, die die Studierenden erwerben sollen, ist die der wissenschaftlich fundierten, kritisch-reflektierten Auseinandersetzung mit gesellschaftlichen Fragen. Da sich eine solche nicht adäquat in kurzen mündlichen Prüfungen oder gar Klausuren beweisen lässt, sind Hausarbeiten die Standardprüfungsform. Diese jedoch gerät ins Wanken, wenn ein Textgenerator lange wissenschaftlich anmutende Texte produzieren kann. Anders als ein Plagiat lässt sich ein KI-Text nicht auf den ersten Blick oder per Knopfdruck als solcher erkennen. Um zwischen Eigen- und Fremdleistungen unterscheiden zu können, müssen Hochschulen künftig also einen wesentlich größeren Aufwand betreiben als bisher – und können im Zweifelsfalle Betrug kaum stichfest nachweisen.

Doch selbst bei anderen schriftlichen Prüfungsformen – so etwa bei der teilweise als Alternative ins Spiel gebrachten Klausur – sind Täuschungen nicht ausgeschlossen. Das gilt insbesondere, da einige Hochschulen Klausuren aus organisatorischen Gründen online abhalten. So konnte das KI-Programm etwa die Abschlussklausur eines MBA-Programms, also eines Managementmasters, bestehen – wenn auch mit eher schlechtem Ergebnis.

OpenAI entwickelt Tool, das Texte von ChatGPT erkennt

Da das akademische Abschlüsse massiv abwerten und ein Abrücken von schriftlichen Prüfungsformen die Zielerreichung des Studiums verunmöglichen würde, sind andere Lösungen nötig. OpenAI selbst bietet sich wenig überraschend dafür an. So hat das Unternehmen ein Programm vorgestellt, das Texte von ChatGPT erkennen können soll.

Bisher ist der Erfolg des Programms jedoch eher bescheiden. OpenAI gab bekannt, dass in einem Testlauf 26 Prozent der KI-Texte korrekt als solche erkannt werden konnten – was bedeutet, dass ein Münzwurf mit höherer Wahrscheinlichkeit die KI-Texte als solche entlarvt. Darüber hinaus wurden neun Prozent der von Menschen verfassten Texte fälschlich ChatGPT zugeordnet.

Doch nicht nur OpenAI arbeitet an einer Lösung für das beschriebene Problem. So hat etwa Edward Tian das Programm GPTZero entwickelt, das ebenfalls KI-Texte von ChatGPT erkennen können soll. Hier ist nicht bekannt, wie zuverlässig das Tool arbeitet.

Ebenfalls nicht bekannt ist, inwieweit Texte erkannt werden, die zwar ursprünglich von ChatGPT geschrieben, später jedoch umformuliert wurden. Hier erscheint das Problem jedoch nicht als einzigartig oder neu: Auch Plagiate werden häufig durch Umformulierung zu vertuschen versucht.