ChatGPT: Datenschutzbeauftragte leiten Verfahren ein

Die Datenschutzbeauftragten der Bundesländer haben ein Verwaltungsverfahren gegen das hinter ChatGPT stehende Unternehmen OpenAI eingeleitet. Sie wollen auf diesem Wege ermitteln, mit welchen Daten die KI trainiert wurde – und auf welcher Rechtsgrundlage die betreffenden Daten genutzt wurden.

Woher stammen die Trainingsdaten für ChatGPT?

Dieter Kugelmann, Leiter der Taskforce für Künstliche Intelligenz der Bundesländer und Datenschutzbeauftragter des Landes Rheinland-Pfalz, gibt diesbezüglich an, dass bei Verwendung personenbezogener Daten für das Training einer KI eine Einwilligung zwingend erforderlich ist. Fehlt eine solche, verstößt die Datennutzung gegen die europäischen Datenschutzregeln. Damit wäre der Betrieb von ChatGPT letztlich illegal.

Da bisher völlig unklar ist, woher die Trainingsdaten für das Programm stammen und welche Einwilligungen OpenAI in diesem Zusammenhang eingeholt hat, haben die Datenschutzbeauftragten der Bundesländer ein Verfahren gegen das Unternehmen eingeleitet. Im Rahmen dieses Verfahrens soll die Herkunft der Trainingsdaten geklärt werden. Das weitere Verfahren ist dabei von den diesbezüglichen Erkenntnissen abhängig.

KI ohne rechtliche Grundlage ist ein Problem

Kugelmann hat gegenüber dem Tagesspiegel darauf aufmerksam gemacht, dass er primär im Ausrollen der KI ohne klare rechtliche Grundlage ein Problem sieht. Momentan schießen KI-Angebote wie ChatGPT förmlich aus dem Boden und bieten immer weiterreichende Dienste an. Viele rechtliche Fragen, die mit diesem Angebot verbunden sind, sind dabei bisher völlig ungeklärt. Das betrifft neben den wahrscheinlich fehlenden Einwilligungen in die Verarbeitung personenbezogener Daten auch Urheberrechte, die mit dem Output der KI verbunden sind. Zuletzt wurden beide Aspekte im Rahmen eines KI-Songs, der Drake und The Weeknd imitiert, sehr deutlich. Sowohl die Verarbeitung des Originalmaterials als auch die (kommerzielle) Verwendung des daraus letztlich entstehenden Materials erscheinen rechtlich problematisch.

Die Datenschutzbeauftragten der Bundesländer haben sich in der Angelegenheit zusammengeschlossen und ein gemeinsames Schreiben aufgesetzt, in welchem sie über das Verfahren und das Ziel informieren. Kugelmann stellte in diesem Zusammenhang auch klar, dass nicht Italien das Vorbild in der Angelegenheit darstelle. In Italien ist ChatGPT vor Kurzem mit sofortiger Wirkung vorübergehend verboten wurden, um strenge Datenschutz- und Zugangsregeln zu implementieren. Kugelmann zufolge steht stattdessen wie bereits erläutert die Klärung der bestehenden Rechtslage und der Einhaltung ebendieser im Vordergrund.