Foto von Levart

Am 30.03.2023 veröffentlichte die italienische Aufsichtsbehörde eine Pressemitteilung, worin sie auf datenschutzrechtliche Verstöße des Chatbots ChatGPT verwies. Die Software ist daher für italienische Einwohner vorübergehend gesperrt. Die Betreiber haben nun 20 Tage Zeit, um zu den Kritikpunkten Stellung zu nehmen und Abhilfe zu schaffen.

Die Software ChatGPT wurde von dem amerikanischen Unternehmen OpenAI entwickelt. Um mit dem Chatbot zu interagieren, muss ein Nutzerprofil angelegt werden. Sodann können der Software eine Vielzahl an Fragen und Aufgaben gestellt werden. Zuletzt absolvierte diese etwa das amerikanische Bar Examen für Juristen. Mit den Chancen und Risiken, die sich durch die Nutzung von ChatGPT im juristischen Arbeitsalltag ergeben, haben wir uns bereits in unserem aktuellen News Room Beitrag beschäftigt. Der Chatbot basiert auf maschinellem Lernen und nutzt unter anderem die eingegebenen Daten der Nutzer, um die Algorithmen zu trainieren und die angezeigten Ergebnisse stetig zu verbessern.

Zentrale Kritikpunkte der italienischen Aufsichtsbehörde

Die italienische Aufsichtsbehörde überprüfte die Software nun und kritisierte insbesondere die folgenden datenschutzrechtlichen Verstöße:

• Der Anbieter OpenAI informiere als Verantwortlicher für den Datenschutz nicht ausreichend über den Umgang mit den personenbezogenen Daten der Nutzer. Für den Betroffenen sei damit eine Kontrolle der Verwendung der eigenen Daten nicht möglich und erschwere somit die Ausübung der Betroffenenrechte.
• Außerdem liegt nach Meinung der Aufsichtsbehörde keine Rechtsgrundlage für die Erhebung personenbezogener Daten und deren Verarbeitung zum Zwecke des Trainings der Software vor.
• Ein weiterer Kritikpunkt liegt nach Ansicht der italienischen Datenschützer im Mangel eines Mechanismus zur Überprüfung des Alters der Nutzer. Dies führe dazu, dass Kinder unter 13 Jahren ungefilterte Antworten vom Chatbot erhalten können, die in Bezug auf ihren Entwicklungsstandes ungeeignet seien.

Es liegen damit Verstöße gegen die Grundsätze der Datenschutz-Grundverordnung in Art. 5 DSGVO vor, insbesondere hinsichtlich der Rechtmäßigkeit der Verarbeitung gem. Art. 6 DSGVO und der Informationspflicht für Verantwortliche gem. Art. 13 DSGVO. Die Aufsichtsbehörde beschloss daher eine vorläufige Sperre des Dienstes für betroffene Personen mit Wohnsitz in Italien und hob dabei besonders den Schutz minderjähriger Betroffener hervor.

Datenpanne sorgte für Sicherheitsbedenken

Die KI-basierte Software ist in diesem Jahr bereits in Verruf geraten, da aufgrund einer Datenpanne zeitweise personenbezogene Daten für unbefugte Dritte zugänglich waren.  Wegen eines Softwarefehlers konnten nach Angaben von OpenAI somit Nutzer untereinander die Suchanfragen und Verläufe sehen. Zudem wurden teilweise Kontaktadressen und Kreditkarteninformationen offengelegt, bis das Problem behoben werden konnten.

Sperrung auch in Deutschland möglich?

Nun wurden die Betreiber des Chatbots ChatGPT von der italienischen Aufsichtsbehörde aufgefordert, aufgrund der festgestellten Mängel innerhalb von 20 Tagen mitzuteilen, welche Gegenmaßnahmen unternommen würden. Dies dürfte insbesondere für die deutschen Aufsichtsbehörden von Interesse sein. Der Bundesdatenschutzbeauftragte Ulrich Kelber hält ein ähnliches Vorgehen in Deutschland für denkbar, wobei die Zuständigkeit hierfür bei den Ländern liegt.  Die Datenschutzaufsichtsbehörde in Italien wurde daher bereits gebeten, weiterführende Informationen zur Sperrung von ChatGPT an den Bundesdatenschutzbeauftragten weiterzuleiten.

Seit der Veröffentlichung des Chatbots im November 2022 bestehen unlängst nicht nur datenschutzrechtliche Bedenken.  Es drängen sich neben den Herausforderungen etwa im Hinblick auf das Urheberrecht zudem weitere ethische und regulatorische Fragen auf. Die EU-Kommission veröffentlichte einen Entwurf des Artificial Intelligence Acts (AI Act), welcher konkrete Vorschläge zur Regelungen im Umgang mit Künstlicher Intelligenz in der Forschung und Wirtschaft enthält. Es bleibt abzuwarten, ob dieses Vorhaben die Interessen der Wirtschaft an technologischem Fortschritt einerseits und den Schutz hoher Rechtsgüter andererseits in einen angemessenen Ausgleich bringen kann.