Chatbots und KI-Systeme sind derzeit in aller Munde und viele Unternehmen möchten sie in ihre Prozesse integrieren. ChatGPT ist ein solches KI-System, das durch seine Fähigkeit, menschenähnliche Unterhaltungen zu führen, besondere Aufmerksamkeit erregt hat. Jedoch sollten Unternehmen bei der Nutzung von ChatGPT und ähnlichen Systemen vorsichtig sein.
Entsprechend hat der Bundesdatenschutzbeauftragte Ulrich Kelber kürzlich Bedenken geäußert, wonach solche Systeme gegen die Grundsätze der DSGVO (Datenschutz-Grundverordnung) verstoßen können. Insbesondere die mangelnde Transparenz der Algorithmen und die Gefahr der Verarbeitung personenbezogener Daten ohne Einwilligung der betroffenen Personen sind Punkte, die aus Sicht des Datenschutzes berücksichtigt werden müssen. Bei Untätigkeit würde eine Sperrung im Rahmen der DSGVO auch in Deutschland möglich sein, insbesondere dann, wenn ein Verstoß gegen die Grundsätze der Datenverarbeitung vorliegt und keine angemessenen Schutzmaßnahmen ergriffen wurden.
Wie lautet der Vorwurf?
Die italienische Datenschutzbehörde hat u.a. folgende Verstöße gegen die DSGVO festgestellt:
[1] OpenAI verstieß mutmaßlich gegen die Informationspflicht nach Art. 13 DSGVO bei der Erhebung personenbezogener Daten bei der betroffenen Person .
[2] Zudem müssen Unternehmen eine Rechtsgrundlage für die Verarbeitung personenbezogener Daten haben. Dies kann beispielsweise die Einwilligung der betroffenen Person sein.
[3] Zusätzlich wird OpenAI vorgeworfen, gegen Art. 8 in Verbindung mit Art. 25 der DSGVO verstoßen zu haben, indem keine Altersverifikation der Nutzer durchgeführt wurde. Dies kann dazu führen, dass Nutzer Antworten erhalten, die nicht ihrem jeweiligen Entwicklungsstand entsprechen und somit unangemessen sind.
Erste Reaktionen
Gerade im Hinblick auf die Verarbeitung personenbezogener Daten (Art.6 Abs 1 DSGVO) bleibt abzuwarten, wie Open AI auf die Anordnung der der italienischen Datenschutzbehörde reagieren und inwieweit diese auch umgesetzt wird. Denn das Training der Algorithmen auch unter Verwendung personenbezogenen Daten macht einen wesentlichen Teil des Geschäftsmodells aus.
Der ehemalige Datenschutzbeauftragte von Baden-Württemberg Stefan Brink kritisierte die Entscheidung der italienischen Datenschutzbehörde im Hinblick auf die Verarbeitung personenbezogener Daten. Er erklärte, dass KI-Systeme regelmäßig personenbezogene Daten für Trainingszwecke nutzen. Dabei fügte er hinzu: „Soweit die Daten allerdings aus dem Internet bezogen werden, überwiegen regelmäßig die berechtigten Interessen der Entwickler gegenüber Schutzbedürfnissen von Betroffenen.“ Aus diesem Grund handelt es sich bei deren Verwendung nicht zwangsläufig um einen Verstoß gegen die DSGVO. Brink vertritt hier eine durchaus umstrittene Auffassung.
Ausblick
OpenAi hat nun eine Frist bis zum 30.04, um die Mängel zu beseitigen. Sollten die Mängel nicht innerhalb dieser Frist behoben werden, droht eine Strafe von bis zu 20 Millionen Euro oder über vier Prozent des weltweiten Umsatzes des Unternehmens.
Angesichts der aufgezeigten Bedenken bezüglich des Datenschutzes bei der Nutzung von ChatGPT und ähnlichen KI-Systemen, sollten Unternehmen bei der Integration solcher Systeme in ihre Prozesse vorsichtig sein und die Grundsätze der DSGVO berücksichtigen. Insbesondere die mangelnde Transparenz der Algorithmen und die Verarbeitung personenbezogener Daten ohne Einwilligung der betroffenen Personen stellen ein Risiko dar.
Wenn ChatGPT im Arbeitsalltag eingesetzt werden soll, dann auf eine Weise, die das Unternehmen rechtlich nicht zusätzlich exponiert.
Falls Sie Fragen oder Bedenken zur Nutzung von KI-Systemen haben, zögern Sie nicht. Wir helfen Ihnen gerne weiter.
Datenschutz Consulting Dresden GmbH
Folgende Beiträge könnten Sie auch interessieren:
- Datenschutzfolgeabschätzung bei Videoüberwachung: Notwendigkeit und praktische Umsetzung
- 390 Millionen Euro Bußgeld für Meta
- Moderne Autos und die Daten