Personenbezogene Daten werden unrechtmäßig gesammelt und es gibt kein Altersverifikationssystem für Kinder. ChatGPT darf aufgrund von Verstößen gegen Datenschutzgesetze nicht weiterhin Daten verarbeiten. Die US-amerikanische Firma OpenAI, die die Plattform entwickelt und verwaltet, hat von der italienischen Datenschutzbehörde eine sofortige vorläufige Beschränkung der Verarbeitung von Daten italienischer Benutzerinnen und Benutzer auferlegt bekommen. Es wurde auch eine Untersuchung des Vorfalls eingeleitet.
Am 20. März wurde ein Datenleck gemeldet, das die Gespräche und Zahlungsinformationen von ChatGPT-Nutzerinnen und -Nutzern betraf. ChatGPT ist die bekannteste unter den relationalen KI-Plattformen, die in der Lage sind, menschliche Gespräche zu emulieren und zu verarbeiten. In ihrer Anordnung hebt die italienische Datenschutzbehörde hervor, dass den Benutzerinnen und Benutzern und Daten betroffenen, deren Daten von OpenAI gesammelt werden, keine Informationen zur Verfügung gestellt werden. Noch wichtiger ist, dass es keine rechtliche Grundlage für die umfangreiche Sammlung und Verarbeitung personenbezogener Daten gibt, um die Algorithmen zu "trainieren", auf denen die Plattform basiert.
Wie bisherige Tests gezeigt haben, stimmen die von ChatGPT bereitgestellten Informationen nicht immer mit den tatsächlichen Umständen überein, sodass ungenaue personenbezogene Daten verarbeitet werden. Schließlich betont die italienische Datenschutzbehörde in ihrer Anordnung, dass das Fehlen eines Altersverifikationsmechanismus Kinder dazu veranlassen kann, Antworten zu erhalten, die absolut unangemessen für ihr Alter und ihr Bewusstsein sind, obwohl der Service angeblich an Benutzerinnen und Benutzer über 13 Jahren gerichtet ist, gemäß den Geschäftsbedingungen von OpenAI.
OpenAI ist nicht in der EU ansässig, hat jedoch einen Vertreter im Europäischen Wirtschaftsraum ernannt. Innerhalb von 20 Tagen muss OpenAI der italienischen Datenschutzbehörde die Maßnahmen mitteilen, die zur Einhaltung der Anordnung umgesetzt wurden. Andernfalls kann eine Geldstrafe von bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes verhängt werden.
Quelle: Datenschutzbehörde Italien