OpenAI est confrontée à une nouvelle plainte pour violation de la vie privée dans l’Union européenne à propos du problème d’hallucination de ChatGPT.
L’organisation à but non lucratif Noyb dépose une plainte contre OpenAI car ChatGPT est incapable de corriger les informations incorrectes, écrit l’organisation dans un communiqué de presse. Ce problème d’hallucination concerne principalement des informations personnelles incorrectes. De plus, l’entreprise ne peut pas dire où elle trouve ces données. OpenAI a ouvertement reconnu ce problème mais, selon l’organisation, n’a pas encore pris de mesures pour y remédier. Par conséquent, Noyb a déposé une plainte auprès de l’autorité autrichienne de protection des données.
Hallucinations
On sait déjà que les outils d’IA générative osent halluciner et donc inventer des réponses. ChatGPT se bat lui aussi contre ce problème depuis un moment. Selon Noyb, OpenAI ne reconnaît pas ce problème et se cache derrière « le fait que l’exactitude factuelle dans les grands modèles de langage reste un domaine de recherche actif. »
ChatGPT est utilisé pour plusieurs raisons. Bien que l’entreprise possède de nombreuses données de formation, il est impossible de garantir que les informations fournies par ChatGPT sont correctes. Pour un devoir, c’est plutôt acceptable, mais pour des données personnelles, il faut faire mieux. De telles hallucinations vont à l’encontre du règlement général sur la protection des données (RGPD), qui stipule que les informations relatives aux personnes doivent être correctes.
Plainte déposée
Noyb a demandé à l’autorité autrichienne de protection des données (DSB) d’enquêter sur le traitement des données par OpenAI et sur les mesures adoptées par l’entreprise pour garantir l’exactitude des données personnelles traitées. De plus, Noyb veut qu’une amende soit imposée à OpenAI afin de garantir sa conformité à l’avenir. Noyb pense que cette question sera traitée dans le cadre de la coopération européenne.