Le classificateur n’est pas encore tout à fait opérationnel, selon les créateurs de ChatGPT, mais il peut aider à déterminer si un texte a été écrit par un humain ou une machine.
Depuis le lancement de ChatGPT à la fin de l’année dernière, on a lu chaque jour quelque chose sur le robot linguistique mal famé. Le tabac autour ChatGPT a provoqué à la fois une explosion d’enthousiasme et une indignation violente. En effet, « comment sera-t-il jamais possible de déterminer quel texte est issu d’un cerveau humain et quel texte a été craché par un ordinateur ? » OpenAI elle-même est en train de développer un outil capable de démystifier les textes de l’IA. Bien que l’application soit encore très perfectible.
Classificateur comme aide supplémentaire
OpenAI indique dans un billet de blog over de rsur le lancement que le classificateur est conçu pour faire la distinction entre un texte écrit par un humain et des documents produits par l’intelligence artificielle de divers fournisseurs. « Il est impossible de détecter de manière fiable tous les textes écrits par l’IA. Néanmoins, nous sommes convaincus que les bons classificateurs servent à démasquer les textes », a déclaré OpenAI.
L’entreprise du PDG Sam Altman donne l’exemple que des classificateurs comme ceux d’OpenAI peuvent aider à détecter les campagnes de désinformation automatisées et l’utilisation d’outils d’IA pour la fraude académique, parmi d’autres choses. « Les tests effectués avec des textes en anglais montrent que le classificateur analyse correctement 26 % des textes écrits par l’IA. D’autre part, il décrit de manière incorrecte neuf pour cent des textes humains comme étant de l’IA. La fiabilité augmente lorsque des textes plus importants sont saisis. »
Limitations
L’application est disponible gratuitement sous ce lien. Néanmoins, il existe certaines conditions. Par exemple, l’utilisateur doit avoir ou créer un compte (gratuit) OpenAI. Le texte lui-même doit contenir au moins 1 000 caractères. L’outil n’est pas toujours correct, il peut donc mélanger le texte de l’IA et le texte humain. OpenAI indique également que le texte généré par l’IA peut être facilement modifié afin d’échapper au filtre. Les textes provenant de langues autres que l’anglais seront également moins précis, pour l’instant.
Nous avons passé le test et avons choisi un texte au hasard sur le site de Het Nieuwsblad. Le texte, en néerlandais bien sûr, traitait d’un transfert à l’AA Gent. Selon le classificateur, il est « très peu probable » que le texte soit généré par l’IA. Donc bon travail du journaliste qui a écrit l’article. Selon OpenAI, la précision de l’outil ne fera qu’augmenter à mesure que davantage de personnes l’utiliseront. « C’est pourquoi nous rendons l’outil public afin de pouvoir obtenir des commentaires et suggérer des méthodes améliorées à l’avenir. »