OpenAI a formé un classificateur pour faire la distinction entre le texte écrit par des humains et le texte écrit par des systèmes d’IA comme ChatGPT.
Disponible pour le grand public
Parce que ce classificateur a des limites et n’est pas entièrement fiable. Cependant, il est destiné à fournir un support supplémentaire pour déterminer la source d’un morceau de texte et informer l’atténuation des fausses allégations selon lesquelles le texte généré par l’IA a été écrit par un humain.
Le classificateur a été mis à la disposition du public pour commentaires, dans le but d’améliorer les futures méthodes de détection de texte généré par l’IA.
L’importance de l’identification du texte
En reconnaissance du rôle important que joue l’identification du texte écrit par l’IA dans le secteur de l’éducation, OpenAI a développé une ressource préliminaire pour les éducateurs afin de comprendre les utilisations et les limites du classificateur de texte généré par l’IA ChatGPT. L’organisation s’engage également avec des éducateurs pour en savoir plus sur leurs expériences et discuter des capacités et des limites de ChatGPT.
Le classificateur de l’OpenAI pour faire la distinction
OpenAI indique que le classificateur peut faire la distinction entre le texte écrit par un humain et le texte écrit par des IA de divers fournisseurs. L’objectif principal de ce classificateur est d’aider à faire le distinction entre les texte écrit par l’IA et celui des êtres humains.
Une évaluation du classificateur
Le classificateur a subi des évaluations sur un «ensemble de défis» de textes anglais et il a atteint une précision de 26% en identifiant correctement le texte écrit par l’IA. Mais il a également un taux de faux positifs de 9%, où le texte écrit par l’homme est incorrectement étiqueté comme écrit par l’IA.
Comment vérifier si le texte est généré par ChatGPT ?
Vous pouvez essayer le classificateur ici , veuillez noter que le classificateur
- Nécessite un minimum de 1 000 caractères, soit environ 150 à 250 mots.
- N’est pas toujours exact; il peut mal étiqueter le texte généré par l’IA et écrit par l’homme.
- Le texte généré par l’IA peut être modifié facilement pour échapper au classificateur.
- Le classificateur est susceptible de se tromper sur des textes écrits par des enfants et sur des textes qui ne sont pas en anglais car il a été principalement formé sur des contenus en anglais écrits par des adultes.