OpenAI travaillerait sur une solution pour détecter si un texte a été généré par son modèle ChatGPT, car certains responsables de l’éducation ont pris la décision alarmante de bloquer l’accès à l’outil dans les écoles publiques comme aux États-Unis.
L’IA une menace pour pour les éducateurs des écoles
L’utilisation de l’IA pour terminer les devoirs des élèves a soulevé des inquiétudes parmi les éducateurs quant à l’impact sur l’éducation. Une préoccupation est que les modèles de langage peuvent être utilisés pour plagier le travail existant ou permettre la triche. En réponse à ces préoccupations, OpenAI créerait des « atténuations » pour détecter le texte généré automatiquement par ChatGPT, comme indiqué.
Un outil pour détecter le texte généré par ChatGPT
OpenAI a depuis déclaré qu’en rendant ChatGPT disponible pour l’aperçu de la recherche, il vise à mieux comprendre son utilisation dans le monde réel, qu’il considère comme cruciale dans le développement et la mise en œuvre de systèmes d’IA avancés et sécurisés. Il tient également compte en permanence des retours d’expérience et en tire des enseignements.
OpenAI a toujours souligné l’importance de la transparence en ce qui concerne l’utilisation de texte généré par l’IA. Les politiques de l’entreprise exigent que les utilisateurs soient francs avec leur public lorsqu’ils utilisent son API et ses outils créatifs.
OpenAI se réjouit de travailler avec les éducateurs pour trouver des solutions utiles et des moyens d’aider les enseignants et les élèves à bénéficier de l’IA.
Une histoire de discernement
La capacité de discerner si le travail écrit a été généré par un humain ou une machine modifiera la façon dont les outils d’Intelligence artificielle – IA sont utilisés dans le milieu universitaire. Les écoles auraient des moyens plus efficaces d’appliquer les interdictions sur les essais générés par l’IA, ou elles pourraient être plus ouvertes à l’acceptation d’articles si elles peuvent comprendre les avantages que ces outils ont à offrir aux étudiants.
OpenAI a lancé ChatGPT, une version mise à jour de GPT-3, en novembre de l’année dernière, mais il présente toujours les mêmes lacunes que tous les autres modèles de langage.