OpenAI a mis à jour ses règles d’utilisation de ChatGPT, interdisant officiellement au chatbot d’IA de fournir des conseils médicaux, juridiques ou financiers personnalisés. Objectif de ces nouvelles règles, annoncées le 29 octobre, visent à limiter les risques de désinformation et à garantir le respect des réglementations internationales.
ChatGPT bloqué pour fournir des conseils médicaux, juridiques ou financiers
Selon les politiques d’utilisation mises à jour d’OpenAI, ChatGPT et les autres modèles d’OpenAI ne peuvent plus créer ni expliquer de contenu pouvant être considéré comme un conseil professionnel ou une information juridiquement contraignante.
Dans la pratique ChatGPT ne va plus faire :
- Interprétation d’images médicales ou de résultats de laboratoire
- Proposer des suggestions de traitement personnalisées
- Fournir des interprétations juridiques ou des conseils en planification financière sans supervision agréée
ChatGPT fonctionne comme un outil éducatif et informatif
OpenAI affirme que ce changement garantit que ChatGPT fonctionne comme un outil éducatif et informatif destiné à aider les utilisateurs à comprendre des sujets, et non à remplacer des professionnels qualifiés.
Cette décision fait suite à une inquiétude croissante à l’échelle mondiale concernant la désinformation liée à l’IA et la dépendance excessive aux chatbots pour les décisions complexes ou à forts enjeux. Selon OpenAI, l’objectif est de réduire les risques de désinformation et de limiter les risques de poursuites judiciaires.
Cette décision intervient également à un moment où la pression mondiale s’accroît pour réglementer la manière dont les systèmes d’IA générative gèrent les décisions sensibles ou à forts enjeux.
Réactions mitigées du public
Cette mesure a suscité des réactions mitigées au sein de la communauté technologique. Ses partisans affirment qu’il s’agit d’une initiative responsable pour une IA plus sûre, garantissant que les utilisateurs consultent des experts agréés pour les questions de santé, juridiques ou financières.
Les critiques font toutefois valoir que ces restrictions limitent l’innovation et suppriment l’un des cas d’utilisation les plus pratiques de ChatGPT. Notamment: fournir des informations rapides et accessibles dans des domaines où les professionnels humains sont coûteux ou difficiles à joindre.
Certains experts estiment que cette politique pourrait inciter les utilisateurs à se tourner vers des plateformes d’IA moins réglementées qui offrent néanmoins des services similaires sans garde-fous, ce qui soulève de nouvelles inquiétudes quant à la précision et à la sécurité.
Malgré les nouveaux changements de politique, les utilisateurs de ChatGPT peuvent toujours compter sur la plateforme pour expliquer des concepts médicaux, juridiques et financiers en termes simples. Ce qui les aide à comprendre des sujets complexes sans pour autant se substituer à des conseils professionnels.
