Source de l’image：https://www.foxbusiness.com/technology/study-finds-chatgpt-provided-inaccurate-answers-medication-questions
Une étude révèle que ChatGPT fournit des réponses inexactes aux questions sur les médicaments
Une récente étude a révélé que ChatGPT, un modèle de génération de texte embarqué dans un programme d’intelligence artificielle développé par OpenAI, fournit de manière inexacte des réponses aux questions relatives aux médicaments. Cette découverte soulève des préoccupations quant à l’exactitude et à la fiabilité des outils d’IA utilisés dans le domaine de la santé.
L’étude a été menée par une équipe de chercheurs universitaires qui ont testé les capacités de ChatGPT à répondre à une série de questions liées aux médicaments. Les résultats ont montré que le modèle d’IA n’était pas en mesure de fournir des réponses précises dans de nombreux cas.
Les questions portaient sur des sujets tels que les dosages recommandés, les interactions médicamenteuses et les effets secondaires potentiels. Dans plusieurs cas, les réponses de ChatGPT étaient incorrectes, voire potentiellement dangereuses pour la santé.
Les chercheurs ont critiqué le manque d’informations médicalement vérifiées et fiables sur lesquelles se base ChatGPT lorsqu’il génère ses réponses. Ils ont souligné la nécessité d’une réglementation plus stricte pour garantir l’utilisation de modèles d’IA plus fiables et corrects dans le domaine de la santé.
OpenAI, la société technologique à l’origine de ChatGPT, a répondu à l’étude en reconnaissant les limites de son modèle d’IA en matière de précision dans le domaine médical. Ils ont affirmé que des efforts étaient en cours pour améliorer cette faiblesse et ont exprimé leur engagement à fournir des outils fiables et sûrs.
Les chercheurs impliqués dans l’étude ont souligné l’importance pour les utilisateurs de faire preuve de prudence lorsqu’ils utilisent des ressources en ligne ou des applications basées sur l’IA pour obtenir des informations médicales. Ils ont recommandé de toujours vérifier les sources d’information et de consulter des professionnels de la santé qualifiés pour obtenir des conseils précis.
Cette étude met en évidence les défis auxquels sont confrontés les développeurs d’intelligence artificielle lorsqu’ils tentent de perfectionner les modèles de génération de texte. Elle souligne également la nécessité de réglementer rigoureusement ces technologies afin de garantir leur sécurité et leur qualité, en particulier dans des domaines sensibles tels que la santé.