La startup de recherche en intelligence artificielle OpenAI a lancé mardi un outil pour déterminer si le texte a été écrit par un humain ou un ordinateur.
Les créateurs de ChatGPT, OpenAI, lancent un outil pour détecter les textes générés par l'IA
OpenAI, la société derrière ChatGPT, un chatbot capable de générer du texte de type humain, est devenue virale après sa sortie il y a deux mois. Microsoft a annoncé la semaine dernière un investissement de plusieurs milliards de dollars dans OpenAI et a déclaré qu'il intégrerait les modèles d'IA de la startup dans ses produits grand public et professionnels.
Depuis le lancement de ChatGPT en novembre, certains des plus grands districts scolaires des États-Unis, dont New York, ont interdit le chatbot AI par crainte que les étudiants utilisent le générateur de texte pour tricher ou plagier.
Le PDG d'OpenAI, Sam Altman, a déclaré que l'éducation avait changé dans le passé avec l'avènement des calculatrices et d'autres technologies, mais il a également suggéré que l'entreprise pourrait avoir un moyen d'aider les enseignants à découvrir le texte écrit de l'IA.
Le nouvel outil d'OpenAI n'est pas parfait, et la société affirme qu'il s'agit toujours d'un travail en cours et que des erreurs peuvent survenir lors de son utilisation. "Dans notre évaluation de notre 'ensemble de défis' de textes anglais, notre classificateur a correctement identifié 26% du texte écrit par l'IA (vrais positifs) comme 'probablement écrit par une IA', tandis que 9% du texte écrit par l'homme le texte a été incorrectement étiqueté comme écrit par l'IA (faux positifs)", a écrit l'employé d'OpenAI.
Le nouvel outil n'est pas fiable pour analyser des articles de moins de 1000 caractères, et OpenAI déconseille son utilisation pour des langues autres que l'anglais. De plus, le texte de l'IA peut être mis à jour suffisamment légèrement pour empêcher le classificateur de juger correctement qu'il ne s'agit pas de l'œuvre d'un humain.
OpenAI dit qu'il contacte les éducateurs pour discuter des capacités et des limites de ChatGPT et continuera à travailler sur la détection du texte généré par l'IA.
En offre sur Amazon
