OpenAI envisage un filigrane textuel pour ChatGPT permettant de détecter les tricheurs

Selon le Wall Street Journal, OpenAI disposerait déjà d'un tel outil, mais hésite encore à le dévoiler.

L’avenir de la détection de textes générés par IA : une prouesse technologique de OpenAI

Un rapport du Wall Street Journal a révélé récemment que OpenAI travaille sur une technologie capable de détecter les textes générés par ChatGPT, une intelligence artificielle sophistiquée. Cependant, le débat sur l’opportunité de déployer cet outil a retardé son apparition publique.

Une technologie prête, mais pas dévoilée

OpenAI a admis qu’elle a mis au point une méthode de « marquage de texte » dans le cadre de ses activités de recherche. Cette technologie prête à l’emploi n’a pas encore été rendue publique pour des raisons liées à un débat interne au sein de l’entreprise. Le Wall Street Journal suggère que cette rétention est due à une discussion sur la question de savoir si l’outil devrait être rendu disponible au public.

Les implications de la technologie

OpenAI a également révélé que le marquage de texte est l’une des solutions envisagées. Néanmoins, cette méthode, bien que « hautement précise » dans certaines situations, ne donne pas les mêmes résultats en présence de certaines formes de manipulation, notamment l’utilisation de systèmes de traduction, les réécritures via d’autres modèles génératifs, l’insertion de caractères spéciaux entre chaque mot puis leur suppression. Par ailleurs, OpenAI a exprimé ses préoccupations quant à un usage disproportionné du marquage de texte qui pourrait avoir un impact social, en stigmatisant par exemple l’utilisation de l’IA comme outil d’écriture pour les non-anglophones.

Une approche prudente

Face à ces enjeux, l’entreprise adopte une « approche délibérée ». Dans une déclaration à TechCrunch, un porte-parole d’OpenAI a expliqué que l’entreprise accorde de l’importance à la question de la provenance des textes compte tenu des complexités impliquées et de l’impact potentiel sur l’écosystème technologique au-delà d’OpenAI. Au lieu de publier précipitamment son outil de détection de texte, OpenAI a choisi de prioriser la sortie d’outils d’authentification pour le contenu audiovisuel, témoignant de sa volonté de considérer toutes les implications de ses innovations technologiques.