{"id":11641,"date":"2025-12-01T13:17:23","date_gmt":"2025-12-01T12:17:23","guid":{"rendered":"https:\/\/vieassociative.be\/actualites\/pourquoi-vous-ne-devriez-pas-faire-confiance-aux-detecteurs-ia\/"},"modified":"2025-12-01T13:17:23","modified_gmt":"2025-12-01T12:17:23","slug":"pourquoi-vous-ne-devriez-pas-faire-confiance-aux-detecteurs-ia","status":"publish","type":"post","link":"https:\/\/vieassociative.be\/actualites\/pourquoi-vous-ne-devriez-pas-faire-confiance-aux-detecteurs-ia\/","title":{"rendered":"Pourquoi vous ne devriez pas faire confiance aux d\u00e9tecteurs IA"},"content":{"rendered":"
Nous ne sommes peut-\u00eatre pas pr\u00eats pour la r\u00e9volution de l\u2019IA, mais les d\u00e9tecteurs d\u2019IA ne le sont pas non plus.<\/div>\n

<\/p>\n

De nombreux enseignants ne sont pas satisfaits de la r\u00e9volution de l’IA, et il est difficile de leur en vouloir\u00a0: ChatGPT a prouv\u00e9 que vous pouvez envoyer une invite \u00e0 l’IA, par exemple pour un devoir de lyc\u00e9e, et que l’IA peut cracher un r\u00e9sultat en quelques secondes. Bien s\u00fbr, cet essai peut \u00eatre truff\u00e9 d\u2019erreurs, mais bon, les devoirs sont faits. Ainsi, lorsque les contr\u00f4leurs d\u2019IA se pr\u00e9sentent comme une nouvelle ligne de d\u00e9fense contre la triche de l\u2019IA, il est logique que toute personne concern\u00e9e commence \u00e0 les utiliser. Le probl\u00e8me est qu\u2019ils ne sont pas parfaits et que ces imperfections nuisent aux gens.<\/p>\n

Comment fonctionnent les d\u00e9tecteurs IA<\/h2>\n

Tous les programmes d’IA actuellement populaires (par exemple, ChatGPT) sont bas\u00e9s sur de grands mod\u00e8les de langage (LLM). Les LLM sont form\u00e9s sur \u00e9norme <\/em>quantit\u00e9s de texte et exploitez ces connaissances pour vous r\u00e9pondre. En termes simples, tout ce que fait l\u2019IA, c\u2019est pr\u00e9dire quel mot devrait suivre la derni\u00e8re chose qu\u2019elle a dite, en fonction de ce qu\u2019elle sait gr\u00e2ce \u00e0 son entra\u00eenement. Il ne sait pas ce que signifie \u00ab la neige est froide, mais le feu est chaud \u00bb, mais il sait que \u00ab chaud \u00bb suit souvent \u00ab le feu est \u00bb. (Encore, super<\/em> explication simpliste.)<\/p>\n

Les v\u00e9rificateurs d’IA fonctionnent de la m\u00eame mani\u00e8re\u00a0: ils sont form\u00e9s sur des ensembles de donn\u00e9es de texte, certains \u00e9crits par des humains, d’autres par des robots, et certains \u00e9crits par les deux. Les d\u00e9tecteurs d’IA recherchent des signes r\u00e9v\u00e9lateurs du texte g\u00e9n\u00e9r\u00e9 par les LLM, tels que le langage r\u00e9p\u00e9titif, la probabilit\u00e9 de choix de mots et le ton. Tout comme vous esp\u00e9rez entra\u00eener une IA \u00e0 reconna\u00eetre des mod\u00e8les, les d\u00e9veloppeurs esp\u00e8rent \u00e9galement que les v\u00e9rificateurs d\u2019IA pourront reconna\u00eetre si le texte a \u00e9t\u00e9 \u00e9crit par un robot ou non.<\/p>\n

\n
\n \"Logo<\/p><\/div>\n
\n
<\/div>\n<\/p><\/div>\n<\/div>\n

Ces d\u00e9veloppeurs affirment que leurs contr\u00f4leurs peuvent le faire. Mais je n’en suis pas si s\u00fbr. En fait, j’ai demand\u00e9 \u00e0 ChatGPT s’il pouvait ou non reconna\u00eetre si un texte donn\u00e9 avait \u00e9t\u00e9 \u00e9crit par une IA ou par un humain. Il a r\u00e9pondu :<\/p>\n

\n

En tant que mod\u00e8le de langage d’IA, je peux g\u00e9n\u00e9rer un texte qui peut \u00eatre difficile \u00e0 distinguer du texte \u00e9crit par un humain. Cependant, il n\u2019est pas toujours possible de d\u00e9terminer avec certitude si un texte a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 par une IA ou \u00e9crit par un humain, surtout si le texte a \u00e9t\u00e9 bien \u00e9crit et \u00e9dit\u00e9.<\/p>\n<\/blockquote>\n

\n

Certains indicateurs peuvent sugg\u00e9rer si un texte a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 par l’IA, tels que des mod\u00e8les inhabituels ou r\u00e9p\u00e9titifs, un manque de coh\u00e9rence ou des choix de vocabulaire inhabituels. Cependant, ces indicateurs ne sont pas toujours pr\u00e9sents et peuvent \u00eatre surmont\u00e9s gr\u00e2ce \u00e0 des technologies avanc\u00e9es d\u2019IA.<\/p>\n<\/blockquote>\n

\n

Il convient \u00e9galement de noter que la qualit\u00e9 du texte g\u00e9n\u00e9r\u00e9 par l\u2019IA s\u2019am\u00e9liore constamment, de sorte qu\u2019il pourrait devenir de plus en plus difficile de faire la distinction entre le texte g\u00e9n\u00e9r\u00e9 par l\u2019homme et celui g\u00e9n\u00e9r\u00e9 par l\u2019IA \u00e0 l\u2019avenir. En fin de compte, la meilleure fa\u00e7on de d\u00e9terminer si un morceau de texte a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 par l\u2019IA est de le faire analyser attentivement par un expert qualifi\u00e9 dans le domaine.<\/p>\n<\/blockquote>\n

Ce n\u2019est pas vraiment un soutien \u00e9logieux de la part du parrain des robots IA. Mais regardons comment ces d\u00e9tecteurs r\u00e9sistent en action\u00a0:<\/p>\n

Comment fonctionnent les d\u00e9tecteurs d\u2019IA dans la nature<\/strong><\/h2>\n

Turnitin, dont je me souviens avoir inspir\u00e9 la peur pour son v\u00e9rificateur de plagiat, affirme que son logiciel d\u00e9tecte d\u00e9sormais le contenu g\u00e9n\u00e9r\u00e9 par l’IA avec une confiance de 98 %. Si c’est vrai, c’est sans aucun doute \u00e9lev\u00e9. BestColleges a test\u00e9 le logiciel, capable de faire la distinction entre l’\u00e9criture g\u00e9n\u00e9r\u00e9e par l’homme, celle g\u00e9n\u00e9r\u00e9e par l’IA et l’\u00e9criture hybride. Mais m\u00eame cette statistique signifie qu\u2019un enseignant accusera \u00e0 tort un \u00e9l\u00e8ve sur 50 d\u2019utiliser des outils d\u2019IA pour tricher.<\/p>\n

L\u2019exp\u00e9rience du Washington Post avec Turnitin est cependant plus accablante que cela. Les \u00e9tudiants ont aid\u00e9 le Post \u00e0 proposer 16 \u00e9chantillons d\u2019\u00e9criture compos\u00e9s de textes g\u00e9n\u00e9r\u00e9s par l\u2019homme, g\u00e9n\u00e9r\u00e9s par l\u2019IA et hybrides. En fin de compte, Turnitin a obtenu plus de la moiti\u00e9 des \u00e9chantillons au moins en partie incorrects. Il en a correctement marqu\u00e9 six, mais a compl\u00e8tement laiss\u00e9 tomber la balle sur trois autres. S’il s’agissait d’un vrai cours, Turnitin n’aurait produit qu’un d\u00e9sastre. <\/p>\n

L’un des premiers g\u00e9n\u00e9rateurs d’IA \u00e0 devenir viral, GPTZero, \u00e9choue au test de pr\u00e9cision avec peu d’exp\u00e9rimentation. Je l’ai test\u00e9 en \u00e9crivant un paragraphe sur la glace sur un ton neutre. Il m’a dit \u00ab\u00a0Votre texte sera probablement enti\u00e8rement \u00e9crit par l’IA.\u00a0\u00bb<\/p>\n

\n

La cr\u00e8me glac\u00e9e est un dessert glac\u00e9 populaire appr\u00e9ci\u00e9 par les gens du monde entier. Il est principalement consomm\u00e9 par temps chaud ou chaud, comme en \u00e9t\u00e9, mais il se d\u00e9guste toute l’ann\u00e9e. La cr\u00e8me glac\u00e9e se d\u00e9cline en de nombreuses saveurs et est souvent accompagn\u00e9e de garnitures, telles que des bonbons, des noix, des fruits ou des sirops.<\/p>\n<\/blockquote>\n

Mais mon paragraphe ambigu n\u2019est qu\u2019un d\u00e9but. Un autre d\u00e9tecteur, nomm\u00e9 ZeroGPT, qui pr\u00eate \u00e0 confusion, est tomb\u00e9 sur la face lorsqu’un r\u00e9dacteur a d\u00e9cid\u00e9 d’analyser la Constitution des \u00c9tats-Unis. Selon ZeroGPT, la Constitution a \u00e9t\u00e9 r\u00e9dig\u00e9e \u00e0 92,26 % par AI. Qui aurait cru que la Convention de Philadelphie s\u2019appuyait autant sur l\u2019intelligence artificielle pour \u00e9laborer la loi du pays ? (Je suppose que cela explique de toute fa\u00e7on quelques-uns de ces amendements.)<\/p>\n

\n <\/p>\n

Ce Tweet est actuellement indisponible. Il est peut-\u00eatre en cours de chargement ou a \u00e9t\u00e9 supprim\u00e9.
\n <\/a>\n<\/p><\/blockquote>\n

Cependant, une fa\u00e7on de tromper les d\u00e9tecteurs consiste \u00e0 faire passer un texte g\u00e9n\u00e9r\u00e9 par l\u2019IA \u00e0 un autre passage via l\u2019IA. QuillBot, par exemple, r\u00e9\u00e9crit le texte pour vous et est d\u00e9j\u00e0 utilis\u00e9 par les \u00e9tudiants pour \u00e9chapper aux contr\u00f4leurs. Si un d\u00e9tecteur d’IA recherche la \u00ab moyenne \u00bb d’un texte donn\u00e9 afin de d\u00e9terminer s’il a \u00e9t\u00e9 \u00e9crit par une IA ou non, demander \u00e0 une autre IA d’ajouter plus de vari\u00e9t\u00e9 au texte mettra une cl\u00e9 dans ce syst\u00e8me. QuillBot appara\u00eet fr\u00e9quemment dans les commentaires de TikToks discutant des d\u00e9tecteurs d\u2019IA \u00e0 l\u2019\u00e9cole. Les enfants volont\u00e9<\/em> trouver un moyen.<\/p>\n

Les d\u00e9tecteurs d’IA blessent des \u00e9tudiants innocents<\/h2>\n

Jusqu\u2019\u00e0 pr\u00e9sent, ces exemples ne sont que de la th\u00e9orie. Mais ces dames ne sont pas des prototypes. Ils sont l\u00e0 et sont utilis\u00e9s contre de vrais \u00e9tudiants. Je suis s\u00fbr que ces d\u00e9tecteurs ont d\u00e9nonc\u00e9 de nombreux \u00e9tudiants qui utilisaient des outils comme ChatGPT pour tricher, mais ils accusent \u00e9galement \u00e0 tort des \u00e9tudiants innocents de faire de m\u00eame, et cela a des cons\u00e9quences n\u00e9fastes\u00a0:<\/p>\n

\n <\/p>\n

Ce Tweet est actuellement indisponible. Il est peut-\u00eatre en cours de chargement ou a \u00e9t\u00e9 supprim\u00e9.
\n <\/a>\n<\/p><\/blockquote>\n

Ce tweet a eu une \u00ab bonne \u00bb r\u00e9solution, puisque l\u2019instructeur a reconnu l\u2019erreur et a retir\u00e9 son accusation. Mais dans d\u2019autres situations, les enseignants traitent les v\u00e9rificateurs d\u2019IA comme un \u00e9vangile, mettant fin \u00e0 la discussion avec chaque r\u00e9sultat \u00ab g\u00e9n\u00e9r\u00e9 par l\u2019IA \u00bb\u00a0:<\/p>\n

\n <\/p>\n

Ce Tweet est actuellement indisponible. Il est peut-\u00eatre en cours de chargement ou a \u00e9t\u00e9 supprim\u00e9.
\n <\/a>\n<\/p><\/blockquote>\n

Je ne nierai pas que nous sommes confront\u00e9s \u00e0 un nouveau monde. Les grands mod\u00e8les linguistiques signifient que les \u00e9tudiants peuvent brancher une invite de r\u00e9daction et recevoir en retour un essai enti\u00e8rement \u00e9crit (avec diff\u00e9rents niveaux de qualit\u00e9). Mais peut-\u00eatre que le fait que les \u00e9tudiants puissent si facilement tromper le syst\u00e8me indique un syst\u00e8me qui doit changer, plut\u00f4t qu’une solution de fortune qui punit les \u00e9tudiants innocents aussi facilement que les coupables.<\/p>\n

Turnitin qualifie de \u00ab faux positifs \u00bb les moments o\u00f9 il qualifie le texte g\u00e9n\u00e9r\u00e9 par l\u2019homme d\u2019\u00e9crit par l\u2019IA. Mignon. Mais l\u2019entreprise souligne qu\u2019elle \u00ab ne d\u00e9termine pas une mauvaise conduite \u00bb ; ils proposent plut\u00f4t donn\u00e9es<\/em>et laissez le dernier appel \u00e0 l’\u00e9ducateur. Cet avertissement semble avoir \u00e9t\u00e9 perdu pour beaucoup : \u00e0 leurs yeux, si le v\u00e9rificateur de l’IA dit que vous \u00eates un tricheur, vous \u00eates un tricheur.<\/p>\n