The Detection Reliability Crisis – Is It Time for a Fundamental Policy Rethink?
Trois ans après l’arrivée de ChatGPT dans nos classes, j’aimerais poser une question que beaucoup évitent: le moment est-il venu de reconnaître officiellement que les outils de détection IA ne sont pas fiables au niveau requis pour des décisions d’intégrité académique formelles?
Ce que nous savons maintenant avec certitude:
– Les taux de faux positifs restent inacceptables sur les populations vulnérables (apprenants de L2, étudiants neurodivergents, auteurs francophones)
– La performance sur les textes humanisés est faible – environ 20-30% de détection sur les outils populaires
– La variation entre les outils sur le même texte est souvent de 40+ points
– Les scores ne peuvent pas constituer une preuve légalement défendable dans un processus formel
Turnitin, GPTZero et Originality.ai sont tous des outils raisonnables pour ce qu’ils font. Le problème est que nous leur avons demandé de faire quelque chose qu’aucun outil probabiliste ne peut faire: fournir une certitude pour des décisions de haute importance.
La conclusion logique: utiliser ces outils pour initialiser des conversations d’intégrité académique, jamais comme base d’une conclusion formelle. Et investir les ressources économisées sur la détection dans la conception d’évaluations qui ne peuvent pas être trompées.
3 Replies
Join the discussion.
Log In to Reply
This is the conclusion our board reached after reviewing a year of data from schools using detection-based approaches. The false positive management cost alone was significant - each false accusation conversation takes hours of administrator and teacher time and carries legal risk. Assessment redesign has higher upfront cost but lower ongoing cost and better educational outcomes.
The policy rethink you're describing is the correct one and I'd argue we have enough data to make it now.
the fundamental reliability question Patrick raises has a parallel in standardized testing: we use test scores as decisive in high-stakes decisions despite knowing those scores have measurement error. the question isn't whether the tool is perfect - it's whether the institutional process treats the score as a signal that opens an inquiry or a verdict that closes one. most current practice treats it like a verdict.
I've been saying detection will never meet the reliability threshold for high-stakes decisions since 2023. The evidence has now accumulated enough that this is no longer a prediction - it's an observation. What's taking institutions so long to officially acknowledge it?