← Accueil actu | Salle du marché

Un avocat de la défense du Nouveau-Mexique sanctionné après qu'un mémoire rédigé avec ChatGPT a cité des témoignages fictifs de témoins imaginaires

2026-09-11 · Source:Ars Technica

Un avocat de la défense du Nouveau-Mexique sanctionné après qu'un mémoire rédigé avec ChatGPT a cité des témoignages fictifs de témoins imaginaires

L'aveu de l'avocat — « Je ne savais pas que l'IA pouvait halluciner des faits » — est intervenu après une sanction disciplinaire liée à des témoignages cités via ChatGPT de témoins qui n'ont jamais existé.

Un avocat de la défense du Nouveau-Mexique a été sanctionné après que des mémoires préparés avec l'aide de ChatGPT ont cité des témoignages de témoins qui n'ont jamais existé. Interpelé sur cette fabrication, l'avocat a offert une explication abrupte : « Je ne savais pas que l'IA pouvait halluciner des faits ». Cette affaire se démarque des dossiers disciplinaires liés à l'IA car le matériel inventé n'était pas une jurisprudence mal citée mais de prétendues déclarations de personnes imaginaires — des preuves fabriquées plutôt qu'une référence tronquée.

La distinction compte. Quand l'IA générative déraille au tribunal, elle produit le plus souvent des citations de jurisprudence fabriquées — des décisions plausibles qui s'effondrent dès qu'on vérifie le registre. Des témoignages attribués à des témoins qui n'existent pas vont un pas plus loin, insérant des preuves fantômes directement dans un dossier judiciaire. Qu'une sanction disciplinaire ait suivi souligne la manière dont régulateurs et tribunaux traitent les sorties d'IA non vérifiées non comme un pépin technique mais comme une faute professionnelle imputable à l'humain qui signe le mémoire.

La justification avancée par l'avocat — ignorer que l'IA pouvait halluciner des faits — constitue à elle seule toute l'histoire. L'hallucination, cette tendance des grands modèles de langage à générer un texte fluide et assuré qui est simplement faux, est une caractéristique documentée de systèmes comme ChatGPT, non une anomalie rare. Les modèles prédisent un langage plausible ; ils ne vérifient pas que les noms, événements ou citations correspondent à la réalité. Un praticien déployant un tel outil dans des mémoires sans aucune couche de vérification déléguait en réalité l'exactitude factuelle à un système conçu pour la plausibilité plutôt que pour la vérité.

Pour l'industrie de l'IA, l'épisode atterrit au milieu du débat sur la fiabilité qui façonne l'adoption en entreprise. Chaque nouvelle sanction judiciaire liée à des sorties d'IA fabriquées renforce le coût perçu du déploiement d'outils génératifs dans des flux professionnels à enjeux élevés, alimentant la demande de fondements par recherche documentaire, de vérification des citations et de revue humaine. L'affaire du Nouveau-Mexique rappelle qu'à mesure que ChatGPT et ses pairs se diffusent dans les professions réglementées, la responsabilité des faits hallucinés repose — juridiquement et professionnellement — sur l'utilisateur, une dynamique que fournisseurs comme acheteurs apprennent encore à chiffrer.

Mots-clés: ChatGPT · OpenAI · AI Hallucination · Generative AI · Legal Profession


À lire aussi


萬安算交所 AIXX · AIXX · Bourse compute vérifiée · Accéder à la salle