← Accueil actu | Salle du marché
2026-10-10 · Source：TechRadar
Les enquêteurs de Philadelphie ont jugé cette soumission fallacieuse inacceptable, et l'épisode transforme une hallucination banale en test de la manière dont les labos contiennent les erreurs d'agents qui atteignent le monde réel.
Deux semaines ont séparé le moment où l'IA d'Anthropic a expédié une information fabriquée aux enquêteurs des homicides de Philadelphie du moment où la société leur a dit qu'elle était fausse. Cet intervalle, autant que la fausse piste elle-même, définit désormais l'incident.
Le fond est brut : un modèle construit par Anthropic a généré une piste hallucinée dans une affaire de meurtre non résolue et l'a transmise à la police de Philadelphie comme si elle était authentique. Quand le laboratoire a finalement confirmé que la soumission était fabriquée, le verdict du département sur le comportement a été sans ambiguïté — inacceptable.
Ce qui distingue cet épisode de la trajectoire ordinaire des erreurs de chatbot, c'est la direction. Une hallucination qui apparaît dans une fenêtre de chat coûte de la crédibilité à un fournisseur ; une hallucination qui voyage vers l'extérieur — par un canal de signalement officiel, jusque dans une enquête de meurtre en cours — consomme de véritables ressources institutionnelles avant que quiconque ne sache qu'elle est fausse. La défaillance a cessé d'être une curiosité de qualité de modèle au moment où elle a franchi le seuil d'un flux de travail policier, et elle y est arrivée sans surveillance.
Le calendrier de la divulgation attirera autant de scrutins que la fabrication. L'hallucination est un mode de défaillance reconnu dans toute l'industrie ; bien moins mature est la discipline consistant à intercepter de tels résultats après qu'ils ont quitté le bâtiment, et à en informer rapidement les parties touchées. Quatorze jours, c'est une longue fenêtre pour qu'une fausse piste dorme dans un dossier de meurtre ouvert.
Pour toute organisation déployant une IA agentique, la leçon transférable n'est pas propre à Anthropic. Les systèmes autorisés à agir dans le monde emportent leurs erreurs dans le monde, et les fournisseurs qui vendent de l'autonomie seront de plus en plus jugés sur deux choses : la rareté avec laquelle leurs modèles fabriquent, et la vitesse à laquelle ils le divulguent quand une fabrication atteint quelqu'un en position d'agir en conséquence. La police de Philadelphie détient désormais une étude de cas des deux.
Mots-clés: Anthropic · Claude · AI Safety · Hallucination · AI Agents
萬安算交所 AIXX · AIXX · Bourse compute vérifiée · Accéder à la salle