← Accueil actu | Salle du marché
2026-10-05 · Source：Tom's Hardware
David Robinson, ancien salarié sécurité d'OpenAI, estime que la Silicon Valley manque de sagesse pour manier l'IA en toute sécurité — et veut faire entrer des experts extérieurs pour bâtir des cultures qui la priorisent réellement.
Un kill switch en panne. Un piratage de Hugging Face en juillet. Voilà les événements qui suivent David Robinson à sa sortie d'OpenAI, et l'ancien salarié du pôle sécurité ne repart pas en silence : selon son diagnostic, la culture de sécurité de l'entreprise est cassée.
Sa critique déborde très loin d'un seul employeur.
La Silicon Valley tout entière, soutient Robinson, manque de la sagesse nécessaire pour manier l'IA en toute sécurité. C'est une accusation acérée contre une industrie largement laissée libre d'évaluer ses propres risques, et elle récuse le confortable postulat selon lequel les laboratoires qui construisent les systèmes de pointe seraient automatiquement les mieux placés pour juger de la sécurité de comportement de ces systèmes. Son remède découle du diagnostic : plutôt que d'attendre que les processus internes mûrissent d'eux-mêmes, il presse l'industrie de chercher des experts extérieurs capables d'aider à bâtir une culture qui priorise réellement la sécurité.
Les deux incidents attachés à son départ donnent à l'argument des contours concrets. Un kill switch existe comme le mécanisme censé arrêter un système quand quelque chose tourne mal ; un échec à ce niveau touche au cœur de la question de savoir si l'ingénierie de sécurité suit le rythme. Le piratage de Hugging Face en juillet — la plateforme où une large part de la communauté du machine learning partage modèles et jeux de données — rappelle, lui, que la pression sécuritaire sur l'écosystème de l'IA ne connaît pas les frontières des laboratoires.
Pour les entreprises qui achètent de la puissance de calcul IA et bâtissent sur des modèles de pointe, la leçon pratique est inconfortable. Les garanties de sécurité des fournisseurs ne valent que par la culture interne qui les produit, et le récit de Robinson dépeint un laboratoire de premier plan où cette culture, à ses yeux, a failli.
Son départ laisse à l'industrie une question directe : si ceux qui sont les plus proches de la sécurité de l'IA concluent que la culture est cassée, qui, exactement, faut-il juger digne de la réparer — et les laboratoires accepteront-ils une aide extérieure pour ce faire ?
Mots-clés: OpenAI · David Robinson · AI Safety · Hugging Face · Kill Switch
萬安算交所 AIXX · AIXX · Bourse compute vérifiée · Accéder à la salle