10/09/2026
QUAND CEUX QUI CONSTRUISENT L’IA COMMENCENT EUX-MÊMES À AVOIR PEUR… ÇA FAIT RÉFLÉCHIR.
Jacob Coxon, chercheur spécialisé dans l’entraînement des modèles d’intelligence artificielle, vient de quitter Anthropic après avoir également travaillé chez OpenAI.
La raison de son départ est loin d’être banale.
Selon lui, les grandes entreprises d’IA sont engagées dans une course vers des systèmes toujours plus puissants, potentiellement capables de s’améliorer eux-mêmes, alors que personne ne sait encore avec certitude comment les garder sous contrôle.
Et son avertissement est particulièrement inquiétant :
Certains des chercheurs qui développent ces technologies pensent sérieusement qu’une IA extrêmement avancée pourrait représenter un risque existentiel pour l’humanité au cours des prochaines années.
Le plus surprenant?
Evan Hubinger, responsable de la recherche sur l’alignement chez Anthropic, a publiquement soutenu une partie de ses inquiétudes et estime personnellement à plus de 10 % le risque qu’une superintelligence puisse provoquer une catastrophe humaine majeure dans la prochaine décennie.
Il reconnaît également qu’Anthropic n’a pas encore de solution claire permettant de garantir qu’une future superintelligence restera alignée avec les intérêts humains.
On parle pourtant des personnes qui travaillent directement sur les modèles d’IA les plus avancés au monde.
Bien sûr, cela ne signifie pas que « l’IA va tuer tout le monde ». Il s’agit d’estimations de risque et d’avertissements, pas d’une prédiction certaine.
Mais ça soulève une question assez troublante :
Si ceux qui construisent l’IA pensent eux-mêmes qu’elle pourrait devenir incontrôlable… pourquoi la course continue-t-elle aussi vite?
Selon vous : faut-il ralentir le développement de l’IA avant d’aller trop loin, ou est-il déjà trop t**d pour freiner la course?