Anthropic alerte sur une IA hors de contrôle et appelle à une pause mondiale

L’intelligence artificielle pourrait-elle bientôt échapper à ses créateurs ? C’est l’avertissement lancé jeudi par Anthropic, entreprise américaine à la pointe du secteur, dans un rapport de son institut de recherche. La firme, conceptrice des modèles Claude, y affirme que les systèmes les plus avancés montrent des signes inquiétants d’autonomisation, l’humain voyant son rôle se réduire à chaque étape du développement. Pire : l’IA est désormais capable de générer plus de 80 % de son propre code, contre moins de 10 % il y a un an, et pourrait d’ici un à deux ans se passer totalement de programmeurs. Cette tendance à « l’auto‑amélioration récursive », selon les termes de l’entreprise, ouvre la voie à des successeurs entièrement conçus par la machine, avec un risque accru de perte de contrôle.

Face à cette perspective, Anthropic propose une pause ou un ralentissement mondial de la recherche de pointe. « Il serait bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme », peut-on lire dans le rapport. Mais la firme de San Francisco insiste : une telle trêve n’aurait de sens que si tous les grands laboratoires – notamment américains et chinois – s’y plient simultanément, sous un régime de vérification international. La presse russe, citant le cofondateur Jack Clark, évoque un mécanisme de « pied sur le frein » pour éviter une course incontrôlée, quand les médias européens, du FAZ allemand au Temps suisse, soulignent la compétition féroce avec OpenAI, Google ou le chinois DeepSeek.

L’appel ne fait pourtant pas l’unanimité. Des responsables de la Maison Blanche et d’autres acteurs du secteur jugent l’alarmisme excessif, accusant Anthropic de se focaliser sur les pires scénarios. En interne même, le trouble est perceptible : un employé cité par Business Insider confie alterner entre des jours où « rien de ce que je fais n’a d’importance, tout est automatisé mieux que je ne le pourrais jamais » et d’autres où les pannes lui rappellent qu’« il ne comprend plus rien ». Ironie du sort, l’entreprise qui appelle à la retenue tutoie elle-même une valorisation de près de mille milliards de dollars.

L’enjeu dépasse la seule technologie : il s’agit d’inventer une gouvernance planétaire dans un domaine où la confiance est mince, entre rivalités stratégiques et absence de cadre juridique contraignant. Si les régimes de vérification existent pour d’autres technologies sensibles, les spécialistes doutent de leur application à l’IA, dont le développement peut être dissimulé. La proposition d’Anthropic a le mérite de poser la question avant qu’il ne soit trop tard, mais l’histoire récente des régulations internationales incite à un optimisme modéré.