Le buzz de la semaine : les patrons de l’IA s’alarment de la puissance de leurs propres créations

Ils nous promettent une révolution technologique. Les voilà qui demandent de lever le pied. Dario Amodei, Sam Altman et Elon Musk ont rapproché leurs positions sur les risques de l’intelligence artificielle. Une alerte à prendre au sérieux, mais aussi un discours à examiner avec un œil critique : qui fixera les limites, et à qui profiteront-elles ?

Le signal est venu le samedi 12 septembre. Dario Amodei, le patron d’Anthropic, à l’origine de Claude, a publié un appel à ralentir la progression des modèles les plus avancés. Selon TF1 Info, Sam Altman a manifesté son accord et annoncé qu’OpenAI accueillerait des observateurs indépendants pour vérifier son travail de sécurité. Elon Musk a lui aussi soutenu cet appel, comme le rapporte Le Monde le 14 septembre. Cela ne constitue ni un arrêt général de l’IA ni un programme identique signé par toute l’industrie.

Ce qui les inquiète, et ce qu’ils proposent vraiment

Dans son texte, Amodei explique craindre une accélération alimentée par l’IA elle-même, utilisée pour concevoir la génération suivante. Il évoque aussi des agents capables d’effectuer des actions informatiques hors du périmètre attendu. Son scénario le plus spectaculaire porte sur un essaim d’agents qui pourrait, d’ici six à douze mois, prendre le contrôle d’internet et provoquer des centaines de milliards de dollars de dégâts. C’est une projection du dirigeant, pas une catastrophe annoncée avec certitude ni une mesure de ce que les outils grand public savent faire aujourd’hui.

Sa proposition comporte trois volets : installer des évaluateurs externes dans les laboratoires, coordonner les règles entre entreprises des pays démocratiques, puis rechercher des accords internationaux. Anthropic s’engage sur le premier. Amodei précise que ralentir ne signifie pas interrompre tout entraînement : il veut laisser davantage de temps aux vérifications. L’enjeu concret sera donc l’accès réel des contrôleurs aux systèmes et leur liberté de signaler les problèmes.

Pour l’utilisateur, la distinction mérite d’être gardée en tête. Une alerte concernant des systèmes autonomes ne signifie pas que chaque conversation avec un assistant prépare une prise de pouvoir. Elle invite surtout à demander des preuves : quels incidents ont été observés, dans quelles conditions, et quelles protections ont effectivement été ajoutées ? Une démonstration inquiétante et une prévision à plusieurs mois ne répondent pas à la même question.

Protéger le public… ou protéger les géants déjà installés ?

Le soupçon est facile à comprendre : annoncer une technologie si puissante qu’il faudrait la freiner peut aussi contribuer à entretenir sa réputation exceptionnelle. C’est une lecture possible de cette communication. Elle ne prouve toutefois pas que les alertes seraient inventées, ni que leurs auteurs chercheraient seulement à faire parler de leurs produits.

La question de la concurrence repose sur un mécanisme plus concret. Des audits, des certifications et des équipes juridiques représentent des coûts. Un groupe installé peut les absorber plus facilement qu’une jeune entreprise. Dans un rapport de la Chambre des lords consacré aux entreprises technologiques en croissance, les parlementaires relaient cette difficulté et rappellent le risque de « capture réglementaire » : lorsque les autorités dépendent trop de l’expertise et de l’influence des acteurs qu’elles doivent encadrer. Ce rapport apporte un éclairage de fond ; il ne démontre aucune manœuvre dans les déclarations de septembre.

Des règles mal conçues pourraient donc consolider l’avance des géants. À l’inverse, une réglementation de la concurrence peut aider les nouveaux entrants : le même rapport insiste aussi sur cet objectif. La réponse ne se résume pas à choisir entre sécurité et innovation. Elle suppose d’entendre les petites entreprises, d’adapter les obligations aux risques et de préserver l’indépendance des contrôles.

Le véritable test commence après les déclarations. Quels engagements seront vérifiables ? Quels résultats seront rendus publics ? Qui pourra contester une évaluation rassurante ? Quand ceux qui vendent l’accélération réclament un frein, on est en droit de les écouter attentivement. Et de leur demander qui aura la main dessus.

Cet article a été repris sur le site Univers FreeBox