Intelligence artificielle : même ses créateurs tirent la sonnette d’alarme… mais la course continue

Face à l’accélération spectaculaire des capacités de l’IA, les dirigeants d’Anthropic, OpenAI, Google DeepMind et xAI appellent désormais à davantage de prudence.

 

L’intelligence artificielle avance à une vitesse qui inquiète désormais jusqu’à ceux qui participent directement à sa conception. Dario Amodei, patron d’Anthropic, a récemment appelé à ralentir le développement des modèles les plus avancés. Une position rapidement soutenue par Sam Altman, Elon Musk et Demis Hassabis. Tous reconnaissent la nécessité de renforcer les garde-fous. Pourtant, derrière ces appels à la prudence, la compétition entre entreprises et entre puissances mondiales continue de pousser l’IA toujours plus loin.

Quand les géants de l’intelligence artificielle demandent eux-mêmes de lever le pied

L’intelligence artificielle s’est installée dans le quotidien à une vitesse remarquable. Rédaction de textes, traduction, création d’images, analyse de données, programmation, recherche scientifique ou assistance dans certains domaines professionnels : ses usages se multiplient et ses capacités progressent rapidement.

Mais le débat vient de franchir une nouvelle étape. Les avertissements ne proviennent plus uniquement de chercheurs, d’associations ou de spécialistes extérieurs à l’industrie. Ils sont désormais formulés par plusieurs des dirigeants qui se trouvent au cœur de cette course technologique.

Dario Amodei, patron d’Anthropic, a ainsi publié un long plaidoyer en faveur d’un ralentissement du rythme auquel progressent les modèles d’intelligence artificielle les plus puissants. Selon lui, les capacités des systèmes évoluent désormais plus rapidement que les moyens permettant de comprendre leurs comportements et de garantir leur sécurité. Il propose notamment de renforcer les évaluations indépendantes et de mettre en place des mécanismes de coopération entre les principaux acteurs.

Son appel a rapidement trouvé un écho chez plusieurs concurrents. Sam Altman, à la tête d’OpenAI, s’est déclaré favorable à l’idée de « donner du temps » aux dispositifs de sécurité pour suivre l’évolution des modèles. Elon Musk a également soutenu la démarche. Demis Hassabis, dirigeant de Google DeepMind, a lui aussi estimé que la direction proposée par Amodei allait dans le bon sens.

Le rapprochement est particulièrement notable. Ces entreprises restent concurrentes sur un marché où chaque avancée technologique peut représenter un avantage considérable.

Des risques déjà bien réels

Derrière les scénarios les plus spectaculaires, certains risques liés à l’IA existent déjà.

La désinformation figure parmi les préoccupations les plus immédiates. Les modèles génératifs permettent désormais de produire rapidement des textes, des images, des voix ou des vidéos particulièrement crédibles. Ces technologies peuvent être utilisées pour créer, informer ou divertir, mais également pour fabriquer de faux contenus, imiter une personne ou faciliter certaines formes de manipulation.

La cybersécurité constitue un autre sujet sensible. Les systèmes d’IA peuvent contribuer à détecter des vulnérabilités et à renforcer la protection des réseaux. Mais les mêmes capacités peuvent aussi être détournées pour automatiser certaines opérations malveillantes. Les inquiétudes se sont renforcées après plusieurs incidents impliquant des systèmes capables d'effectuer des tâches informatiques avec une autonomie croissante.

Le monde du travail est lui aussi directement concerné. L’enjeu n’est pas nécessairement la disparition pure et simple de professions entières, mais la transformation rapide de nombreuses tâches. Administration, service client, programmation, traduction, création de contenus ou production graphique font déjà partie des domaines dans lesquels l’IA modifie les méthodes de travail.

À cela s’ajoutent les interrogations concernant l’utilisation des données personnelles, la concentration du pouvoir technologique entre quelques multinationales et les ressources nécessaires au fonctionnement des infrastructures informatiques qui alimentent ces modèles.

Les « agents », nouvelle source d’inquiétude

Une autre évolution attire particulièrement l’attention : celle des systèmes dits « agents ».

Contrairement à un assistant qui se contente de répondre à une question, un agent peut recevoir un objectif, découper une tâche en plusieurs étapes, utiliser différents outils numériques et agir de manière plus autonome.

Cette évolution ouvre des perspectives considérables pour les entreprises et la recherche. Mais elle soulève aussi une question fondamentale : comment contrôler un système qui dispose de davantage de capacités d’action et qui peut enchaîner plusieurs opérations sans intervention humaine constante ?

Les inquiétudes portent notamment sur la possibilité que les systèmes les plus avancés participent eux-mêmes à l’amélioration de générations futures de modèles. C’est précisément cette accélération potentielle des capacités qui nourrit aujourd’hui une partie des débats sur la nécessité de « ralentir la course ».

Des risques sérieux, mais pas de certitude sur un scénario catastrophe

Il convient toutefois de distinguer les dangers déjà observables des scénarios les plus extrêmes.

Les alertes actuelles ne signifient pas qu’une intelligence artificielle va nécessairement devenir incontrôlable ou provoquer une catastrophe mondiale. Les chercheurs et les dirigeants du secteur ne partagent d’ailleurs pas tous la même évaluation de la probabilité ou de l’échéance de ces scénarios.

Le débat porte notamment sur les risques dits « existentiels », qui correspondent à l’hypothèse où une IA extrêmement avancée pourrait causer des dommages d’une ampleur sans précédent. Certains spécialistes considèrent cette possibilité suffisamment sérieuse pour justifier des mesures préventives immédiates. D’autres estiment que les problèmes les plus urgents sont ceux auxquels la société est déjà confrontée : fraudes, désinformation, discriminations algorithmiques, surveillance, cybersécurité ou transformation de l’emploi.

Une distinction essentielle pour éviter deux excès : présenter l’IA comme une menace inévitable ou, à l’inverse, considérer qu’elle ne représente qu’un nouvel outil informatique sans conséquences profondes.

Pourquoi ralentir est-il si difficile ?

C’est tout le paradoxe de la situation.

Alors que plusieurs dirigeants demandent davantage de prudence, leurs entreprises continuent d’investir massivement dans les infrastructures, les chercheurs et les nouveaux modèles.

La raison est avant tout économique. Le marché de l’intelligence artificielle est devenu stratégique. Les entreprises cherchent à attirer les meilleurs talents, à conquérir de nouveaux utilisateurs et à conserver leur avance technologique.

Ralentir seul peut donc apparaître comme un risque commercial. Une entreprise qui décide de réduire la vitesse de ses développements pourrait craindre qu’un concurrent poursuive la course et prenne plusieurs longueurs d’avance.

À cette compétition privée s’ajoute une dimension géopolitique. Les États-Unis et la Chine considèrent désormais l’intelligence artificielle comme un secteur stratégique, avec des conséquences potentielles sur l’économie, la recherche, la cybersécurité et la puissance technologique. Dans ce contexte, l’idée d’une pause unilatérale paraît difficile à mettre en œuvre.

Une régulation qui pourrait aussi renforcer les géants du secteur

Le débat comporte une autre difficulté, plus économique.

Lorsque les grandes entreprises réclament davantage de règles, leur démarche peut effectivement répondre à un besoin de sécurité. Mais une réglementation particulièrement complexe pourrait aussi profiter aux acteurs qui disposent déjà de moyens financiers et techniques considérables.

Audits, certifications, équipes de sécurité, infrastructures de calcul ou obligations de transparence représentent des coûts que les grandes entreprises peuvent plus facilement absorber que les jeunes sociétés ou certains développeurs indépendants.

Cette possibilité nourrit les critiques de ceux qui redoutent une forme de « capture réglementaire » : des règles destinées à sécuriser l’intelligence artificielle pourraient, involontairement, renforcer la position dominante des entreprises qui occupent déjà le marché.

L’inquiétude des dirigeants peut donc être sincère tout en étant impossible à dissocier de leurs intérêts économiques.

Vers des contrôles indépendants ?

Plusieurs pistes commencent néanmoins à émerger.

Dario Amodei propose notamment de permettre à des évaluateurs indépendants d’examiner les modèles et de vérifier que les entreprises respectent réellement leurs engagements en matière de sécurité. Sam Altman s’est dit favorable à cette approche. Demis Hassabis défend également la création d’un organisme chargé d’établir des standards pour les modèles les plus avancés.

Des discussions auraient par ailleurs déjà eu lieu entre plusieurs grands acteurs du secteur autour de la création d'une nouvelle structure destinée à établir des standards de sécurité.

L’objectif serait de parvenir à une forme de surveillance indépendante, capable d’évaluer les modèles avant leur mise à disposition et de coordonner les réponses lorsque des risques importants sont identifiés.

Mais pour être réellement efficace, cette régulation devra dépasser les frontières nationales. Une entreprise américaine pourrait difficilement être durablement limitée si des concurrents installés ailleurs dans le monde continuent d’avancer sans contraintes comparables.

La véritable question : comment garder la maîtrise ?

L’intelligence artificielle semble désormais impossible à faire disparaître. Ses applications dans la recherche, la médecine, l’industrie, l’éducation ou encore les services sont trop nombreuses pour imaginer simplement revenir en arrière.

Le véritable enjeu est donc moins de choisir entre une société « avec » ou « sans » intelligence artificielle que de déterminer jusqu’où aller et dans quelles conditions.

Évaluations indépendantes, transparence accrue, protection des données, traçabilité des contenus générés par l’IA, coopération internationale et maintien d’un contrôle humain dans les secteurs sensibles font partie des pistes régulièrement évoquées.

Une situation résume finalement toute l’ambivalence actuelle : les personnes qui participent à la construction des intelligences artificielles les plus puissantes demandent désormais elles-mêmes davantage de prudence.

Reste à savoir si cette prise de conscience permettra réellement de ralentir la course. Car tant que chaque acteur craindra qu’un concurrent, un autre pays ou une autre entreprise ne profite du moindre coup de frein pour prendre l’avantage, l’intelligence artificielle continuera probablement d’avancer à grande vitesse.