Il Nuovo Postiglione - En Ecosse, Charles III réunit les poids lourds de l'IA et met en garde contre ses "risques existentiels"

"Il y a urgence à examiner de manière adéquate les dangers existentiels que représente la possibilité que de telles technologies tombent entre de mauvaises mains", a-t-il déclaré aux convives dans des propos introductifs.

"Ceux qui, dans notre monde, accordent de la valeur à notre humanité et à sa composante morale essentielle attendent anxieusement de vous l'assurance que nous ne perdrons pas le contrôle de notre destin", a-t-il ajouté, les appelant "à veiller" à ce que la technologie "demeure fermement au service de l'humanité".

Parmi les invités figuraient le président de DeepMind, Demis Hassabis, le patron du géant américain des semi-conducteurs Nvidia, Jensen Huang, ou encore la directrice financière d'OpenAI, Sarah Friar, ainsi que des représentants d'Anthropic, Microsoft ou Amazon.

Le conseiller du Vatican sur l'IA Paolo Benanti - vêtu d'une robe de bure au milieu des costumes-cravates et des tailleurs - ou encore l'historien et philosophe israélien Yuval Noah Harari étaient également présents.

Ce sommet, dont la date avait été gardée secrète, s'est tenu au domaine de Dumfries House, une demeure du XVIIIe siècle ornée de tableaux et de tapis anciens, qui abrite le siège de la King's Foundation, dans la campagne écossaise.

- "Sécurité au coeur" -

L'objectif de la rencontre était d'examiner la possibilité d'élaborer des principes communs pour guider le développement et les usages de l'IA. Les discussions ont été facilitées par la Ditchley Foundation, une organisation caritative britannique.

"Nous espérons pouvoir nous appuyer sur les échanges très utiles que nous avons eus aujourd’hui", a déclaré son directeur, James Arroyo, dans un communiqué à l’issue d'une journée de discussions sans accord formel, que Buckingham Palace présente comme le début d’un processus.

Le roi, qui n'a lui-même pas participé aux discussions, a demandé jeudi aux invités de réfléchir aux moyens de tirer parti de l'IA "en plaçant la sécurité au cœur" et de bâtir une coopération internationale sans "qu'aucune nation ne soit laissée pour compte".

Ce sommet à l'initiative du roi s'est tenu en pleine polémique avec le frère de la princesse Diana, Charles Spencer, qui affirme qu'il aurait déclaré, quelques jours après la mort de son ex-épouse en 1997, qu'elle serait "oubliée bien assez tôt", ce que Buckingham dément.

D'après le Times, la famille royale a par ailleurs été la cible d'une campagne de déstabilisation en ligne opérée par des milliers de "bots", des comptes automatisés par l'IA, basés à l'étranger et propageant de fausses informations.

Le développement de l'IA alimente des inquiétudes depuis des mois, pour les menaces qu'elle fait peser sur l'emploi, mais aussi pour l'impact des centres de données sur les besoins en énergie et le climat.

- "Idées reçues" -

Le débat est monté en puissance cet été, alimenté par plusieurs incidents et les mises en garde apocalyptiques de professionnels du secteur, ravivant les craintes de voir les concepteurs d'agents d'IA perdre le contrôle de leurs créations.

"La probabilité que quelque chose de grave se produise par accident, si nous nous trompons, n'est certainement pas nulle", a estimé jeudi le patron de Google DeepMind, Demis Hassabis, face aux convives.

Il a évoqué "les récents incidents cyber impliquant des agents d'IA échappant au contrôle", mais aussi d'autres risques potentiels "bien plus graves" à l'avenir, "notamment biologiques et nucléaires".

Le fondateur de Nvidia, Jensen Huang, a lui insisté sur les bénéfices apportés par l'IA, dans la recherche ou la médecine, mais aussi avec la création d'emplois "dans des secteurs totalement nouveaux", appelant à faire preuve d'un "optimisme responsable".

"Il faut tordre le cou à certaines idées reçues", a-t-il déclaré d'un ton tranquille lors d'un échange avec la presse, estimant qu'il fallait "aller aussi vite que possible, mais pas plus vite".

Le directeur général d'Anthropic, Dario Amodei, a appelé samedi à ralentir le développement de la technologie pour mieux appréhender les risques, soutenu par le patron d'OpenAI Sam Altman et par Elon Musk.

Le président américain Donald Trump a en revanche réitéré ces derniers jours sa volonté de ne pas corseter le secteur, officiellement par crainte de laisser la Chine prendre l'ascendant.

Mark Zuckerberg, patron de Meta, a lui rejeté les appels à ralentir l'IA, jugeant suffisants les mécanismes du marché et le risque de poursuites judiciaires.

Q.Bernardi--INP