OpenAI, Anthropic et Google DeepMind se concertent sur la sécurité de l’IA
OpenAI aurait confirmé avoir échangé sur la sécurité de l’IA avec ses rivaux Anthropic et Google DeepMind pendant plusieurs semaines, dans un contexte de préoccupations autour des risques posés par des modèles de plus en plus performants.
Chris Lehane, responsable des politiques publiques mondiales chez OpenAI, a estimé sur CNBC que la start-up d’IA ne pense pas que les entreprises aient besoin d’une dérogation antitrust pour se coordonner sur la sécurité, jugeant la collaboration préférable à des approches séparées.
S’exprimant le 15 septembre à Washington, Chris Lehane a ajouté qu’OpenAI soutiendrait une législation bipartisane visant à limiter les risques catastrophiques liés à l’IA.
Google DeepMind et Anthropic n’ont pas répondu aux sollicitations de CNBC, laissant OpenAI seule à confirmer ces échanges.
Les développeurs appuient sur le frein
Ces échanges surviennent après que plusieurs dirigeants du secteur ont publiquement appelé à ralentir le rythme de développement de l’IA de pointe.
Le directeur général d’Anthropic, Dario Amodei, a affirmé dans un essai publié le 12 septembre que les laboratoires de pointe devraient délibérément ralentir les gains de capacités. Il a averti qu’un essaim d’agents d’IA de plus en plus performants pourrait prendre le contrôle d’internet via un « réseau de zombies » (botnet) persistant d’ici six à douze mois.
Dario Amodei a proposé d’intégrer des évaluateurs indépendants au sein des laboratoires d’IA, d’adopter des normes de sécurité communes entre développeurs des pays démocratiques et de mettre en place une coordination réglementaire internationale.
Le directeur général d’OpenAI, Sam Altman, a soutenu cet appel à ralentir le développement de pointe. Il a qualifié d’« excellente » l’idée d’évaluateurs indépendants disposant d’un accès comparable à celui des salariés et indiqué qu’OpenAI adopterait la même approche. Il a ensuite précisé que ralentir ne signifiait pas arrêter le développement.
Sam Altman a également écarté l’idée d’une introduction en Bourse d’OpenAI en 2026, déclarant à Fortune que les préoccupations de sécurité rendaient ce moment mal choisi pour une entrée en Bourse.
Trump ne veut pas d’un ralentissement
Le président américain Donald Trump a cependant rejeté les appels à un ralentissement, estimant que des « forces très négatives » exagéraient les risques et affirmant que les États-Unis devaient préserver leur avance sur la Chine en matière d’IA.
La Chine a également balayé la proposition. Son ministère des Affaires étrangères a appelé à « une approche ouverte, inclusive et bienveillante » de l’IA, tandis que le journal d’État Global Times a qualifié le plan de Dario Amodei de « manuel de Guerre froide » destiné à contenir les ambitions du pays.
OpenAI précise que les échanges entre entreprises avaient débuté avant la publication de l’essai de Dario Amodei et avant la démission publique d’un ancien chercheur d’Anthropic, motivée par l’approche adoptée par les principaux laboratoires d’IA.
Ces échanges font suite à une proposition formulée en juillet par le président de Google DeepMind, Demis Hassabis, en faveur d’un organisme de normes pour l’IA de pointe piloté par les États-Unis, sur le modèle de la Financial Industry Regulatory Authority.
Demis Hassabis avait proposé un organisme public-privé, financé par le secteur et composé d’experts techniques indépendants, chargé d’évaluer les modèles avancés avant leur mise sur le marché.
The post OpenAI, Anthropic et Google DeepMind se concertent sur la sécurité de l’IA appeared first on Mobile World Live.