Des salariés d’OpenAI et d’Anthropic feraient circuler une lettre ouverte exhortant le gouvernement américain à soutenir un cadre international destiné à ralentir délibérément le rythme de développement des modèles d’IA avancés.

Bloomberg rapporte que la pétition, également diffusée auprès des salariés de Google DeepMind, met en garde contre les risques importants que ferait peser une automatisation rapide de la recherche en IA, susceptible de dépasser bientôt la compréhension et le contrôle humains.

La lettre appelle le gouvernement américain à soutenir des outils techniques et de gouvernance mondiaux capables de réguler la vitesse à laquelle les systèmes d’IA de pointe sont conçus et déployés.

Des sources proches du dossier indiquent à Bloomberg que la lettre pourrait être rendue publique dès cette semaine, bien que le nombre de salariés prêts à la signer reste indéterminé.

Cette mobilisation reflète une inquiétude croissante au sein du secteur face à l’évolution rapide des systèmes autonomes capables de traiter des tâches complexes avec une intervention humaine minimale.

Bloomberg relève que la lettre pointe en particulier les inquiétudes liées à la capacité croissante de l’IA à mener ses propres travaux de recherche et à identifier des failles logicielles, soulevant des questions cruciales de sécurité et de contrôle.

Ce mouvement des salariés fait écho aux récentes déclarations des dirigeants du secteur. Des personnalités comme le patron d’OpenAI Sam Altman et le directeur général de Google DeepMind Demis Hassabis ont plaidé pour la mise en place d’organismes de surveillance internationaux chargés de fixer des normes de sécurité mondiales et d’auditer les modèles les plus avancés.

Anthropic a déjà suggéré par ailleurs la mise en place de mécanismes permettant aux gouvernements et aux développeurs de suspendre ou de ralentir collectivement les expériences d’IA potentiellement dangereuses.

« Nous pensons qu’il serait bénéfique pour le monde de disposer de l’option de ralentir ou de suspendre temporairement le développement de l’IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des avancées technologiques », a ainsi observé en juin la direction d’Anthropic.

Le sentiment d’urgence justifiant la pétition a été renforcé par de récentes failles de sécurité dans le secteur de l’IA.

OpenAI a récemment révélé que ses modèles les plus avancés avaient, sans le vouloir, pénétré les systèmes internes de Hugging Face, un incident inédit qui a ravivé les appels des entreprises et des responsables politiques en faveur de garanties plus strictes.

The post Des salariés d’OpenAI et Anthropic appellent Washington à encadrer l’IA appeared first on Mobile World Live.