La montée des inquiétudes au sein de l'administration américaine est manifeste. Des représentants de la Maison Blanche collaborent pour anticiper les risques de cybersécurité associés aux modèles d'intelligence artificielle de dernière génération, notamment ceux mis au point par OpenAI et Anthropic, jugés excessivement performants et susceptibles d'être détournés à des fins malveillantes.
Sean Cairncross dirige des efforts pour identifier les failles dans les infrastructures critiques et renforcer les systèmes contre les exploitations potentielles d'IA. D'après le Wall Street Journal, des discussions récentes ont vu des responsables fédéraux rencontrer des leaders technologiques et financiers influents.
L'objectif de cette rencontre était de peaufiner la réponse du secteur privé face aux cyberattaques et d'améliorer la résilience des infrastructures numériques. Elle s'est déroulée peu avant la présentation du modèle Mythos d'Anthropic, qui soulève des enjeux cruciaux pour la cybersécurité.
Une réunion "inhabituelle" avec l'ensemble de la Big Tech
Comme rapporté par CNBC, des figures emblématiques comme Dario Amodei (Anthropic), Elon Musk (xAI), Sundar Pichai (Google) et Sam Altman (OpenAI) ont participé à cette réunion. Les discussions ont également porté sur la mise en place de mesures de sécurité pour parer à d'éventuelles vulnérabilités des modèles d'IA.
Cette rencontre a publié des échos des inquiétudes croissantes du secteur tech : la peur que ces IA détectent trop rapidement des vulnérabilités critiques, sans qu’elles soient corrigées, avant d’être utilisées à des fins malveillantes.
Le modèle Mythos, par exemple, est en phase de test auprès d’un nombre réduit d'entreprises comme Apple et Microsoft, en raison de sa capacité à identifier et exploiter des failles logicielles. D'autres entreprises, y compris OpenAI, prévoient de lancer des outils similaires bientôt.
Pour le Wall Street Journal, l’objectif est clair : garantir que l'administration américaine soit préparée à contrer rapidement des attaques sophistiquées dès que ces technologies seront mises à disposition du grand public, une tâche qui semble complexe à ce jour.
