Anthropic entend "mettre sur la table" les risques de son modèle d'IA Mythos

Anthropic entend "mettre sur la table" les risques de son modèle d'IA Mythos.

Paris (AFP) - Avec le déploiement limité de Mythos, la start-up américaine Anthropic entend "mettre sur la table " les risques de son nouveau modèle d'intelligence artificielle dont les capacités en cybersécurité font craindre un basculement majeur pour les États et les entreprises.

Ce modèle "commence à dépasser la capacité des humains dans le monde du cyber" vante le Français Guillaume Princen, directeur international des entreprises technologiques d'Anthropic, lors d'un entretien à l'AFP. 

Il "est capable de déceler des failles informatiques qui existent depuis des dizaines d'années dans des systèmes qui ont été testés par des experts humains et des automates et n'avaient jamais été découvertes avant", selon lui.

Jugé trop dangereux en l'état par ses créateurs et des acteurs du secteur, Mythos a vu sa commercialisation repoussée, Anthropic le partageant seulement avec une poignée de géants technologiques américains, tels Nvidia, Amazon, J. P Morgan Chase ou Apple, et d'organisations pour sécuriser leurs infrastructures critiques.

Mais l'entreprise à l'origine de Claude est aussi accusée de surjouer les dangers d'une technologie qu'elle commercialise activement, dans une compétition acharnée avec son rival OpenAI et son puissant modèle ChatGPT. 

D'autant plus que ces annonces surviennent au moment où les rumeurs bruissent sur son intention d'entrer en Bourse dans le courant de l'année.

"On préfère être transparent et mettre ces risques sur la table", balaie Guillaume Princen, pour qui les préoccupations de sécurité sont au "coeur de l'ADN d'Anthropic".  

"Nous n'avons pas toutes les solutions mais cela doit être une conversation entre les acteurs technologiques comme nous, qui ont un certain nombre de données, le monde académique, le monde politique et le monde des économistes", poursuit-il.

Exagérés ou non, les risques de cybersécurité de Mythos suscitent des inquiétudes au sein du système bancaire américain, du gouvernement britannique ou encore de l'Union européenne qui s'est entretenue avec Anthropic pour obtenir davantage d'informations.

Aucune entreprise européenne ne fait d'ailleurs partie des testeurs du consortium créé par la start-up, soulevant la question de la préparation du reste du monde face à un modèle dont les capacités offensives ne s'arrêteraient pas aux frontières des Etats-Unis.

"Ce n'est sûrement pas un modèle qui va être ouvert au grand public bientôt pour des raisons évidentes mais on est en train de réfléchir aux prochaines vagues d'ouverture", avance Guillaume Princen.

Avec le déploiement limité de Mythos, la start-up américaine Anthropic entend "mettre sur la table " les risques de son nouveau modèle d'intelligence artificielle dont les capacités en cybersécurité font craindre un basculement majeur pour les États et les entreprises - JOEL SAGET (AFP)