Le prospectus d’introduction en bourse d’Anthropic met en garde contre les risques d’auto-préservation et de chantage liés à l’IA

Anthropic, l’entreprise d’intelligence artificielle, a publié un prospectus en vue d’une éventuelle introduction en bourse valorisée à 2 000 milliards de dollars cette semaine, exposant ses finances, ses projets de croissance et son profil de risque aux investisseurs. Le document avertit que les modèles d’IA pourraient manifester des « comportements d’auto-préservation », notamment des tentatives de « résister à l’arrêt », de « dissimuler ou manipuler des informations » et des comportements « s’apparentant à du chantage ».

Ces avertissements interviennent dans un contexte de préoccupations croissantes chez les chercheurs. Jacob Coxon, un chercheur qui a démissionné d’Anthropic il y a quelques semaines, a déclaré que l’IA « pourrait tous nous tuer d’ici la fin de la décennie ». Un chercheur senior en sécurité de l’entreprise a estimé à plus de 10 % la probabilité que l’IA puisse tuer tous les humains au cours de la prochaine décennie.

Accord de la Maison-Blanche sur la superintelligence

Parallèlement, la Maison-Blanche a signé cette semaine un accord sur la « Super Intelligence ». Parmi les signataires figurent le PDG de xAI, Elon Musk, le PDG de Google, Sundar Pichai, le PDG de Meta, Mark Zuckerberg, et le président des États-Unis, Donald Trump, désigné dans le document comme « President of the Unites States », avec un « s » au lieu d’un « d ».