Le patron d’Anthropic rompt le consensus de la Silicon Valley sur les modèles d’IA ouverts et prône une ligne plus ferme envers la Chine

Le directeur général de la société d’intelligence artificielle Anthropic a pris ses distances avec la tendance générale parmi les dirigeants technologiques américains, arguant que si les modèles d’IA bon marché et largement accessibles ne doivent pas être interdits, les États-Unis doivent adopter une position bien plus ferme concernant le transfert de capacités d’IA avancées vers la Chine.

Dario Amodei, qui a cofondé Anthropic après avoir quitté OpenAI, s’est forgé une position particulièrement prudente dans une industrie qui a récemment embrassé les modèles dits « open-weight » — des systèmes d’IA dont les paramètres sous-jacents sont mis à disposition publiquement, permettant à quiconque de les télécharger, les modifier et les déployer à un coût minimal. La publication de tels modèles, notamment par le laboratoire chinois DeepSeek au début de l’année, a provoqué des remous sur les marchés technologiques mondiaux et alimenté un large débat sur l’avenir du développement de l’IA.

Alors que nombre de ses pairs du secteur technologique américain ont accueilli favorablement la prolifération d’outils d’IA bon marché comme une force de démocratisation, Amodei a régulièrement exprimé des réserves, insistant sur le fait que les risques liés à la mise à disposition gratuite d’une IA puissante méritent un examen beaucoup plus sérieux que celui qu’ils reçoivent actuellement. Selon des rapports, il a poursuivi sur cette ligne cette semaine, s’arrêtant avant de réclamer une interdiction pure et simple des modèles open-weight, mais laissant clairement entendre qu’il les considère avec une prudence considérable.

Une voix singulière sur la sécurité nationale et la gouvernance de l’IA

C’est sur la question de la Chine qu’Amodei s’est montré plus catégorique. Il a argumented que les États-Unis et leurs alliés devraient agir résolument pour empêcher Pékin d’acquérir les puces, les logiciels et l’expertise nécessaires pour développer des systèmes d’IA de pointe — ceux situés à la frontière même des capacités actuelles. Cette position s’aligne sur les efforts continus de Washington pour restreindre les exportations de semi-conducteurs vers les entreprises chinoises, bien qu’Amodei soit censé favoriser des mesures allant considérablement plus loin que les contrôles existants.

Cette position place le patron d’Anthropic dans une situation inhabituelle par rapport à d’autres personnalités éminentes du secteur technologique, dont plusieurs ont publiquement salué l’émergence de modèles performants et peu coûteux comme la preuve que les progrès en IA ne peuvent pas et ne doivent pas être ralentis. Les détracteurs des contrôles à l’exportation et de l’intervention réglementaire ont soutenu que toute tentative de contenir le développement de l’IA à l’étranger est à la fois vaine et potentiellement préjudiciable à l’échange ouvert des connaissances scientifiques.

La vision plus circonspecte d’Amodei reflète une philosophie plus large chez Anthropic, qui s’est positionnée comme un laboratoire axé sur la sécurité et s’est montré plus disposé que certains de ses concurrents à dialoguer avec les régulateurs et les décideurs politiques sur les questions de risque. L’entreprise a témoigné devant les organes législatifs des deux côtés de l’Atlantique et a plaidé en faveur de cadres de gouvernance qui prennent au sérieux la possibilité qu’une IA avancée cause des dommages à grande échelle.

Pour les décideurs européens, qui sont en train de mettre en œuvre le premier cadre réglementaire complet au monde en matière d’IA, ce débat revêt une pertinence particulière. La loi sur l’IA de l’Union européenne, qui entre maintenant dans sa phase d’application, établit des distinctions entre différentes catégories de risque liés à l’IA et impose des obligations spécifiques aux développeurs des systèmes les plus puissants. La façon dont les régulateurs et les législateurs choisiront de traiter les modèles open-weight — et s’ils acceptent les arguments relatifs à la sécurité nationale comme base pour les restrictions commerciales — sera parmi les décisions les plus conséquentes qui façonneront le paysage de l’IA sur le continent dans les années à venir.

La volonté d’Amodei de se démarquer publiquement du consensus parmi ses homologues du secteur suggère que le secteur technologique reste profondément divisé sur la manière d’équilibrer innovation, accessibilité et sécurité alors que les capacités de l’IA continuent de progresser rapidement.