Les systèmes d’IA amplifient la propagande russe provenant de sources sanctionnées, avertissent les chercheurs
Les chatbots d’intelligence artificielle diffusent involontairement de la désinformation provenant de médias alignés sur l’État russe et placés sous sanctions de l’Union européenne, selon de nouvelles recherches qui suscitent l’inquiétude quant à la vulnérabilité des grands modèles de langage aux tactiques de guerre hybride.
Des chercheurs ayant examiné les résultats d’assistants IA largement utilisés ont découvert que ces systèmes reproduisaient des récits et du contenu traçable jusqu’à des médias figurant sur la liste noire de l’UE, ce qui suggère que les pipelines de données d’entraînement auraient pu ingérer du matériel provenant de sources sanctionnées avant ou malgré l’imposition de ces restrictions. Ces résultats révèlent un angle mort significatif dans la manière dont les entreprises d’IA contrôlent les informations dont leurs modèles apprennent.
Les enjeux ne sont pas purement académiques. Alors que des millions d’Européens se tournent de plus en plus vers les chatbots d’IA pour obtenir des résumés d’actualité, du contexte politique et des informations générales, le risque que la désinformation se propage sans détection à travers des interfaces numériques apparemment fiables représente un nouveau front de la guerre informationnelle. Contrairement à un site web que les utilisateurs pourraient reconnaître et remettre en question, un assistant IA présente les informations dans un registre neutre et confiant qui peut entièrement masquer leurs origines.
Un nouveau vecteur de guerre informationnelle
Les analystes et les chercheurs en sécurité avertissent depuis longtemps que la stratégie de guerre hybride de la Russie s’étend bien au-delà des opérations militaires conventionnelles, englobant des campagnes coordonnées visant à façonner l’opinion publique en Europe, notamment sur des questions telles que la guerre en Ukraine, l’unité européenne et la crédibilité de l’OTAN. Selon les rapports, l’exploitation des pipelines d’entraînement de l’IA représenterait une évolution logique de ces efforts, permettant à la désinformation d’être blanchie par la technologie et d’atteindre des audiences qui ne chercheraient jamais volontairement la source sanctionnée originale.
L’Union européenne a sanctionné plusieurs organisations médiatiques russes lors de vagues successives de restrictions depuis l’invasion à grande échelle de l’Ukraine en 2022, ciblant des médias considérés comme des instruments de propagande d’État. Les régulateurs ont cherché à bloquer leur diffusion directe et leur accès en ligne au sein du bloc, mais la question de savoir si leur contenu reste intégré dans les ensembles de données d’entraînement de l’IA a reçu relativement peu d’attention réglementaire jusqu’à présent.
Les développeurs d’IA assemblent généralement les données d’entraînement en extraisant de vastes quantités de texte de l’ensemble d’Internet, un processus qui, selon les critiques, rend extrêmement difficile l’application d’un filtrage rigoureux des sources à grande échelle. Bien que les grandes entreprises aient investi dans des outils de modération et de filtrage du contenu, le volume considérable de matériel impliqué signifie que les sources problématiques peuvent se glisser à travers les mailles. Une fois intégrées aux données d’entraînement d’un modèle, l’influence de ces sources est difficile à détecter ou à supprimer sans réentraîner entièrement le système.
Les législateurs européens et les défenseurs de la politique numérique vont probablement faire face à une pression croissante pour combler cette lacune. La loi sur l’IA de l’UE, qui est entrée en vigueur en 2024, établit des obligations en matière de transparence et de gestion des risques pour les systèmes d’IA, mais les dispositions spécifiques ciblant la provenance des données d’entraînement dans le contexte de la désinformation étrangère restent peu développées, selon les observateurs familiarisés avec la législation.
Ces résultats interviennent à un moment particulièrement sensible, alors que plusieurs États membres de l’UE se préparent à des élections et que les campagnes de désinformation ont déjà été identifiées comme une menace active par les services de renseignement européens. La question de savoir si les entreprises d’IA opérant sur le marché européen feront l’objet d’un contrôle formel quant à leurs pratiques d’approvisionnement en données est désormais une question que les régulateurs pourraient trouver de plus en plus difficile à reporter.
