Comment l’IA pourrait-elle affecter les opérations d’influence ?

Lorsque les chercheurs évaluent les opérations d’influence, ils considèrentacteurs, comportements et contenu. La disponibilité généralisée de technologies basées sur des modèles linguistiques peut potentiellement avoir un impact sur ces trois facettes :

1. Acteurs: Les modèles linguistiques pourraient réduire le coût de fonctionnement des opérations d’influence, les plaçant à la portée de nouveaux acteurs et types d’acteurs. De même, les propagandistes à gages qui automatisent la production de textes peuvent bénéficier de nouveaux avantages concurrentiels.

2. Comportement: Les opérations d'influence avec des modèles linguistiques deviendront plus faciles à mettre à l'échelle, et les tactiques actuellement coûteuses (par exemple, générer du contenu personnalisé) pourraient devenir moins chères. Les modèles linguistiques peuvent également permettre l'émergence de nouvelles tactiques, comme la génération de contenu en temps réel dans les chatbots.

3. Contenu: Les outils de création de texte alimentés par des modèles linguistiques peuvent générer des messages plus percutants ou plus convaincants que les propagandistes, en particulier ceux qui n'ont pas les connaissances linguistiques ou culturelles requises de leur cible. Ils peuvent également rendre les opérations d'influence moins visibles, car ils créent de manière répétée du nouveau contenu sans avoir recours au copier-coller ni à d'autres comportements permettant de gagner du temps.

Notre jugement final est que les modèles linguistiques seront utiles aux propagandistes et transformeront probablement les opérations d’influence en ligne. Même si les modèles les plus avancés restent privés ou contrôlés via un accès à l'interface de programmation d'application (API), les propagandistes se tourneront probablement vers des alternatives open source et les États-nations pourraient investir eux-mêmes dans la technologie.