Dans les bureaux de la Commission électorale nationale (NEC) à Gwacheon, au sud de Séoul, une équipe dévouée surveille les réseaux sociaux à la recherche de faux contenus générés par l'intelligence artificielle, une menace sérieuse pour l'intégrité des élections. Avec l'émergence de modèles d'IA de plus en plus avancés, les inquiétudes quant aux fausses informations en ligne se renforcent. Ce phénomène est d'autant plus alarmant en Corée du Sud, où l'adoption rapide de l'IA complique la situation.
Face à cette épreuve, le gouvernement a engagé plusieurs centaines de chercheurs chargés de repérer et présenter des contenus trompeurs afin de les bloquer avant le scrutin. Néanmoins, beaucoup au sein de ce groupe se sentent comme s'ils luttaient contre un ennemi insaisissable.
"La rapidité de l'évolution technologique nous laisse peu de temps pour nous adapter. Chaque nouvelle version de l'IA produit des vidéos et enregistrements audio plus réalistes que jamais," souligne Choi Ji-hee, responsable de cette lutte à la NEC.
"Notre travail devient de plus en plus ardu," confie-t-elle à l'AFP, décrivant une journée typique qui consiste à parcourir des plateformes comme Instagram et YouTube à la recherche de suspicions de manipulation par IA.
Des logiciels avancés, développés par le gouvernement pour détecter ces contenus, affirment offrir une précision de 92 %. Ce taux est cependant mis à l'épreuve par des créations d'une sophistication inédite. Par exemple, des faux reportages évoquent des candidats au maire cité dans des classements prestigieux, ou encore des chansons de K-pop qui valorisent un politicien tout en dénigrant ses concurrents.
Stratégies de détection et défis à relever
Les élections à venir font suite à un renforcement de la législation contre l'utilisation des deepfakes, voté en 2023. Selon des données gouvernementales, plus de 45 % des Sud-Coréens exploitent l'IA générative. En effet, le pays a le plus grand nombre d'abonnés payants au service de ChatGPT, hors États-Unis.
"Il est devenu extrêmement difficile pour les électeurs de discerner le vrai du faux," note Jung Hui-hun, expert en criminalistique numérique à la NEC.
Un cas marquant a été relevé lors de la campagne présidentielle de 2025, où une vidéo fabriquée par IA simulait une grève de la faim impliquant Lee Jae Myung. Alors que la guerre contre ces faux contenus semble parfois désespérée, Kim Ma-ru, analyste de données à la NE, la compare au célèbre "jeu de la taupe"; chaque faux contenu repéré semble donner lieu à de nouveaux tactiques.
La nécessité de ce combat est partagée socialement, bien que stressante. Choi Ji-hee et Kim Ma-ru ont même préféré éviter d'être filmés en raison de craintes liées à un potentiel harcèlement en ligne. Les fausses informations exacerbent en effet des théories du complot, avec des conséquences potentiellement graves, comme l'a montré le cas de l'ancien président Yoon Suk Yeol.
Les experts plaident pour un consensus renforcé autour de la réglementation stricte, avec une reconnaissance croissante du besoin d'un cadre législatif efficace. "Nous avançons, lentement mais sûrement," conclut Jung Hui-hun, en réfléchissant aux défis qui se présentent aux acteurs de la lutte contre la désinformation.
