Une agence de cyberespionnage prévient que les adversaires étrangers « utiliseront l’IA comme une arme » pour influencer les prochaines élections fédérales
[ad_1]
L’agence canadienne de cyberespionnage prévient que de mauvais acteurs envisagent d’utiliser des outils d’intelligence artificielle pour influencer les prochaines élections fédérales – et elle ne sera pas en mesure d’identifier toutes les vidéos trompeuses et deepfake déployées.
Le Centre de la sécurité des télécommunications (CST) a lancé l’alerte dans un nouveau rapport sur les cybermenaces publié mercredi matin.
L’agence étrangère de renseignement électromagnétique a déclaré qu’il était « très probable » que des adversaires étrangers ou des « hacktivistes » utilisent l’IA pour influencer les électeurs avant les prochaines élections fédérales au Canada.
“Nous estimons que les adversaires étrangers et les hacktivistes sont susceptibles d’utiliser l’IA générative comme arme au cours des deux prochaines années pour créer de fausses vidéos et images représentant des politiciens et des représentants du gouvernement”, indique le rapport.
Les deepfakes sont de fausses vidéos manipulées numériquement pour paraître réelles. Le rapport ne cite aucun exemple spécifique de deepfakes au Canada.
L’agence – la principale autorité canadienne en matière de cybersécurité – a averti qu’elle ne serait probablement pas en mesure de rester au courant du grand nombre de vidéos deepfake qu’elle anticipe.
“Nous estimons qu’il est très probable que la capacité à générer des deepfakes dépasse notre capacité à les détecter. Les modèles de détection actuels, accessibles au public, peinent à faire la distinction de manière fiable entre les deepfakes et le contenu réel”, indique le CSE dans son rapport.
“Compte tenu de l’inefficacité des modèles de détection des deepfakes et de la disponibilité croissante de l’IA générative, il est probable que les campagnes d’influence utilisant l’IA générative qui ciblent les électeurs passeront de moins en moins inaperçues par le grand public.”
Il existe déjà des milliers de deepfakes en circulation qui manipulent des clips vidéo de politiciens, a déclaré le CSE.
Il a souligné une fausse vidéo qui a circulé en ligne plus tôt cette année et qui montrait le président américain Joe Biden faisant un commentaire anti-transgenre.
L’agence de renseignement a averti que les débats entre candidats pourraient être des cibles privilégiées pour les deepfakes.
« Les débats politiques peuvent être une source d’informations cruciales pour les électeurs à l’approche des élections, car ils présentent les programmes des partis politiques et il a été démontré qu’ils modifient les préférences des électeurs en matière de candidats. Cependant, si les acteurs de la cybermenace diffusent des deepfakes modifiant le contenu du débat, les électeurs pourraient être trompés”, indique le rapport.
“Même si la vérité est révélée plus tard, les dégâts pourraient conduire les électeurs à remettre en question la légitimité des débats politiques à l’avenir.”
« Très peu de réglementation »
Le rapport indique que les plateformes de médias sociaux comme Instagram et YouTube tentent de supprimer les contenus deepfakes, mais ne sont pas toujours en mesure de les détecter et de les supprimer avant qu’ils ne soient largement diffusés.
La suppression de vidéos est encore compliquée par le manque de réglementation, ajoute le rapport.
“Les partis politiques utilisent eux-mêmes les capacités de l’IA générative dans le cadre de leurs campagnes, par exemple pour créer des vidéos illustrant des ‘scénarios futurs’ si un rival politique est élu”, indique le rapport.
“Bien que des avertissements soient utilisés pour identifier la vidéo comme étant un deepfake, il existe actuellement très peu de réglementation au Canada et aux États-Unis sur la mesure dans laquelle l’IA générative peut être utilisée dans la publicité politique.”
“Je dois admettre que cela semble très sombre”, a déclaré aux journalistes Caroline Xavier, chef du Centre de la sécurité des télécommunications.
“Il est vrai que les adversaires cherchent à manipuler nos processus démocratiques. Mais cela ne signifie pas que nous sommes impuissants pour les arrêter.”
Xavier a déclaré que le but de publier ce type de rapport est de sensibiliser les Canadiens.
Elle a également déclaré que son agence avait le pouvoir légal de perturber d’éventuelles attaques contre l’infrastructure électorale du Canada.
Le CSE a déclaré que, contrairement aux États-Unis et au Royaume-Uni, le Canada n’est pas une cible privilégiée pour les campagnes de deepfake, mais qu’il n’est pas à l’abri.
“Nous estimons que les cybermenaces ciblant les processus démocratiques sont probablement considérées par des adversaires étrangers tels que la Chine et la Russie comme une manière obscure et peu risquée d’influencer les résultats politiques du Canada”, a-t-il déclaré.
[ad_2]