Ottawa empêchera les outils d’IA de discriminer les embauches potentielles, dit Anand
[ad_1]
Le gouvernement fédéral s’efforcera d’empêcher l’intelligence artificielle d’exercer une discrimination à l’égard des personnes postulant à des emplois dans les ministères fédéraux, a déclaré la présidente du Conseil du Trésor, Anita Anand.
Dans une vaste entrevue de fin d’année avec CBC News, Anand a reconnu ses préoccupations concernant l’utilisation des outils d’IA lors du recrutement.
“Il ne fait aucun doute qu’à tout moment, la vie privée d’une personne doit être respectée conformément aux lois sur la vie privée, et que nos pratiques d’embauche doivent être non discriminatoires et empreintes d’un sentiment d’égalité”, a déclaré Anand lorsqu’on lui a posé des questions sur la situation. l’utilisation de l’IA par le gouvernement dans son processus de recrutement.
“Certes, en tant que femme racialisée, je ressens cela très profondément… Nous devons nous assurer que toute utilisation de l’IA sur le lieu de travail… doit être conforme à la loi en vigueur et doit pouvoir résister au test moral d’être non discriminatoire. »
Certains ministères gouvernementaux ont commencé à intégrer des outils d’IA dans leurs processus de recrutement. Dans sa réponse à une question posée par le député néo-démocrate Matthew Green, le ministère de la Défense nationale a déclaré avoir utilisé Knockri, un outil d’évaluation des compétences basé sur l’IA, dans des centaines d’entretiens d’embauche préenregistrés pour « réduire les préjugés et promouvoir l’équité dans le processus de recrutement. “.
“Knockri utilise l’apprentissage automatique pour analyser le contenu parole-texte des réponses des candidats et les compare à des indicateurs de performance déterminés”, a écrit le département.
Anand a parlé à CBC News moins d’un mois après qu’une enquête menée par Radio Canada a révélé que plusieurs ministères gouvernementaux avaient acheté une technologie pouvant être utilisée pour extraire des données de téléphones portables ou d’ordinateurs remis aux employés.
Anand a rejeté toute suggestion selon laquelle le gouvernement utiliserait des logiciels espions sur ses propres employés.
“Cela n’est utilisé que dans les cas où il y a une enquête ou une conviction que quelque chose ne va pas”, a déclaré Anand. “Ce n’est pas utilisé systématiquement.”
Lignes directrices gouvernementales pour l’IA
En septembre, Anand a lancé de nouvelles lignes directrices pour les fonctionnaires qui souhaitent utiliser des outils d’intelligence artificielle générative comme ChatGPT au travail. À l’époque, elle avait déclaré que le gouvernement surveillerait la manière dont l’IA était utilisée pour se prémunir contre des problèmes potentiels tels que les préjugés ou la discrimination.
Cela n’a pas empêché Affaires mondiales de devoir s’excuser la semaine dernière après avoir publié sur un compte de réseau social une photo générée par l’IA représentant une femme inuite.
Anand a déclaré qu’Affaires mondiales aurait pu utiliser les outils développés par le Conseil du Trésor pour guider les employés et les ministères, tels que les lignes directrices sur l’IA ou le processus d’évaluation de l’impact algorithmique (AIA).
“C’est une situation parfaite où l’on pourrait utiliser cet outil algorithmique d’évaluation d’impact que j’ai mentionné”, a-t-elle déclaré. “L’outil AIA est une série de questions, et ces séries de questions doivent être posées lorsque l’IA est utilisée sur le lieu de travail. Elles reflètent des considérations juridiques, politiques et éthiques.”
Anand a déclaré qu’elle souhaitait également combler les lacunes de la réglementation canadienne sur l’utilisation à long terme de l’IA.
“Il ne fait aucun doute que l’IA est une technologie transformatrice”, a-t-elle déclaré. “Une autre chose que je regarde concerne vraiment le long terme, car cela nous oblige à nous demander comment nous envisageons la réglementation de manière plus large.
“Par exemple, avec l’avènement des machines autonomes, comme les véhicules autonomes, nous devons nous demander si la réglementation que nous avons en place est pertinente et applicable à long terme.”
Anand a déclaré que, même si le gouvernement fédéral explore l’utilisation d’outils basés sur l’IA, les Canadiens devraient toujours avoir la possibilité de parler avec un véritable fonctionnaire.
“Il devrait y avoir à tout moment un numéro de téléphone disponible pour que vous puissiez parler avec une personne en direct”, a-t-elle déclaré. “C’est fondamentalement important. Je ne m’attends pas à ce que les travailleurs individuels soient affectés de quelque manière que ce soit par leur emploi. Nous avons besoin de talents forts.”
Le gouvernement fédéral s’apprête à adopter un cadre pour l’utilisation de l’IA dans les entreprises sous réglementation fédérale par le biais du projet de loi C-27, actuellement étudié en comité. Anand s’est montré évasif lorsqu’on lui a demandé si la législation devrait également s’appliquer aux ministères fédéraux et aux sociétés d’État.
« L’intention est de garantir, du point de vue du Conseil du Trésor, que nous sommes également en phase avec le besoin de lignes directrices relatives à l’intelligence artificielle. Et bien sûr, le projet de loi C-27 fait cela pour l’économie en général », a-t-elle déclaré. “Mais comme nous le savons, de nombreuses entreprises se tournent vers le gouvernement du Canada pour connaître les meilleures pratiques et le domaine de l’intelligence artificielle ne fait pas exception.”
L’un des projets les plus importants d’Anand au cours de l’année à venir est un effort majeur visant à réviser la technologie vieillissante que le gouvernement utilise pour offrir des prestations telles que la Sécurité de la vieillesse (SV), le Régime de pensions du Canada et l’assurance-emploi (AE).
En juin, le gouvernement a effectué le premier transfert de 600 000 bénéficiaires étrangers de la SV vers la nouvelle plateforme, a déclaré Anand. Au cours de la prochaine année, a-t-elle déclaré, le gouvernement prévoit lancer la deuxième phase du programme avec des améliorations au versement des prestations de sécurité de la vieillesse et d’assurance-emploi.
“La recherche montre qu’il existe une corrélation directe entre la confiance que les citoyens ont dans notre gouvernement (et) les services qu’ils reçoivent”, a déclaré Anand. “Nous espérons donc réaliser des progrès tangibles dans le remplacement des systèmes vieux de plus de 45 ans.”
[ad_2]