Janet E Silver
Ces derniers mois, les inquiétudes liées aux risques de l'IA et à son impact sur l'écosystème informationnel — notamment la propagation de la désinformation — se sont intensifiées, y compris au sein des communautés autochtones du Canada. Un rapport intitulé First Nations and Artificial Intelligence (Premières Nations et intelligence artificielle) met en garde contre une « discrimination algorithmique » accrue par l'IA. Face à cette menace, les aînés craignent de voir leurs enseignements traditionnels déformés ou oubliés, au détriment des générations futures.
La population autochtone connaît une croissance soutenue : le recensement de 2021 a dénombré 1,8 million de personnes, ce qui représente une hausse de 9,4 % par rapport à 2016. Les 15-24 ans représentent la part la plus importante de cette population et, comme partout au pays, ils privilégient de plus en plus Internet pour s'informer, une tendance qui inquiète leurs aînés.
« Ma petite-fille et mon petit-fils ont 14 ans. Ils sont tout le temps sur leur téléphone », déplore Larry Sault, conseiller de la Première Nation des Mississaugas de Credit. « Je dois leur dire, lorsqu'ils viennent nous rendre visite : s'il vous plaît, posez votre téléphone, discutons un peu. Ce qui m'inquiète avec l'IA, c'est la véracité de l'information qu'ils consomment dès leur plus jeune âge. »
Ce phénomène est amplifié par les stéréotypes négatifs qui, selon les dirigeants autochtones, sont ancrés dans les grands modèles de langage d'IA. Sans une pleine souveraineté sur leurs données — assurée par une gestion directe de leurs informations —, ces peuples s'exposent à une recrudescence des préjudices en ligne.
« Je pense que nous devons veiller à ce que des mesures de sécurité soient mises en place non pas pour perpétuer les stéréotypes négatifs et le racisme, mais bien pour protéger l'intégrité de la vie des peuples autochtones, et en particulier celle des femmes autochtones qui sont les plus exposées au risque de violence », a déclaré Josie Nepinak, présidente de l'Association des femmes autochtones du Canada, à CPAC.
Evan Solomon, ministre fédéral de l'Intelligence artificielle et de l'Innovation numérique, affirme que son gouvernement a consulté les dirigeants autochtones et les chefs nationaux lors de l'élaboration de sa stratégie en matière d'IA, qui inclut la souveraineté des données pour tous.
« Dès le départ, notre position était claire : il fallait saisir les possibilités de l'IA pour les communautés, en particulier les communautés autochtones isolées », a souligné M. Solomon. « Tout en abordant de front les inquiétudes légitimes, nous investissons avec une grande prudence, ce qui constitue le pilier central de notre stratégie. »
De plus, cette stratégie renforce l'indépendance technologique du Canada et la maîtrise de ses données. À l'heure où l'État déploie son plan en matière d'intelligence artificielle, l'autonomie des peuples autochtones dans la gestion, le contrôle et la sécurisation de leurs propres données devient un enjeu fondamental. Cette souveraineté numérique leur permettrait de mieux protéger leur identité en ligne contre la falsification par l'IA et l'utilisation de celle-ci pour propager de la désinformation.
« Une fois déployés, ces algorithmes ignorent notre culture, nos langues, notre passé ainsi que la santé de notre peuple », a déclaré Carmen Jones, directrice de la recherche et de la gestion des données chez Chiefs of Ontario. « La mise en ligne de nos cérémonies et de notre culture m'inquiète grandement. Des gens s'en emparent et utilisent l'IA pour les analyser, mais la réinterprétation peut s'avérer fausse. Comme on ne sait pas si les données fournies à l'IA sont exactes ou réelles, ces algorithmes risquent de dénaturer nos traditions en y intégrant des éléments extérieurs et inventés. »
Selon Wendy Wong, professeure de sciences politiques et titulaire de la chaire du recteur à l'université UBC Okanagan, cette crainte s'explique en partie par des décennies de méfiance envers la collecte et l'utilisation des données autochtones par le gouvernement et d'autres acteurs. Mme Wong est chercheuse dans les domaines des droits de la personne, de l'intelligence artificielle et des données.
« Historiquement, les populations autochtones ont fait l'objet d'une collecte massive et effrénée de leurs données, sans leur consentement ou malgré leurs objections », a affirmé Mme Wong.
Brian Ritchie, membre de la Première Nation crie de Chapleau, comprend bien cette méfiance. En tant que fondateur et PDG de kama.ai, une plateforme d'IA adaptée aux petites et moyennes entreprises, M. Ritchie explique que, contrairement aux systèmes d'IA axés sur des grands modèles de langage, kama.ai recueille des informations et les organise au sein d'un graphe de données linguistiques. Pour les communautés autochtones, explique-t-il, l'IA s'appuie sur les mots et les récits des enseignements traditionnels, sans jamais les mélanger, ni les fusionner avec d'autres éléments.
« Nous voulons mettre les bons outils entre les mains de personnes qui savent s'en servir correctement, et leur permettre d'apprendre leur culture, leur patrimoine et leur en utilisant la technologie », a déclaré Ritchie.
Si l'outil d'IA de Ritchie vise à combattre les préjugés potentiels et la désinformation générés par l'IA, certains aînés autochtones estiment que leurs récits et leurs enseignements traditionnels doivent être transmis oralement, et non au moyen de la technologie. Face à l'usage croissant d'Internet par les jeunes autochtones pour s'informer, leurs dirigeants jugent crucial de les prémunir contre la désinformation et de préserver l'authenticité de leurs enseignements traditionnels.
CPAC diffusera au cours des prochains mois une série en huit épisodes intitulée « Notre écosystème de l'information ». Le troisième épisode, « Les communautés autochtones à l'ère de l'IA et de la désinformation », sera diffusé le 14 novembre à 18 h 30 HE, ainsi que le 15 novembre à 17 h 30 HE et 21 h 30 HE.
À voir, à CPAC.
Ce projet a été rendu possible en partie grâce au gouvernement du Canada.