Speaker 1: Bienvenue à Sonofa - Votre Personal Generative AI Podcast. On va se plonger dans une discussion passionnante, euh, sur l’utilisation éthique et responsable de l’intelligence artificielle, en particulier dans le contexte éducatif, hein ?

Speaker 2: Tout à fait ! On a ici une politique institutionnelle du Collège Sainte-Anne, de février 2025, qui aborde plein de points importants. C’est assez dense !

Speaker 1: Ouais, c’est… c’est costaud ! Déjà, l’introduction pose bien le décor : l’IA générative, c’est plein de potentiel, mais ça soulève aussi des questions éthiques cruciales. On ne peut pas juste foncer tête baissée.

Speaker 2: Exactement. Et c’est tout l’objet de ce document, hein, définir un cadre clair pour l’utilisation de l’IA au Collège Sainte-Anne. D’ailleurs, ils ont même un comité dédié : le… CUÉRIA ! Comité sur l’utilisation éthique et responsable de l’intelligence artificielle.

Speaker 1: Ah oui, le CUÉRIA ! Ça, c’est important, ça montre qu’ils prennent les choses au sérieux. Et les définitions sont claires : renseignement personnel, fabulation – tiens, j’aime bien ce terme qui remplace « hallucination » – et biais. Des notions essentielles à maîtriser.

Speaker 2: Absolument. Et ils insistent bien sur le fait que la politique concerne tout le monde au collège, hein, pas seulement les profs. C’est une responsabilité collective.

Speaker 1: Ouais, tout le monde est concerné, du personnel administratif aux… aux élèves. L’objectif, c’est d’avoir une compréhension euh… uniforme des enjeux de l’IA en pédagogie. Ils ont quatre grands principes : diversité et responsabilité, agentivité humaine…

Speaker 2: …confidentialité et éthique des données, et… j’allais le dire ! Transparence et intégrité académique. Ces quatre piliers sont vraiment le cœur de la politique.

Speaker 1: Et c’est intéressant qu’ils mentionnent le cadre juridique, parce que c’est vrai que pour l’instant, c’est encore un peu flou. Il n’y a pas de loi spécifique sur l’IA.

Speaker 2: Ouais, ils citent le Conseil de l’innovation du Québec, qui parle d’un encadrement « fragmenté et parcellaire ». Donc, des textes existent, comme la loi sur la protection des renseignements personnels, mais c’est pas encore… harmonisé, disons.

Speaker 1: Et la Déclaration de Montréal, avec ses dix principes, c’est un bon point de départ, mais son application à grande échelle, c’est encore… en question.

Speaker 2: Tout à fait. Bon, et ensuite, ils développent leurs principes directeurs. On commence par « diversité et responsabilité ». Là, l’idée c’est de… d’être conscient de l’impact de l’IA, et de l’utiliser de façon réfléchie.

Speaker 1: Et ils insistent sur le fait que les données ne sont pas neutres, et que les systèmes d’IA peuvent reproduire, euh… des biais. D’où l’importance d’une posture critique.

Speaker 2: Bien vu. Et l’impact environnemental aussi ! L’IA, ça consomme de l’énergie, il faut en être conscient.

Speaker 1: Ah oui, c’est un point important. Ensuite, l’« agentivité humaine ». Qu’est-ce que c'est que ce truc, déjà ?

Speaker 2: En gros, c’est notre capacité à agir et à décider, même face à l’incertitude. Et l’idée, c’est que l’IA ne doit pas nous déresponsabiliser. On doit valider ses opérations, s’assurer de leur pertinence…

Speaker 1: …et assumer les conséquences. C’est nous qui sommes responsables, pas la machine.

Speaker 2: Exactement. Et puis, « confidentialité et éthique des données », c’est crucial. Il faut bien faire la distinction entre données ordinaires et… informations sensibles.

Speaker 1: Et choisir des outils adaptés à l’âge des élèves. On ne va pas utiliser les mêmes outils avec des primaires et des… des lycéens.

Speaker 2: Bien sûr. Et enfin, « transparence et intégrité académique ». Là, il s’agit d’être clair sur l’utilisation de l’IA dans les travaux scolaires. Pas de cachotteries !

Speaker 1: Alors, là on rentre dans le concret, hein ? Des directives précises, pour tout le monde. Élèves, profs, direction…

Speaker 2: Ouais, c’est bien d’avoir des exemples, ça clarifie les choses. Par exemple, la transparence. C’est essentiel, hein, de dire quand on utilise l’IA, et comment.

Speaker 1: Et de ne pas faire croire qu'on a tout fait tout seul ! Faut citer les outils utilisés, leur contribution… Un peu comme on cite ses sources dans une bibliographie.

Speaker 2: Exactement. L’annexe 1 détaille la procédure, d’ailleurs. Et un point crucial : ne pas donner d’infos personnelles à l’IA. On ne sait pas trop ce qu’il en advient, hein ?

Speaker 1: Ouais, prudence est mère de sûreté, comme on dit. Et puis, valider les infos générées par l’IA. C’est pas parce que c’est écrit par une machine que c’est forcément vrai.

Speaker 2: Ah non, loin de là ! Les biais, les fabulations… Il faut être vigilant. Et sensibiliser les élèves à ça. Leur apprendre à avoir un esprit critique, à questionner les informations.

Speaker 1: C’est primordial ! Et si on repère des iniquités, des biais, on prévient l’employeur. C’est une responsabilité collective, hein, d’améliorer ces systèmes.

Speaker 2: Tout à fait. Pour les profs, c’est important d’expliquer tout ça aux élèves. Les biais, les erreurs factuelles… Et bien sûr, clarifier ce qu'est le plagiat et la fraude avec l’IA.

Speaker 1: Parce que c'est… c’est nouveau, c’est différent. Il faut adapter les définitions. Et puis, assumer la responsabilité du contenu généré par l’IA. C’est l’humain qui est responsable, pas la machine.

Speaker 2: C’est clair. Et les plans de cours doivent être clairs sur les limites d’utilisation de l’IA. Ce qui est autorisé, ce qui ne l’est pas. L’annexe 1 donne des infos là-dessus.

Speaker 1: Et attention aux restrictions d’âge de certains outils. On ne va pas utiliser la même chose avec des petits et des grands. Et la question des données personnelles, des droits d’auteur…

Speaker 2: Ouais, il faut bien lire les conditions d’utilisation, et informer les élèves des risques. L’IA, c’est un outil puissant, mais il faut l’utiliser… avec discernement.

Speaker 1: Donc, là, on parle de comment déclarer l’utilisation de l’IA, hein ? C’est super important pour la transparence et l’intégrité académique.

Speaker 2: Ouais, absolument. Et ils donnent des exemples concrets, c’est bien pratique. Mentionner l’outil utilisé, la date, la requête… Un peu comme une bibliographie, en fait.

Speaker 1: Exactement ! (rire) Une bibliographie pour l’ère de l’IA ! Et j’aime bien l’idée de mettre les réponses de l’IA en annexe. Ça permet de vraiment voir ce qui a été généré, et comment c’est utilisé.

Speaker 2: Ouais, ça rend les choses claires, hein ? Pas de cachotteries ! Et puis, ce formulaire de déclaration, en annexe 2… C’est carrément un guide, quoi ! Différents niveaux d’utilisation, des exemples de requêtes…

Speaker 1: Super clair, oui. Ça va du niveau 0 – utilisation interdite – au niveau 4 – utilisation libre. Et entre les deux, plein de nuances. Utilisation limitée, guidée, balisée…

Speaker 2: C’est bien pensé, ça permet d’adapter l’utilisation de l’IA au contexte pédagogique, à l’âge des élèves, aux objectifs du cours…

Speaker 1: Et ça responsabilise les élèves, aussi. Ils doivent déclarer ce qu’ils font, comment ils utilisent l’IA. C’est une bonne façon de les sensibiliser aux enjeux éthiques.

Speaker 2: Tout à fait. Bon, eh bien, on arrive au bout de cette discussion passionnante sur l’IA en éducation. J’espère que vous avez appris autant de choses que nous ! Merci d’avoir été à l’écoute. À bientôt pour un nouvel épisode !

Speaker 1: Au revoir et merci à tous ! N’oubliez pas de vous abonner à Sonofa ! On se retrouve très bientôt pour de nouvelles discussions passionnantes !