L’utilisation de l’intelligence artificielle et les risques associés : vie privée, hallucinations, biais et accompagnement dangereux

L’IA a maintenant, et seulement en quelques années, une place indéniable dans la société. Elle s’est frayé un chemin dans les outils de travail des professionnels utilisés au quotidien. Les jeunes et adultes ne s’en privent plus pour poser des questions, débroussailler l’information et même échanger avec un robot conversationnel pour les aider à prendre une décision. Il y a très peu d’encadrement, une intégration très variable plutôt par essai-erreur, parfois à l’insu de la personne qui utilise un outil.

Selon l’entrepreneur et chercheur Philippe Beaudoin, nous sommes « (…) dans la phase chaotique de l'intelligence agentique » (Question d'intérêt, 2026).

Alors que l’IA est en voie d’être adoptée à grande échelle, beaucoup de questionnements, et surtout de risques, subsistent. Une chose est certaine, selon Caroline Dufour, c.o. et présidente de l’OCCOQ, il faut avancer prudemment, mais il faut avancer puisque l’IA se répand indéniablement :

L’IA se présente et on doit actuellement transformer, réfléchir. On n’a pas le choix. On doit absolument y réfléchir, mais en même temps, ça demande une implantation lente pour s’assurer d’avoir les bons réflexes, autant chez les équipes, les employés, à tous les niveaux, parce qu’on voit des biais qui s’installent. Les gens ont tendance à croire que la robotisation ou l’IA, c’est un dictionnaire scientifique, alors qu’il y a de nombreux biais. Les gens feront trop confiance aux résultats. L’esprit critique est nécessaire. C’est là où on voit la part de l’humain pour réfléchir aux résultats. Le jugement, la créativité sont des aspects essentiels (Question d'intérêt, 2026). 

Le chercheur montréalais, Yoshua Bengio, affirme quant à lui :

Face à l’incertitude sur le marché de l’emploi dans 5, 10 ou 20 ans, je pense que la manière rationnelle de faire des choix de carrière, c’est quel genre d’éducation va me permettre de m’adapter plus facilement plus tard, donc d’avoir des connaissances générales pour que je puisse m’adapter à des emplois peut-être qui n’existent pas encore aujourd’hui. Quel genre de compétences ont plus de chances de résister à la vague ? (Question d'intérêt, 2026)

L’utilisation de l’IA chez les professionnelles et professionnels

Il est maintenant monnaie courante qu’un médecin utilise un outil intégrant de l’IA pour la prise de notes ou un avocat pour la rédaction de documents dans un contexte juridique, mais qu’en est-il en santé mentale et en intervention ?

Selon une récente enquête de Recherche en santé mentale Canada, près de 10% des personnes ont utilisé l’IA pour obtenir des conseils ou du soutien en santé mentale (Recherche en santé mentale Canada, 2025).

Selon une étude de Trottier et Oiry (citée dans Trottier, 2024), les professionnelles et professionnels au Québec en 2022 (administration, santé, juridique...) sont entre 10 et 30% selon le secteur à utiliser un type ou un autre d'application IA. Les données sont parlantes puisque 85% rapportent ne pas être prêts et 60% craignent d’être remplacés et que leur jugement professionnel soit menacé.

Selon un sondage en ligne effectué auprès des c.o. en 2024 (317 répondants et répondantes sur 2655 membres)¹, environ 25% utilisent l’IA dans leur pratique professionnelle. On ne peut s’empêcher de se demander ce qu’il en est en 2026...

Quelques exemples d’utilisation en lien avec l’orientation et la santé mentale :

(Les données de la première colonne viennent de Recherche en santé mentale Canada, 2025; les données de la 2^e colonne viennent d'une présentation de Mélanie Trottier à la Journée de formation continue 2026 et des nombreuses questions reçues à l’Ordre par les membres)

Quelques risques actuels de l’IA

Malgré les promesses d’efficacité et les constats au niveau de l’automatisation, au risque de répéter, les risques actuels de l’IA sont nombreux et en voici quelques-uns.

Confidentialité

La confidentialité est remise en question « Le CLOUD Act américain donne au gouvernement des États-Unis le droit de consulter n’importe quelles données collectées par des entreprises états-uniennes, même des données qui sont hébergées à l’extérieur du pays.» Il s’agit d’un risque avec lequel il faut composer et des réflexions de fond s’imposent (Mckenna, 2026).

D’ailleurs, Mélanie Trottier, dans le cadre d’un sondage effectué auprès des c.o., souligne que plus on utilise l’IA, plus on a l’impression qu’elles sont dignes de confiance et moins on voit la confidentialité comme un enjeu (Trottier, 2024).

Informations fausses, incomplètes ou désuètes

L’existence d’informations fausses, incomplètes ou désuètes venant de l’IA n’est plus à démontrer et est soutenue par des études :

Une étude récente a relevé des taux d’hallucinations provoquées par attaques adverses (i.e. des hallucinations déclenchées par des invites délibérément conçues pour tromper le modèle) allant de 50 % à 82 % selon les modèles et les méthodes de sollicitation, et d’importantes hallucinations subsistaient même pour des invites minutieusement rédigées soumises au modèle le plus avancé . 

Une autre étude, consacrée à la génération de notes cliniques, a observé un taux d’hallucinations de 1,47 % sur près de 13 000 phrases annotées par des cliniciens. Fait critique, 44 % de ces hallucinations ont été classées comme « importantes » puisqu’elles auraient pu directement influer sur le diagnostic et la prise en charge si elles n’avaient pas été corrigées (Asgari et al., 2025). S’ils peuvent paraître faibles dans certains contextes (ex. : 1,47 % dans les notes), ces taux deviennent cruciaux dans des contextes cliniques à enjeux élevés, comme la planification diagnostique ou thérapeutique (où ils peuvent atteindre 69,6 % dans des scénarios complexes pour GPT-4o), un danger aggravé par le ton assuré de ces sorties. (Omar et al., 2025)

Une étude faite au Québec par l'OBVIA mentionne:

De plus, malgré leurs capacités impressionnantes, les modèles de traitement du langage naturel ont une fâcheuse tendance à générer du contenu erroné, trompeur ou qui n’est pas issu de leurs données d’entraînement, ce que les spécialistes qualifient parfois d’«hallucinations» (Marchildon et al., 2025).

En lien avec l'utilisation de l'Ia pour la rédaction des notes évolutives, le Collège des médecins écrit:

Une attention particulière doit être portée aux hallucinations, mauvaises interprétations et biais pouvant être générés par l’IA (Collège des médecins, 2026).

La GRICS parle de l’effet performatif, c’est-à-dire que les personnes

(...) ont tendance à faire une confiance aveugle à la machine, craignant de commettre une faute s’ils contredisent un résultat algorithmique, même s’il semble injuste (GRICS, 2026).

La vigilance est donc de mise .

Biais d’utilisation et réponses non éthiques

L’IA perpétue des biais et parfois même de la discrimination dans ses réponses et ses propos :

Le gros problème, c’est que ces systèmes sont souvent biaisés. Ils ont été entrainés sur des données historiques… qui reflètent parfois des pratiques discriminatoires (Ouellet, 2025). 

Il n’y a aucun encadrement lié à des normes éthiques et l’IA va souvent à l’encontre des principes de base de diversité, équité et inclusion :

Tout d’abord, comme l’IA reproduit les préjugés présents dans la société, elle peut renforcer des attitudes racistes et misogynes à l’égard de personnes en quête d’équité. Une étude menée par des scientifiques de l’Université Brown a révélé que les robots conversationnels basés sur l’IA enfreignent régulièrement les normes éthiques fondamentales en santé mentale, notamment la discrimination injuste fondée sur le genre, la culture et la religion» (Brown University, 2025).

Conseils et accompagnement dangereux

Les IA génératives peuvent également nuire au développement de l'autonomie des personnes vivant avec des problématiques de santé mentale ou des personnes dites « vulnérables » (Sharma et al. 2026).

L’accompagnement peut même être dangereux pour la santé mentale et augmenter l’isolement de personnes vulnérables :

La psychose exacerbée par l’IA est une autre préoccupation émergente. Certaines études ont montré que des robots conversationnels basés sur l’IA amplifiaient ou validaient des pensées nuisibles ou délirantes. Comme l’IA générative reflète les mots et le ton de la personne qui l’utilise, elle crée une sorte de chambre d’écho. À cause de leurs réponses, les robots conversationnels peuvent renforcer des sentiments difficiles. De plus, le fait qu’ils s’appuient parfois sur des échanges précédents peut amplifier davantage les pensées nuisibles.

Ces pièges ont des conséquences concrètes : certains robots conversationnels basés sur l’IA découragent les personnes de chercher de l’aide et fournissent des conseils nuisibles et de l’information ayant parfois des conséquences mortelles. Les robots conversationnels ne sont pas conçus pour remettre en question les pensées nuisibles, comme des pensées et des demandes d’information qui, autrement, seraient reconnues comme de l’idéation suicidaire par un être humain» (Sharma et al. 2026).

Impact sur le marché du travail et sur le sens du travail

Selon Élodie Chevallier, plusieurs questionnements sont soulevés sur l’impact de diminuer les tâches à faible investissement cognitif qui peuvent parfois être reposantes ou encore de la libération des tâches intellectuelles en faveur des tâches mécaniques (Chevallier, 2024)

L’impact est également systémique, déjà en 2021, 40% des personnes travailleuses au Canada avaient un emploi modérément à risque d’automatisation et 20% des emplois au Canada étaient très susceptibles d’être automatisés.

Dans sonmémoire publié dans le cadre de consultations sur le PL 15, l’Ordre souligne les impacts suivants sur le marché du travail :

Le McKinsey Global Institute prévoit que 400 à 800 millions de travailleurs seront déplacés par l'automatisation d'ici 2030, dont 75 à 375 millions devront changer de catégorie professionnelle. La mise à jour de 2024 de ce rapport estime que l'IA générative peut automatiser jusqu'à 70 % du temps de travail actuel et que 12 millions de travailleurs en Europe et aux États-Unis devront changer d'emploi à court terme. Le Future of Jobs Report 2025 du Forum économique mondial confirme que 59 % de la main-d'œuvre mondiale nécessitera une formation ou une requalification d'ici 2030, que 39 % des compétences actuelles deviendront obsolètes. 

Quelques pistes de réflexion

Dans un contexte de pénurie d’accès aux services en orientation et en santé mentale, il est compréhensible et prévisible que le public se tourne vers l’intelligence artificielle pour y trouver des réponses et de l’accompagnement.

Les professionnelles et professionnelles ont un rôle primordial à jouer dans l’éducation à l’utilisation de l’IA, ce qui peut passer, par exemple, par des interventions éducatives et informationnelles en milieu scolaire que ce soit en groupe ou en individuel afin de sensibiliser à une utilisation sécuritaire en lien avec l’orientation. Ils ont également un rôle important d’accompagnement face aux transitions à venir et la gestion des émotions qui sont engendrées.

L’Association canadienne pour la Santé mentale recommande aux personnes de :

• Chercher de l’aide de spécialistes chaque fois qu’elles en ont l’occasion;
• Se renseigner sur les applications cliniques des outils IA;
• Vérifier la protection de la vie privée;
• Limiter le partage avec l’IA de renseignements sensibles ou qui révèlent l’identité. (Association canadienne pour la santé mentale, 2026).

Il reste que l’utilisation de l’IA n’est pas une obligation, toutefois, il commence à être très difficile d’en faire fi. Par contre, son utilisation éthique et responsable est une obligation et la responsabilité des professionnelles et professionnels.

Une publication de l’Ordre des psychologues recense deux principaux moyens d’atténuation pour les professionnels, soit la collaboration IA-Clinicien et la formation à l’utilisation de l’IA.

Collaboration IA-clinicien. Dans ce modèle, un clinicien qualifié est dans la boucle : il valide tout résultat d’IA susceptible d’influencer le diagnostic, la formulation ou le traitement, et il est le seul responsable (Stade et al., 2024). Cette supervision humaine recentre le jugement clinique, réduit les risques et renforce la sécurité des patients (APA, 2025, cité dans Gibb et Rezaee, 2025), alors que la thérapie autonome par IA n’est pas encore jugée suffisamment sécuritaire (Moore et al., 2025; Torous et Topol, 2025, tous deux cités dans Gibb et Rezaee, 2025).

Formation à l’utilisation de l’IA. Le clinicien doit au minimum pouvoir évaluer l’outil choisi et l’utiliser efficacement. Il doit détenir des connaissances pratiques sur les limites des modèles pour repérer les biais et les dérives (Schubert et al., 2025, cité dans Gibb et Rezaee, 2025)».

Finalement, l’utilisation de l’IA pour la rédaction de notes évolutives est permise, mais doit respecter les mêmes principes déontologiques que la prise de notes habituelle. Annie Gourde et Michel Turcotte identifient des pistes à suivre dans leur article : « Peut-on utiliser l’IA pour les notes évolutives en orientation ? » (article paru sur Orientaction).

En somme, l’intégration de l’intelligence artificielle dans le domaine de la santé mentale et des pratiques professionnelles représente à la fois une avancée et un défi.Il est crucial pour les professionnels de rester à l’affût afin de pouvoir soutenir une intégration sécuritaire de l’IA dans les processus d’accompagnement et d’orientation. Les recommandations soulignent l’importance d’une utilisation éthique, encadrée et réfléchie de ces nouveaux outils, tout en valorisant le jugement clinique et la relation thérapeutique afin d’assurer une intervention sécuritaire et compétente. Alors que l’encadrement législatif demeure en développement et que les pratiques évoluent rapidement, il est essentiel que les professionnels poursuivent leur formation, demeurent vigilants face aux enjeux de confidentialité et privilégient une approche collaborative pour assurer la sécurité et le bien-être des personnes qu’ils accompagnent.

Notes

1. Présentation de Mélanie Trottier à la Journée de formation continue 2024.

Références

​ASSOCIATION CANADIENNE POUR LA SANTÉ MENTALE. « Au Canada, de plus en plus de personnes utilisent l'IA comme outil de soins de santé mentale. Notre société est-elle prête pour ce virage? », [en ligne], mars 2026. https://cmha.ca/fr/news/utiliser-ia-comme-outil-de-soins-de-sante-mentale/​

BROWN UNIVERSITY. « AI chatbots are becoming common in mental health care. Brown researchers say guardrails are needed », Brown University, [en ligne], 21 octobre 2025.https://www.brown.edu/news/2025-10-21/ai-mental-health-ethics​

CHEVALLIER, Élodie. Le sens au travail à l'ère de l'intelligence artificielle, présentation dans le cadre de la Journée de formation continue 2024 de l'OCCOQ, 2024.​

COLLÈGE DES MÉDECINS DU QUÉBEC. « Scribe et intelligence artificielle », Collège des médecins du Québec, [en ligne], 14 janvier 2026.https://www.cmq.org/fr/pratiquer-la-medecine/informations-clinique/intelligence-artificielle/scribe-ia

GIBB, Katy et Hoda REZAEE. « Risques de l'IA dans la pratique clinique et stratégies d'atténuation », Ordre des psychologues du Québec, [en ligne], 2025.https://www.ordrepsy.qc.ca/-/risques-de-l-ia-dans-la-pratique-clinique-et-strategies-d-attenuation​

GRICS. « IA : Miroir numérique de nos propres préjugés? », GRICS, [en ligne], 10 février 2026.https://grics.ca/intelligence-artificielle-miroir-numerique-prejuges/​

MARCHILDON, Allison, Clara BOINE, Andréane SABOURIN LAFLAMME, David ANCTIL, Antoine BOUDREAU LEBLANC, Simon AUCLAIR, Christine BALAGUÉ, Frédérick-Antoine BERTRAND-MORIN, Céline CASTETS-RENARD, Pierre-Luc JACKSON et Lyse LANGLOIS. Un an après l'arrivée de ChatGPT : réflexions de l'Obvia sur les enjeux et pistes d'action possibles face à l'IA générative, Obvia, [en ligne], janvier 2024.https://www.obvia.ca/ressources/un-apres-larrivee-de-chatgpt-reflexions-de-lobvia-sur-les-enjeux-et-pistes-daction-possibles-face-a-lia-generative​

McKENNA, A. Votre recours à l'IA au boulot pourrait être illégal, La Presse, [en ligne], 1^er mai 2026. https://www.lapresse.ca/affaires/2026-05-01/entorse-possible-a-la-loi-25/votre-recours-a-l-ia-au-boulot-pourrait-etre-illegal.php

Question d'intérêt. « L'IA, payante pour qui? – Une révolution pour les travailleurs et travailleuses? », [balado], Radio-Canada Ohdio, 2026.https://ici.radio-canada.ca/ohdio/balados/6942/gerald-fillion-finance-economie-analyse/1167139/lia-payante-pour-qui-une-revolution-pour-les-travailleurs-et-travailleuses/transcription

Recherche en santé mentale Canada. Comprendre la santé mentale des Canadiens : résultats du sondage de population no 25, [en ligne], 2025. https://www.mhrc-rsmc.ca/sondage-national-257. 

TROTTIER, M. Portrait des enjeux actuels et à venir des applications de l'intelligence artificielle dans le cadre du métier de conseiller.ère en orientation, présentation dans le cadre de la Journée de formation continue 2024 de l'OCCOQ, 2024.

OMAR, Mahmud, Vera SORIN, Jeremy D. COLLINS, David REICH, Robert FREEMAN, Nicholas GAVIN, Alexander CHARNEY, Lisa STUMP, Nicola L. BRAGAZZI, Girish N. NADKARNI et Eyal KLANG. « Large language models are highly vulnerable to adversarial hallucination attacks in clinical decision support : a multi-model assurance analysis », medRxiv, [en ligne], 2025, prépublication.https://doi.org/10.1101/2025.03.18.25324184

OUELLET, Jean-François. L'IA débarque : qu'est-ce que ça change dans ta vie?, Laval, Guy Saint-Jean Éditeur, 2025, 329 p.​

SHARMA, Mrinank, Miles McCAIN, Rachel DOUGLAS et David DUVENAUD. « Who's in charge? Disempowerment patterns in real-world LLM usage », arXiv, [en ligne], 2026, prépublication. https://doi.org/10.48550/arXiv.2601.19062​

​