Innovation responsable IA et santé mentale

Crédit

Documents à distribuer

Intervenants

Henry Xiao, docteur Séminaires et produits associés

---

Henry Xiao, qui a un doctorat, est directeur adjoint des opérations au service de conseil et de psychologie (CAPS) de l'université Penn State, où il combine son expertise clinique et l'innovation technologique pour améliorer les soins de santé mentale pour les étudiants. Henry est psychologue clinicien agréé et a mené des recherches approfondies sur le processus et les résultats de la psychothérapie. Depuis plus de dix ans, il intègre la prise de décision basée sur les données dans les systèmes de conseil universitaire grâce à sa formation supérieure à l'université Penn State et à son travail avec le Center for Collegiate Mental Health (CCMH). Dans son rôle actuel au CAPS, il supervise la mise en œuvre de la technologie et de la sécurité des données, bosse en étroite collaboration avec l'équipe informatique de l'université pour planifier et mettre en œuvre les changements technologiques, et maintient un lien fort avec le CCMH, où il est maintenant conseiller en recherche, pour s'assurer que les services de santé mentale du CAPS restent efficaces et à jour. Sa passion pour la technologie combine un intérêt professionnel et personnel.

 

Informations sur les intervenants :
Financier : Henry Xiao bosse pour l'université d'État de Pennsylvanie. Il touche des honoraires de PESI, Inc. pour ses interventions. Il n'a pas de liens financiers avec des organisations inéligibles.
Non financier : Henry Xiao est évaluateur ponctuel pour Cogent Mental Health and Psychotherapy Research.

 

Objectifs

1. Identifie les questions éthiques importantes et les trucs à prendre en compte quand on utilise l'IA dans la vie perso et pro.
2. Explique comment l'IA marche et comment elle est utilisée en ce moment dans le domaine de la santé mentale.
    

Aperçu

Pourquoi cette discussion et à quoi s'attendre

• Avertissement : le conférencier n'est pas un ingénieur ou un programmeur en IA, et il n'est pas payé/sponsorisé par une boîte d'IA.
• Toutes les démos de la présentation ont été faites avec la version gratuite des sites web mentionnés.
• Qui sont les intervenants qui vont parler ? (Pope s'intéresse aussi à l'IA, ce qui montre l'importance internationale/mondiale du sujet.)
• Questions sur Zoom pour voir si les gens connaissent bien l'IA ; environ 1 à 2 minutes chacune, les résultats seront partagés en direct.
• Discussion sur certaines croyances éclairées de l'utilisateur concernant l'IA, basées sur des recherches et des explorations professionnelles/personnelles (pour planter le décor de la discussion).
• Objectifs d'apprentissage 

Statistiques d'utilisation : qui utilise l'IA et pourquoi c'est important ?
Petite note sur les sources : chaque fois qu'un outil est utilisé, on dit quand et où, et la bibliographie en général mélange des recherches empiriques et des articles/sources plus récents.

  La plupart des gens dans le monde qui répondent aux sondages utilisent maintenant des sondages hebdomadaires.

• L'utilisation réelle peut être différente à cause des changements rapides.
• Les jeunes l'utilisent plus souvent.
• Exemple d'utilisation de ChatGPT et vitesse d'adoption
• Qui utilise l'IA ? Géopolitique internationale et importance de l'IA

Introduction à l'IA - C'est quoi l'IA et comment ça marche ?

• Présente et parle de l'IA -> IA générative -> Grands modèles linguistiques
• Les grands modèles linguistiques sont devenus un sujet super important et un truc qui fait parler de lui partout.
• Comment les LLM fonctionnent-ils ? L'accent est mis sur la prédiction de modèles sans véritable « compréhension » de la vérité par rapport à la fiction.
• Analogie entre les bébés et l'IA générative : en gros, ni les uns ni les autres ne « comprennent » vraiment pourquoi ils font ce qu'ils font, mais ils réagissent quand même avec précision. 
• Exemples de LLM couramment utilisés : ChatGPT, Claude, Gemini, DeepSeek et Perplexity. 

Éthique et réflexions : quelles sont les préoccupations actuelles concernant l'IA dans tous les secteurs ?

• Sortie de DeepSeek en janvier 2025 : montrer la « chaîne de pensée » et dévoiler la « boîte noire » de manière simple.
• Deepseek Censure sur la place Tian'anmen et pouvoir des entreprises de décider si ça colle avec leurs valeurs/la sécurité
• La sortie de DeepSeek est un bon exemple de plein de considérations éthiques, comme la géopolitique et l'économie, la censure et les garde-fous, et l'utilisation massive par le public.
• Ordre du jour pour les catégories de considérations éthiques - il y a beaucoup à dire à ce sujet, l'espoir est de susciter une réflexion autour de ces domaines, mais le temps manque pour explorer chacun d'entre eux de manière approfondie.
  • GIGO et biais
    • Les résultats du LLM/GenAI dépendent complètement des données sur lesquelles il a été formé.
    • Exemple de l'impact sur les gens qui ne parlent pas anglais, et aussi exemple d'horloges bloquées à 10 h 10.
• Confidentialité, responsabilité et sécurité des données
  • Au-delà de l'enjeu géopolitique, l'usurpation d'identité est une super bonne raison de ne pas mettre de données sensibles dans un LLM public.
  • Les dossiers médicaux (données de niveau HIPAA) sont toujours super importants.
  • Les comités d'éthique se développent pour encadrer l'utilisation responsable de l'IA, avec l'American Psychological Association comme exemple
  • Organisations internationales (Conférence des Nations Unies)
  • L'hypothèse de la reine rouge : la technologie avance super vite, donc « rester immobile » n'est pas vraiment une option.
• Coûts écologiques et énergétiques
  • Entretien électrique, formation poussée et coûts d'inférence élevés
  • Une partie des progrès consiste aussi à réduire les coûts en améliorant l'efficacité, mais la répartition des coûts reste inégale.
  • Droits de l'homme et éthique - RLHF au Kenya
• Humanité : pensée critique
  • Enseignement supérieur et éducation en général - Impacts du LLM
  • Exemple de la complexité avec laquelle un LLM peut répondre à une question
  • Les LLM rendent les « connaissances » plus accessibles sans forcément avoir besoin de « sagesse ».
  • Étude de Microsoft sur l'utilisation des LLM et la pensée critique
  • Petit exemple de l'impact au quotidien : aperçu de l'IA de Google
• Humanité : lien social
  • Exemple de conversation vocale avec l'IA
  • On a regardé les forums publics (genre Reddit/Quora) et comment les gens utilisent les modèles de langage large (LLM) pour se tenir compagnie.
  • Plus d'infos dans la section Santé mentale
• Humanité : Créativité/Art
  • Exemple musical (si on a le temps)
  • Exemple de vidéo
  • Haïku ; écrit par moi ; mais maintenant impossible à prouver
  • Discussion sur ce qu'est « l'art » vu comme une qualité humaine.
  • Résumé des résultats de recherche sur les préférences humaines    
• Santé mentale
  • Utilisations actuelles : aucun modèle d'apprentissage automatique (LLM) gratuit n'offre la sécurité HIPAA ; il faut payer pour avoir une sécurité adéquate.
  • Les chatbots pour la thérapie : pour et contre, avec des études et des commentaires Reddit
  • Utilisation parasociale, y compris procès contre Character.AI et Google
  • Données du CCMH : augmentation de l'anxiété sociale, de l'anxiété et le rôle de l'évitement
  • On parle de l'étude Monkey de Harlowe et de comment l'IA pourrait être le « singe en peluche » pour les gens qui sont dans des situations compliquées.
  • Comment on continue à parler de la tolérance à la détresse ?

Exemples :

• Grandes catégories d'utilisation, comme défini par l'étude Microsoft
• Exemple d'utilisation perso, des messages « quotidiens »
• Exemple d'utilisation perso/pro : comment utiliser un LLM ?
• Exemple d'utilisation pro, création d'une fiche client
• Exemple : comparaison linguistique entre ChatGPT et Claude ; l'importance de l'exploration personnelle et de l'alignement des modèles
• Autres idées pour explorer l'IA

C'est l'heure des questions
 

Public cible

• Conseillers en toxicomanie
• Gestionnaires de cas certifiés
• Conseillers, éducateurs 
• Thérapeutes conjugaux et familiaux
• Infirmières
• Médecins
• Psychologues
• Travailleurs sociaux
• Art-thérapeutes