En Bref

• Le modèle GPT-5 Instant d’OpenAI reconnaît désormais et répond aux utilisateurs en détresse mentale ou émotionnelle.
• Lorsque des sujets sensibles sont détectés, les conversations sont orientées vers le modèle d’IA le plus compétent pour offrir un soutien.
• OpenAI a collaboré avec des experts en santé mentale pour guider ces mises à jour.
• ChatGPT puise désormais aussi dans les données d’entreprise issues d’applications comme Slack et Google Drive pour fournir des réponses personnalisées.
• La mise à jour soulève de nouvelles questions de confidentialité et d’éthique concernant le rôle croissant de l’IA dans l’intervention en cas de crise.

L’épaule numérique sur laquelle pleurer

Imaginez ceci : vous passez une mauvaise journée et, dans un moment de vulnérabilité, vous vous tournez vers ChatGPT pour trouver du réconfort. Soudain, le ton de l’IA change - plus doux, plus attentif. Elle propose un langage rassurant et, si besoin, vous oriente vers des ressources de crise réelles. Ce n’est pas de la science-fiction ; c’est la nouvelle réalité issue de la mise à jour d’octobre d’OpenAI, qui a discrètement transformé GPT-5 Instant en premier intervenant pour les utilisateurs en détresse.

GPT-5 Instant, habituellement la version « rapide et décontractée » par défaut de ChatGPT, endosse désormais un second rôle : celui de premier intervenant émotionnel. Grâce à un changement de modèle en coulisses, OpenAI redirige les conversations présentant des signes de détresse mentale ou émotionnelle aiguë vers cette version spécialisée, visant à la fois l’empathie et la sécurité. L’entreprise affirme que ces changements ont été élaborés avec l’aide de professionnels de la santé mentale, dans le but de désamorcer les dialogues tendus et d’encourager les utilisateurs à demander de l’aide si nécessaire.

Derrière la mise à jour : brève histoire de l’IA et du soutien émotionnel

L’idée de machines comme confidents n’est pas nouvelle. D’ELIZA, le chatbot des années 1960 qui imitait un thérapeute rogérien, aux compagnons IA d’aujourd’hui comme Woebot et Wysa, la technologie flirte depuis longtemps avec le rôle de conseiller numérique. Mais l’initiative d’OpenAI marque un nouveau chapitre : une IA généraliste et grand public capable de repérer et de répondre en temps réel à un langage de crise, pour des millions d’utilisateurs.

Il ne s’agit pas seulement d’améliorer la conversation. Avec la montée du travail à distance et de la communication numérique, des entreprises comme Microsoft et Google se sont précipitées pour intégrer l’IA dans les flux de travail quotidiens. La nouvelle fonctionnalité « Company Knowledge » de GPT-5 permet à ChatGPT de puiser directement des réponses dans les applications connectées de votre organisation - Slack, SharePoint, Google Drive, et plus encore - ce qui augmente les enjeux en matière de confidentialité et de sécurité des données.

Risques et récompenses : une arme à double tranchant

Tandis qu’OpenAI présente ces mises à jour comme un bond en avant, les critiques appellent à la prudence. Les professionnels de la santé mentale avertissent que même une IA bien entraînée peut mal interpréter le contexte, risquant de manquer des signaux d’alerte - ou de réagir de façon excessive à des plaintes anodines. Se pose aussi la question des données : lorsque l’IA détecte une détresse, que devient cette information ? À mesure que ChatGPT accède à des données d’entreprise privées et à des conversations sensibles, la frontière entre utilité et surveillance devient de plus en plus floue.

Le marché du soutien émotionnel alimenté par l’IA explose, avec des milliards en jeu et des géants mondiaux de la tech en compétition féroce. Pourtant, à mesure que l’IA s’impose comme confident et conseiller, la société doit faire face à de nouveaux dilemmes éthiques et réglementaires. Qui audite les algorithmes ? Qui est responsable lorsque l’épaule numérique sur laquelle pleurer fait défaut ?

WIKICROOK

• GPT : GPT est le dernier modèle de langage IA d’OpenAI, conçu pour générer, comprendre et interagir avec du texte de type humain pour diverses applications.
• Routage de modèle : Le routage de modèle bascule automatiquement l’interaction d’un utilisateur vers un autre modèle d’IA selon le contexte ou le risque, améliorant la sécurité et la qualité des réponses.
• Ressources de crise : Les ressources de crise sont des services de soutien réels, tels que des lignes d’assistance ou des conseils, qui offrent une aide immédiate aux personnes en situation de crise émotionnelle ou de sécurité.
• Intégration des connaissances d’entreprise : L’intégration des connaissances d’entreprise permet à l’IA d’accéder de manière sécurisée aux données spécifiques d’une organisation issues d’applications connectées pour fournir des réponses plus pertinentes et personnalisées.
• Dé-identification : La dé-identification supprime ou masque les informations personnelles dans les ensembles de données pour protéger la vie privée, mais de futures avancées pourraient permettre la ré-identification.