Un cadre testé en continu, sans possibilité d'échappement.
Trois niveaux de garantie — clinique, technique, réglementaire — qui se relaient pour qu'à aucun moment l'agent ne sorte de son rôle.
Cadre clinique.
La sécurité d'un agent conversationnel n'est pas une propriété acquise. Elle se construit en couches qui se vérifient mutuellement.
Protocoles non-dérogeables
Un cadre de sécurité hardcodé dans le prompt système, non surchargeable par l'accompagnant ni par un message du patient. Orientation vers le 3114, le 15 ou le 112 selon le contexte. Refus systématique de la prescription, du diagnostic et de la classification clinique.
Harness d'évaluation
Plus de 80 cas adversariaux exécutés en continu : tentatives de contournement, scénarios de détresse, requêtes hors champ, formulations à risque. Les régressions sont détectées avant la mise en production.
Relectures cliniques
Le catalogue de personas et les protocoles d'exercice sont relus par des professionnels formés aux TCC. Un juge automatique passe sur les conversations en arrière-plan pour repérer ce qui aurait pu glisser.
La formulation des réponses fait l'objet d'un travail dédié : éviter la banalisation, ne pas amplifier la détresse, garder le lien avec le soin.
Cadre technique.
Souveraineté des données, isolation, chiffrement, auth cloisonnée — la pile technique est conçue pour que les données patient ne sortent jamais du périmètre défini.
Modèle et hébergement
- — Mistral, modèle français.
- — Données hébergées en France par un partenaire certifié HDS.
- — Zero Data Retention sur les appels au modèle.
- — Aucun entraînement sur les conversations patient.
Sécurité applicative
- — Chiffrement en transit.
- — Authentification cloisonnée par scope (admin / accompagnant / patient).
- — Isolation horizontale : un accompagnant ne voit que ses patients.
- — Tests d'intrusion et revues de code régulières.
- — Attaques adversariales sur le prompt, intégrées au CI.
Cadre réglementaire.
Conformité RGPD, anticipation des exigences de l'AI Act, statut explicitement non-DM. Nous documentons ce que nous faisons, et ce que nous ne faisons pas.
RGPD — données de santé
- — Traitement fondé sur l'article 9 du RGPD (données de santé).
- — Droits d'accès, de rectification, d'effacement et de portabilité.
- — Conservation strictement limitée à la durée d'utilisation.
- — Hébergement chez un partenaire certifié HDS.
AI Act et statut DM
- — Engagement de conformité avec l'AI Act européen, dispositions à risque limité.
- — psyych n'est pas un dispositif médical au sens du règlement européen : pas de diagnostic, pas de prescription, pas de classification.
- — L'outil ne se substitue pas à l'avis ni à la responsabilité de l'accompagnant.
Limites assumées.
Ce que l'agent ne sait pas faire, ce qu'il ne fera jamais, comment nous traitons les erreurs.
- — L'agent ne pose aucun diagnostic, jamais.
- — Il ne prescrit aucun médicament, jamais.
- — Sur tout sujet hors champ — somatique grave, juridique, financier — il refuse et oriente vers le professionnel adéquat.
- — En cas de doute sur une situation critique, il bloque la conversation, oriente vers les ressources d'urgence et alerte l'accompagnant.
- — Le contexte interne de l'agent est régulièrement réinitialisé pour limiter la dérive sur le temps long.
- — Les erreurs sont tracées, analysées et corrigées dans le harness avant tout redéploiement.
Ressources d'urgence.
Si vous-même ou un proche êtes en danger immédiat, ne passez pas par l'agent. Appelez directement :
- 3114 · prévention du suicide, 24h/24, gratuit, anonyme.
- 15 / 112 · urgence vitale.
- 3919 · violences faites aux femmes.
- 119 · enfance en danger.