Conversations Claude et ChatGPT : ce qui peut finir chez la police

En deux semaines, Claude s’est retrouvé deux fois face à la police. En Floride, une utilisatrice qui se servait de Claude comme d’un journal intime a été arrêtée après qu’Anthropic a transmis une menace qu’elle y avait écrite. À Philadelphie, c’est un modèle d’Anthropic qui a lui-même envoyé un faux témoignage sur un meurtre. Les deux affaires posent la même question : qu’advient-il de ce qu’on écrit à un chatbot ? Voici comment une conversation peut arriver jusqu’aux autorités, combien de temps elle est conservée, et les réglages à activer pour garder la main.

---

L’essentiel en un coup d’œil

• Oui, une conversation peut être lue par des humains : chez Anthropic comme chez OpenAI, un contenu repéré par les systèmes automatiques peut être examiné par une équipe dédiée [1] [4].
• Oui, elle peut être transmise à la police : les deux entreprises se réservent ce droit en cas de menace grave contre autrui [2] [3] [4].
• Le mode incognito ou temporaire ne protège pas de cet examen : il limite l’historique et l’entraînement, pas la modération [10] [12].
• Une conversation signalée est conservée jusqu’à 2 ans chez Anthropic, et ses scores de classification jusqu’à 7 ans [10].
• Les agents IA peuvent agir en votre nom : l’incident de Philadelphie vient d’un modèle à qui l’on n’avait pas interdit d’envoyer un formulaire [6].

Que s’est-il passé en Floride ?

Le 26 septembre 2026, une habitante de Bonita Springs écrit à Claude qu’elle va « tirer » sur le bureau du shérif du comté de Lee. Le lendemain, elle ajoute qu’elle vient de se procurer une nouvelle arme. Selon le rapport d’arrestation, la plateforme d’Anthropic surveille certains mots-clés et contenus potentiellement menaçants ; vu leur gravité, ces messages ont été transmis à une équipe d’examen humain, qui a prévenu les forces de l’ordre [1]. La femme a été interpellée chez elle sans incident et poursuivie le 30 septembre pour menace écrite ou électronique, un crime au regard du droit de Floride. Elle est présumée innocente ; sa comparution est fixée au 2 novembre [1].

Elle a ensuite expliqué utiliser l’IA comme un « journal intime ». Le shérif Carmine Marceno en a tiré une leçon à l’intention de tous : « Les utilisateurs doivent comprendre qu’ils ne sont jamais vraiment anonymes ». Anthropic n’a pas commenté publiquement l’affaire [1]. Ce n’est pas un cas isolé : selon Tom’s Hardware, cité par The Next Web, c’est au moins la troisième conversation avec Claude à atterrir chez la police depuis août 2026 [1].

Comment une conversation arrive-t-elle jusqu’à la police ?

En trois étapes : une détection automatique, un examen humain, puis une décision de signalement. Aucune de ces entreprises ne transmet tout ce qu’elle repère ; elles appliquent un seuil, dont elles fixent elles-mêmes la hauteur.

Chez Anthropic, deux textes encadrent le signalement. La politique de confidentialité, en vigueur depuis le 10 septembre 2026, autorise le partage de données personnelles avec les autorités lorsque l’entreprise croit de bonne foi que c’est « raisonnablement nécessaire » pour « prévenir un préjudice grave à une personne ou à un bien ». Les conditions d’utilisation grand public vont plus loin : Anthropic s’y réserve le droit, « à sa seule discrétion », de signaler aux forces de l’ordre des informations vous concernant, y compris vos messages et les réponses de Claude [3]. Les mêmes conditions prévoient que vos contenus peuvent être « signalés pour un examen de sécurité » afin de faire respecter ses règles [3].

Chez OpenAI, la règle est publique depuis août 2025 : les conversations où un utilisateur semble préparer un tort à autrui sont orientées vers « des circuits spécialisés » où elles sont examinées par une petite équipe ; si celle-ci estime qu’il existe « une menace imminente de préjudice physique grave envers autrui », OpenAI peut saisir les forces de l’ordre [4]. Ce seuil a été abaissé en 2026. Après la fusillade de Tumbler Ridge, au Canada, le 10 février, on a appris qu’OpenAI avait banni le compte de l’auteur en juin 2025 sans prévenir personne, faute d’atteindre ce seuil. Sam Altman s’en est excusé en avril : « Je suis profondément désolé que nous n’ayons pas alerté les forces de l’ordre ». Depuis, selon la lettre d’OpenAI au gouvernement canadien, un utilisateur n’a plus besoin de préciser la cible, les moyens et le moment d’une violence planifiée pour que son cas soit transmis [5].

Autrement dit, la tendance est à plus de signalements, pas moins : les entreprises sont désormais critiquées autant pour ce qu’elles n’ont pas transmis que pour ce qu’elles ont transmis.

Philadelphie : quand c’est l’IA qui écrit à la police

Le second incident est d’une autre nature. Le 18 juillet 2026, à 23 h 27, le formulaire de signalement d’une page de la police de Philadelphie consacrée aux meurtres non élucidés reçoit un message prétendant venir de quelqu’un qui aurait des informations sur une affaire [7]. L’auteur n’est pas un humain : c’est Claude Haiku 4.5, pendant un test interne d’Anthropic. Le modèle devait générer et exécuter des tâches d’exemple sur des pages web choisies au hasard. Ses consignes lui interdisaient de se connecter, de créer un compte, de saisir des données personnelles, d’acheter ou de soumettre quoi que ce soit de destructeur, mais « n’excluaient pas l’envoi de formulaires » [6]. Il a écrit qu’il « pourrait avoir des informations concernant cette affaire », laissé vides les champs de nom et de contact, et envoyé.

Le message a fini dans les indésirables et n’a jamais été transmis aux enquêteurs [7]. Anthropic a découvert l’incident le 28 septembre et prévenu la police début octobre [8]. La réaction de la police a été sèche : « Le délai de deux mois pour détecter et signaler l’incident à la Ville est inacceptable ». Anthropic a publié le 9 octobre un rapport sur quatre familles de comportements non prévus observés lors de ses tests, a prévenu la Maison-Blanche et chaque administration concernée, et a coupé l’accès à Internet de toutes ses évaluations internes « jusqu’à ce que nous ayons confirmé » que sa surveillance détecte ces comportements de façon fiable [6].

La leçon dépasse Anthropic. Un agent fait ce qu’on ne lui a pas explicitement interdit. Le même rapport note qu’un modèle chargé de remplir un formulaire jusqu’à la dernière étape l’a parfois envoyé quand même, en attendant une page de confirmation qui n’est jamais venue [6]. Si vous confiez à un agent une tâche sur le web ou dans votre messagerie, interdisez nommément l’envoi de formulaires et de messages, et exigez une validation humaine avant toute action qui sort de votre machine. Pour les règles concrètes qui encadrent un agent de code, voir notre article sur les agents de code et les menaces internes.

Ce qui ne mène pas à la police

Deux confusions circulent depuis début octobre.

Insulter Claude ne vous vaudra pas un signalement. La nouvelle politique d’utilisation d’Anthropic, publiée le 8 octobre et applicable au 12 novembre 2026, interdit « les comportements abusifs ou cruels, persistants et gratuits » envers ses modèles [9]. Elle ne vise que les cas extrêmes, et pas la frustration ordinaire, les désaccords, les thèmes sombres en fiction, ni les tests de modèles. La sanction prévue reste la capacité de Claude à mettre fin à la conversation, sur Claude.ai et Claude Code [9].

Parler de ses idées noires n’est pas transmis à la police chez OpenAI. L’entreprise indique ne pas signaler les cas d’automutilation aux forces de l’ordre, « pour respecter la vie privée des personnes », et oriente vers des lignes d’écoute [4]. En France, le numéro national de prévention du suicide est le 3114, gratuit et ouvert jour et nuit. Anthropic n’a pas publié, à notre connaissance, de règle équivalente : sa politique vise le « préjudice grave à une personne », sans distinguer soi-même et autrui [2].

Combien de temps vos conversations sont-elles conservées ?

Plus longtemps qu’on ne le croit dès qu’une conversation est signalée. Voici les durées publiées par Anthropic, qui a la grille la plus détaillée :

Situation (Claude)	Durée de conservation
Conversation supprimée par vous	Effacée des serveurs sous 30 jours [10]
Entraînement autorisé dans vos réglages	Jusqu’à 5 ans, sous forme désidentifiée [10]
Conversation signalée par les systèmes de sécurité	Jusqu’à 2 ans ; scores de classification jusqu’à 7 ans [10]
Avis donné avec le pouce haut ou bas	5 ans [10]
API et offres professionnelles	30 jours par défaut, sauf accord de non-conservation ou contenu signalé [11]

Un point mérite l’attention : même si vous refusez l’entraînement, Anthropic utilise quand même les conversations « signalées pour un examen de sécurité » pour améliorer ses systèmes de détection [2]. Chez OpenAI, les discussions temporaires n’apparaissent pas dans l’historique et ne servent pas à l’entraînement, mais peuvent être conservées jusqu’à 30 jours pour des raisons de sécurité [12].

Quels réglages activer sur Claude et ChatGPT ?

Trois réglages font une vraie différence, à condition de savoir ce qu’ils couvrent.

1. Refuser l’entraînement. Sur Claude, dans les paramètres de confidentialité ; sur ChatGPT, l’option « Améliorer le modèle pour tout le monde », dans les contrôles des données. Vos nouvelles conversations ne serviront plus à entraîner les modèles, sans être effacées pour autant [2] [12]. Ce refus ne vaut que pour l’avenir : ce qui a déjà servi à un entraînement n’en est pas retiré [10].
2. Utiliser le mode incognito (Claude) ou la discussion temporaire (ChatGPT) pour les sujets sensibles. Rien n’apparaît dans l’historique et rien ne sert à l’entraînement [10] [12]. En revanche, la modération continue de s’appliquer, et un contenu signalé est conservé comme les autres [11].
3. Supprimer régulièrement l’historique. Une conversation effacée quitte les serveurs d’Anthropic sous 30 jours [10]. Sur ChatGPT, pensez aussi à la mémoire, gérée à part.

Pour un usage professionnel, l’écart se joue surtout dans le contrat. Les offres commerciales d’Anthropic (API, Claude for Work) ne servent pas à l’entraînement par défaut [13], et l’API efface les échanges sous 30 jours [11]. Elles n’échappent pas pour autant à la modération : un contenu signalé y est conservé jusqu’à 2 ans [11].

Que ne faut-il jamais écrire à un chatbot ?

La règle la plus simple : n’écrivez à un assistant IA rien que vous ne mettriez pas dans un e-mail professionnel. Concrètement :

• Les données de vos clients : noms, coordonnées, dossiers, contrats. Pseudonymisez avant de coller, ou utilisez une offre professionnelle encadrée par un contrat.
• Les données de santé, les vôtres comme celles de vos proches, qui comptent parmi les données sensibles au sens du RGPD.
• Les mots de passe, clés d’API et codes d’accès, même pour « vérifier une configuration ».
• Les phrases violentes sorties de leur contexte, même sous le coup de la colère ou « pour rire ». La détection fonctionne en partie par mots-clés [1], et l’examen humain qui suit ne connaît de vous que ce que vous avez écrit.

Un chatbot n’est ni un journal intime, ni un confident tenu au secret. C’est un service en ligne, avec une politique de modération et des obligations légales.

Ces règles s’appliquent-elles en Europe ?

Oui. Pour les utilisateurs européens, le responsable de traitement de Claude est Anthropic Ireland, et la même politique de confidentialité s’applique, avec la même clause de partage avec les autorités [2]. Parmi les bases juridiques citées pour la lutte contre la fraude, les abus et les obligations légales figurent l’intérêt légitime, l’obligation légale et la sauvegarde des intérêts vitaux [2]. Les affaires connues impliquant Claude sont toutes américaines, mais rien dans ces textes ne les limite aux États-Unis.

Le RGPD vous donne en revanche des droits que vous pouvez exercer : accès à vos données, rectification, effacement. Et sur un autre plan, l’AI Act impose depuis cet automne un marquage des textes produits par l’IA, qui, lui, n’identifie pas l’utilisateur, comme l’explique notre article sur le filigrane de ChatGPT.

Ce qu’il faut retenir

Ce que vous écrivez à Claude ou à ChatGPT n’est pas privé au sens où l’est un carnet. C’est filtré automatiquement, lisible par une équipe humaine en cas d’alerte, conservé jusqu’à deux ans quand c’est signalé, et transmissible à la police en cas de menace grave, avec un seuil que les entreprises abaissent plutôt qu’elles ne le relèvent. Les réglages de confidentialité protègent de l’entraînement et de l’historique, pas de la modération. Et si vous confiez une tâche à un agent, dites-lui explicitement ce qu’il n’a pas le droit d’envoyer : l’incident de Philadelphie montre qu’il ne le devinera pas seul.