La Colombie-Britannique veut contraindre OpenAI à signaler les menaces crédibles

La Colombie-Britannique a engagé une action en justice contre OpenAI en Californie, reprochant à l’entreprise de ne pas avoir prévenu les autorités avant la fusillade de février dans une école de Tumbler Ridge. La plainte vise aussi Sam Altman, directeur général du groupe.

La province soutient que ChatGPT avait été utilisé pour préparer l’attaque et que les échanges de l’auteur avaient été repérés, des mois auparavant, par l’équipe de sécurité d’OpenAI en raison de références à la violence par arme à feu. Selon la plainte rapportée par Reuters, des membres de cette équipe auraient recommandé un signalement à la police. La direction l’aurait écarté. OpenAI n’a pas répondu aux sollicitations de la BBC sur cette nouvelle procédure.

Les sources divergent sur le bilan précis : la BBC évoque huit morts, dont six enfants, tandis que Reuters, repris par *The Guardian*, fait état de neuf personnes tuées. Elles s’accordent sur le fait que l’attaque a visé une école et qu’elle a causé des pertes parmi les élèves.

Une procédure qui cherche à changer les pratiques

La Colombie-Britannique réclame des dommages et intérêts afin de financer les efforts de reconstruction après l’attaque. La procureure générale de la province, Niki Sharma, a indiqué que tout montant obtenu servirait notamment à reconstruire l’établissement secondaire.

Mais l’enjeu dépasse l’indemnisation. La plainte demande aussi une décision imposant des changements dans la manière dont OpenAI traite les conversations susceptibles de déboucher sur des violences. Elle met donc directement en cause les critères internes qui déterminent le moment où une entreprise peut ou doit contacter les forces de l’ordre.

OpenAI a déjà reconnu ne pas avoir alerté la police. En avril, Sam Altman avait présenté ses excuses aux familles, affirmant regretter que les autorités n’aient pas été prévenues. L’entreprise a expliqué par la suite que les échanges détectés ne satisfaisaient pas ses critères internes de signalement, même s’ils avaient été repérés par des systèmes conçus pour identifier l’usage de ses modèles à des fins violentes.

Un porte-parole, Drew Pusateri, a déclaré que l’entreprise voulait continuer à travailler avec les pouvoirs publics et les autorités policières, tout en poursuivant son travail sur la sécurité. OpenAI affirme entraîner ses modèles à refuser les demandes pouvant faciliter de manière significative un acte violent et prévenir les autorités lorsqu’un échange fait apparaître un risque imminent et crédible pour autrui.

Le seuil de l’alerte et le secret des conversations

La justice américaine devra d’abord examiner les accusations de la province. Si elle ordonnait une modification des pratiques d’OpenAI, elle pourrait toutefois peser sur une question plus large : à partir de quels éléments une entreprise d’intelligence artificielle doit-elle sortir de sa relation avec l’usager pour transmettre une alerte à la police ?

Un mécanisme de signalement élargi pourrait permettre une intervention plus précoce lorsqu’un danger paraît crédible. Mais il accroîtrait aussi le nombre de conversations examinées et éventuellement transmises, y compris dans des cas qui ne débouchent sur aucun passage à l’acte. La frontière entre prévention d’une menace et protection de la confidentialité des usagers devient ainsi centrale.

Niki Sharma a déclaré ne pas avoir lu le contenu des conversations concernées. Elle affirme que la province les a demandées à OpenAI et que l’entreprise a refusé de les transmettre. Ce désaccord illustre la difficulté du dossier : les autorités demandent des éléments pour évaluer une menace et établir les responsabilités, tandis que la divulgation d’échanges privés soulève ses propres limites.

La procédure intervient après des actions distinctes engagées par des familles de victimes et d’autres personnes touchées. Elle s’inscrit aussi dans une série de recours américains accusant ChatGPT d’avoir facilité des violences. Le tribunal de San Francisco devra déterminer si les pratiques invoquées par la province justifient une réparation et, surtout, une obligation précise de signalement.