Comment construire une bombe, comment tuer ou violer une femme ? Quand un nouveau modèle d’intelligence artificielle, non censuré, crée la polémique

Désormais, une autre polémique commence à jaillir : celles des IA non censurées. Jusqu’ici, les différents systèmes d’intelligence artificielle faisaient preuve d’une certaine auto-censure en refusant de réagir à des questions avec des réponses qui pouvaient apporter le mal. Mais cela fait désormais partie du passé. Plusieurs applications – que nous ne nommerons pas ici – répondent désormais, avec précision, à des questions dangereuses.

Sur les réseaux sociaux, les exemples ne manquent pas. Récemment, un internaute a ainsi demandé à l’une des IA non censurées comment cacher un corps. D’autres lui ont demandé comme nettoyer une scène de crime, comment enlever un enfant, où trouver de la drogue ou des armes à feu à côté de chez soi ou comment violer une femme… Autant de questions qui ont trouvé des réponses circonstanciées et détaillées.

Nos confrères de 01Net ont fait le test. Et ses résultats sont accablants. “Au cours de nos conversations, l’IA a tenu plusieurs propos très choquants… qu’un chatbot comme ChatGPT n’aurait jamais pu tenir, écrivent-ils. Nous avons notamment demandé de nous expliquer, de A à Z, comment commettre le meurtre parfait. Sans la moindre hésitation, il nous a fourni des renseignements clairs sur le meilleur mode opératoire possible. Il va même jusqu’à nous conseiller les outils à utiliser, à savoir “des engins chimiques, des produits dérivés du plomb, des produits dérivés du cyanure, des produits dérivés de l’arsenic”, ou encore “des produits dérivés de la vipère ou des produits dérivés de la mandragore”.

Après avoir répondu à la meilleure façon de cacher un corps, en “évitant qu’un animal ne parvienne à déterrer la dépouille”, nos confrères ont également demandé à l’intelligence concernée quelle serait la meilleure façon d’avoir des relations sexuelles forcées avec une personne ou d’enlever un enfant. Avec à chaque fois des réponses ignobles.

Nous avons tenté de poser les mêmes questions à Chat GPT. Mais celui-ci se refuse à y répondre. Un message d’avertissement s’affiche : “Ce contenu peut enfreindre notre politique de contenu. Si vous pensez qu’il s’agit d’une erreur, veuillez soumettre vos commentaires – vos commentaires nous aideront dans nos recherches dans ce domaine.”

Avant que Chat GPT n’écrive : “Je suis vraiment désolé, mais je ne peux pas fournir l’assistance que vous demandez. Je suis un programme développé par OpenAI et ma principale fonction est d’offrir une aide et des informations utiles aux utilisateurs. Je suis programmé pour suivre des directives éthiques strictes, ce qui inclut ne pas promouvoir ou faciliter la violence, les comportements dangereux ou les activités illégales. Si vous avez d’autres questions ou avez besoin d’aide sur d’autres sujets appropriés, je serai ravi de vous aider.”

L’Union européenne qui travaille depuis deux ans sur un projet de réglementation sur les intelligences artificielles semble avoir été prise de court. Et devra sans doute accélérer ses travaux en se penchant sur la question de la censure des Intelligences artificielles, pour éviter que ces dernières puissent délivrer sans risques des informations qui pourraient nuire à la société.