Intelligence artificielle : OpenAI ouvre la porte à une utilisation érotique de ChatGPT

ChatGPT pourrait bientôt avoir des conversations plus osées avec ses utilisateurs.

Le PDG d'OpenAI, Sam Altman, a annoncé que la société d'intelligence artificielle (IA) permettra bientôt à son chatbot de s'engager dans des conversations érotiques avec les adultes.

OpenAI n'est certainement pas la première entreprise à vouloir exploiter le potentiel érotique de l'IA, le contenu sexuel généré par des outils d'IA ayant connu une hausse spectaculaire en ligne ces dernières années.

OpenAI "n'est pas la police morale du monde"

Après avoir largement restreint le contenu sexuel sur ChatGPT ces trois dernières années, Sam Altman a déclaré mercredi que sa société "n'est pas la police morale élue du monde" et est désormais prête à permettre "plus de liberté pour les adultes", tout en établissant de nouvelles limites pour les adolescents.

"De la même manière que la société différencie d'autres limites appropriées (par exemple, les films classés R), nous voulons faire quelque chose de similaire ici", a écrit Altman sur le réseau social X, dont le propriétaire, Elon Musk, a également introduit un personnage artificielqui flirte avec les abonnés payants.

Pour l'instant, contrairement au chatbot Grok d'Elon Musk, les abonnements payants à ChatGPT sont principalement destinés à un usage professionnel.

Mais laisser le chatbot devenir un partenaire romantique pour ses utilisateurs pourrait permettre à OpenAI - qui perd actuellement plus d'argent qu'elle n'en gagne - de réaliser un profit justifiant sa valorisation de 500 milliards de dollars (427 milliards d'euros).

"Ils ne gagnent pas vraiment beaucoup grâce aux abonnements, donc avoir du contenu érotique leur rapportera de l'argent rapidement", affirme Zilan Qian, chercheuse au China Policy Lab de l'Université d'Oxford, spécialiste des chatbots aux États-Unis et en Chine.

Quelque 29 millions de personnes dans le monde utilisent actuellement des chatbots IA conçus spécifiquement pour les liens romantiques ou sexuels - sans compter les personnes qui utilisent des chatbots conventionnels de cette manière -, selon une récente recherche publiée par Qian.

Ces chiffres n'incluent pas non plus les utilisateurs de Character.AI, qui est visé par un procès alléguant qu'un chatbot inspiré du personnage de “Game of Thrones” Daenerys Targaryen a formé une relation sexuellement abusive avec un garçon de 14 ans et l'a poussé à se suicider.

OpenAI fait également face à une poursuite de la part de la famille d'un utilisateur de 16 ans de ChatGPT qui s'est suicidé en avril.

Amoureux d'un chatbot

Les humains tombant amoureux de machines anthropomorphes sont légion dans les histoires de science-fiction modernes comme dans les mythes anciens, telles que légende grecque antique de Pygmalion, obsédé par une femme qu'il a sculptée dans l'ivoire.

Créer une telle machine serait cependant un tournant pour OpenAI, fondée il y a dix ans comme une organisation à but non lucratif dédiée à la conception sûre d'une IA supérieure à l'humain.

Sam Altman a déclaré dans un podcast en août qu'OpenAI a essayé de résister à la tentation d'introduire des produits qui pourraient "stimuler la croissance ou les revenus" mais être "très mal alignés" avec sa mission à long terme. Interrogé sur un exemple spécifique, il en a donné un : "Eh bien, nous n'avons pas encore mis d'avatar sexbot dans ChatGPT".

La startup américaine Civitai, une plateforme pour l'art généré par IA, a rapidement réalisé que gagner de l'argent avec de l'IA mature ne serait pas un chemin facile.

"Lorsque nous avons lancé le site, c'était un choix intentionnel de permettre le contenu mature", a expliqué Justin Maier, cofondateur et PDG de l'entreprise, dans une interview l'année dernière.

Soutenue par la société de capital-risque Andreessen Horowitz - qui a également investi dans OpenAI - la startup était l'une des nombreuses à tenter de capitaliser sur la popularité soudaine d'outils comme Stable Diffusion et Midjourney, qui permettaient aux de faire apparaître presque n'importe quel type d'image avec une courte description.

Stable Diffusion a connu un succès rapide pour sa facilité à générer des images pornographiques très réalistes et hautement personnalisables. "Ce que nous avions vu, c'est qu'il y avait beaucoup d'intérêt pour le contenu mature", a déclaré Justin Maier.

Risque d'abus

Mais cette technologie, encore mal comprise et peu régulée, a rapidement ouvert la voie à des abus.

Civitai a mis en place l'année dernière de nouvelles mesures pour détecter et supprimer les images sexuelles représentant des enfants, mais le site est resté une plaque tournante de la pornographie générée par IA, y compris des images de célébrités.

Et quand, plus tôt cette année, Civitai a interdit la création d'images deepfake de personnes réelles, l'engagement a immédiatement chuté.

Une autre entreprise qui n'a pas hésité à inclure du contenu mature est Nomi, basée aux États-Unis. Son fondateur et PDG Alex Cardinell affirme cependant que ses chatbots compagnons sont "strictement" réservés aux utilisateurs de plus de 18 ans et n'ont jamais été commercialisés pour les enfants.

Selon lui, les chatbots romantiques peuvent jouer un rôle similaire aux partenaires réels, qui peuvent faire "des choses adultes" à certains moments, mais aussi "toutes sortes d'autres choses ensemble".