PlayStation : Sony prépare des IA qui se font passer pour des enfants de 12 ans
Imaginez un joueur de 12 ans sur PlayStation. Il reçoit un message d’un inconnu qui tente de l’attirer en privé. Sauf que ce « joueur de 12 ans » n’existe pas : c’est une IA déployée par Sony pour repérer les prédateurs avant qu’ils n’atteignent de vraies victimes.
Le principe ressemble à une opération d’infiltration policière, transposée dans l’univers du jeu vidéo. Un brevet Sony publié cette semaine décrit un système de comptes leurres pilotés par intelligence artificielle, conçus pour attirer et identifier les utilisateurs malveillants sur le réseau PlayStation. Alors que Sony prépare activement la PS6, la firme montre qu’elle ne mise pas uniquement sur la puissance graphique pour l’avenir de sa plateforme.
Crédit image : Sony
Des comptes IA qui imitent des enfants : comment ça marche
Le brevet déposé par Sony Interactive Entertainment sous le numéro 18/314775 décrit un mécanisme aussi ingénieux que dérangeant. La firme japonaise prévoit de créer des « pseudo-comptes » pilotés par un grand modèle de langage (LLM) de type GPT, capables d’imiter le comportement en ligne d’un mineur. Ces comptes leurres reproduisent les habitudes de messagerie, le vocabulaire et les réactions typiques d’un jeune joueur, tout en paraissant parfaitement authentiques aux yeux d’un utilisateur malveillant.
Le document est explicite : « Un pseudo-compte est configuré pour imiter le comportement de messagerie démographique d’une victime potentielle tout en semblant totalement légitime aux yeux d’un utilisateur antisocial. Cela peut impliquer l’imitation du comportement de messagerie de mineurs et la présentation de ce comportement là où les utilisateurs antisociaux le recherchent. » L’IA ne se contente donc pas d’attendre passivement : elle se positionne là où les prédateurs cherchent leurs cibles. Une approche proactive qui tranche avec le modèle classique, où les plateformes ne réagissent qu’après un signalement — souvent trop tard.
Un système de flagging qui surveille sans bannir
L’un des aspects les plus intéressants de ce brevet tient à sa philosophie de modération. Sony ne cherche pas à punir immédiatement un utilisateur qui interagirait avec un compte leurre. Le système analyse la nature des échanges pour déterminer si le comportement est réellement suspect, puis « flag » le compte en interne. Cette surveillance progressive évite les faux positifs tout en construisant un dossier comportemental sur les utilisateurs potentiellement dangereux.
Concrètement, l’IA scrute six types de comportements suspects lors des interactions :
- Les tentatives de déplacer la conversation vers un canal privé
- Les demandes d’informations personnelles
- Les prises de contact ciblant spécifiquement des profils de mineurs
- L’envoi de messages inappropriés
- Les tentatives d’arnaque
- Les comportements liés à la triche
Lorsqu’un compte flaggé tente ensuite d’approcher un véritable joueur, le système peut intervenir en amont — par un avertissement ou une protection active — avant même que la moindre interaction nuisible n’ait lieu. Le renversement de paradigme est total : au lieu de compter sur un enfant de 12 ans pour signaler un adulte au comportement suspect, c’est la plateforme qui identifie la menace avant qu’elle ne frappe.
Au-delà des prédateurs : scammers et tricheurs aussi dans le viseur
Si la protection des mineurs constitue l’aspect le plus marquant du brevet, Sony voit bien plus large. Le système de pseudo-comptes cible l’ensemble des comportements « antisociaux » qui gangrènent les communautés en ligne. Les arnaques, le spam et la triche figurent explicitement dans le document, et malgré les défis techniques de la prochaine génération, Sony semble déterminé à faire de la modération intelligente un pilier de son écosystème.
On imagine aisément des comptes leurres se faisant passer pour des joueurs naïfs afin de piéger les vendeurs de monnaie virtuelle frauduleuse, ou des profils appâts détectant les logiciels de triche via des comportements anormaux en jeu. L’approche est modulable, et c’est précisément ce qui la rend prometteuse pour assainir durablement l’expérience multijoueur sur PlayStation.
Un brevet ne fait pas une fonctionnalité : faut-il y croire ?
Tempérons l’enthousiasme. Sony, comme tous les géants de la tech, dépose régulièrement des brevets qui ne voient jamais le jour. Des dizaines d’idées brevetées — du contrôleur modulaire à écran tactile aux systèmes de rétroaction haptique avancée — dorment dans les tiroirs sans jamais atteindre la production. Ce brevet pourrait très bien connaître le même sort.
Le timing et le niveau de détail du document suggèrent toutefois que Sony prend la question au sérieux. Déployer un tel système soulèverait toutefois des questions éthiques majeures : jusqu’où une entreprise privée peut-elle aller dans la surveillance proactive de ses utilisateurs ? L’utilisation de leurres IA, même à des fins de protection, ouvre un débat sur la vie privée qui dépasse largement le cadre du jeu vidéo.
Entre innovation sécuritaire et surveillance algorithmique, Sony marche sur une ligne de crête. Si ce brevet se concrétise un jour sur le réseau PlayStation, il pourrait redéfinir les standards de modération dans toute l’industrie — à condition que le débat éthique soit mené avec autant de soin que la technologie elle-même.
