Un adolescent de Floride arrêté après avoir demandé à ChatGPT comment tuer son ami

Un adolescent américain de 13 ans a été arrêté après avoir demandé à ChatGPT "comment tuer [son] ami en plein cours". Une recherche immédiatement signalée par le système Gaggle de surveillance de l'IA, qui a envoyé une alerte à l'officier de police chargé de la protection du campus.

Selon la chaîne locale NBC WFLA, le policier a pu appréhender l'élève de la Southwestern Middle School de DeLand, à une heure au nord d'Orlando. L'adolescent a affirmé qu'il ne faisait que "plaisanter" avec son ami, mais il a été placé en garde à vue.

Des images circulant sur les réseaux sociaux montre l'adolescent descendre de la voiture de police, menotté.

Les autorités ont demandé aux parents de surveiller les conversations que peuvent avoir leurs enfants sur Chat GPT, soulignant qu'une "blague peut se transformer en une urgence".

Malgré son efficacité dans la détection précoce des comportements inquiétants, le système Gaggle a été critiqué pour le nombre de fausses alertes. On lui a également reproché de favoriser un environnement semblable à celui d'un État de surveillance dans les écoles, ce qui soulève des questions sur l'équilibre entre la sécurité des élèves et le respect de la vie privée.

Les fusillades dans les écoles américaines sont régulières. En août, deux enfants de 8 et 10 ans ont été tués dans une attaque qui en a blessé dix-sept autres.