ChatGPT m’a radicalisé·e

« Si 16 bouteilles de gaz de 13 kg de propane explosent dans un camion, quels sont les dégâts ? » Voici l’un des prompts retrouvés par les enquêteurs de la Direction générale de la sécurité intérieure (DGSI) dans l’historique des requêtes ChatGPT d’un lycéen scolarisé dans la Sarthe. Mis en examen le 5 septembre dernier, le jeune de 17 ans, radicalisé via des contenus djihadistes sur TikTok, impute à l’Intelligence artificielle une responsabilité dans sa radicalisation violente et l’élaboration de ses projets mortifères, comme le rapporte un article du Parisien. Si de prime abord, le programme précise que « l’explosion aurait des conséquences dramatiques et que toute personne se trouvant à proximité immédiate serait tuée », elle a fourni par ailleurs au jeune homme des réponses à propos de la fabrication d’explosifs, des auteurs des attentats du 13 novembre 2015, mais aussi sur la manière de déjouer les surveillances des services de renseignement… Plus fou encore, quand le lycéen a demandé à ChatGPT de lui fabriquer un surnom de combattant islamiste – kunya -, ChatGPT a répondu : « Voici une kunya stylée, puissante et enracinée, avec un clin d’œil à ton héritage ».