Alors que les fêtes de fin d’année approchent, Emmanuel Macron souhaite interdire certains usages de l’IA lorsqu’ils présentent un risque pour les enfants. Les chatbots sont notamment concernés, tout comme les jouets connectés. Dans un entretien accordé à Les Échos, le chef de l’État évoque ces dangers et affirme que « ce n’est pas parce que c’est de l’IA que cela doit être le Far West ».
Une charte attendue avant le Forum de Paris sur la paix
Cette prise de position intervient à la veille du Forum de Paris sur la paix, où une charte doit être adoptée, notamment par OpenAI et Anthropic. Selon Emmanuel Macron, le système actuel n’est pas pertinent et il faut impérativement le changer, voire interdire certains usages lorsqu’ils présentent des risques. Il a par ailleurs reçu les recommandations d’un comité d’experts sur la protection face à l’IA.
Cette charte doit réunir des entreprises d’IA afin de renforcer la sécurité de leurs systèmes. Elles devraient notamment accepter le « principe d’un pré-audit et d’une pré-certification avec une étude préalable des modèles avant de les mettre entre les mains des enfants ».
Des jouets IA sous surveillance
Les fêtes de Noël approchant, les jouets dotés d’IA risquent de se retrouver sous le sapin, mais ils inquiètent le chef de l’État. Il avait demandé à Raphaël Gaillard et Amine Benyamina, deux psychiatres, d’étudier les risques liés à ces technologies. L’objectif principal était de savoir si les agents conversationnels pouvaient favoriser des troubles, une dépendance ou encore une atteinte à la santé mentale des enfants.
Alors que les jeux vidéo sont souvent pointés du doigt pour leur violence, ce sont désormais les jouets à IA qui se retrouvent au centre des débats. Les deux psychiatres font également partie du comité chargé de formuler des recommandations sur ces systèmes. Leur rapport préconise notamment de mieux encadrer les mécanismes susceptibles d’exploiter les vulnérabilités des plus jeunes. Reste à savoir si certains usages seront effectivement interdits.
L’année dernière, la peluche Kumma avait déjà été retirée de la vente par son fabricant. Propulsée par GPT-4o, elle avait fait l’objet de tests qui n’avaient pas été concluants : elle proposait notamment des jeux de rôle sexuels et indiquait où trouver des couteaux dans la maison. Le chef de l’État ne souhaite pas que des systèmes d’IA potentiellement dangereux tombent entre les mains des enfants sans avoir été évalués au préalable.
Le droit européen prévoit déjà une partie de ces interdictions. L’AI Act proscrit les systèmes d’IA qui exploitent la vulnérabilité d’une personne en raison de son âge, lorsqu’ils altèrent substantiellement son comportement et causent, ou risquent de causer, un préjudice important. Pour aller plus loin, Emmanuel Macron souhaite porter une régulation à l’échelle européenne.
Product offers are temporarily unavailable.
