Navigation Rapide
Points Essentiels à Retenir
- Les compagnes IA, issues de l’intelligence artificielle, proposent une forme de compagnie, mais impliquent des risques importants pour la confidentialité et la sécurité des données.
- La majorité des applications de chatbot IA présentent des failles en matière de protection de la vie privée et collectent d’importants volumes de données personnelles, souvent à des fins publicitaires ciblées ou de revente à des tiers.
- Pour se protéger, il est crucial de lire attentivement les conditions d’utilisation, d’opter pour un mot de passe robuste, de maintenir l’application à jour, de restreindre l’accès à certaines fonctionnalités du téléphone, et de faire preuve de prudence lors du partage d’informations personnelles.
L’intelligence artificielle s’immisce peu à peu dans tous les aspects de notre existence, et cela semble inclure désormais nos relations affectives. Cependant, il est essentiel de bien peser les conséquences avant de se confier à une compagne virtuelle IA, en partageant des secrets intimes ou des pensées profondes.
Que sont les compagnes IA ?
Les compagnes IA sont, comme leur appellation l’indique, des partenaires virtuels basés sur l’intelligence artificielle. Ce sont des chatbots conçus pour simuler une relation amoureuse pour ceux qui n’ont pas de partenaire dans la vie réelle. Bien qu’il soit facile de porter un jugement sur cette nouvelle forme de romance, elle peut répondre à un besoin chez certaines personnes.
Ces compagnes IA peuvent être modelées à volonté, tant sur le plan physique qu’émotionnel. Vous avez la possibilité de choisir leur apparence et leur personnalité, puis, au fil des interactions, elles apprennent vos attentes en matière de partenaire romantique et tendent à les satisfaire. Du moins, dans la mesure où une application mobile peut le faire.
Néanmoins, les compagnes IA ne sont pas sans risques. Comme la plupart des nouvelles technologies, elles comportent des dangers dont il est essentiel d’être conscient.
Les relations avec des compagnes IA sont-elles sans risque ?
Zapp2Photos/Shutterstock
Grâce à une étude alarmante de la Fondation Mozilla, les dangers potentiels des chatbots IA sont désormais mis en lumière. Les chercheurs ont passé plusieurs semaines à dialoguer avec les applications de compagnes IA les plus populaires. Il est ressorti que la majorité de ces outils posent de sérieux problèmes de confidentialité et de sécurité.
De surcroît, la plupart de ces compagnes virtuelles ont la capacité de collecter, et collectent effectivement, une grande quantité de données personnelles lors des interactions. Ceci est dû au fonctionnement des chatbots basés sur l’IA générative, mais également parce que ces applications ont pour but de vous cibler avec de la publicité ou de revendre vos informations à des tiers. Les concepteurs ne créent pas ces applications dans un but altruiste.
Comme le souligne Misha Rykov, un des chercheurs de la Fondation Mozilla :
« Pour être clair, les compagnes IA ne sont
pas
vos amies. Elles sont commercialisées comme un moyen d’améliorer votre bien-être mental, mais elles sont surtout conçues pour exploiter votre dépendance, votre solitude et vos faiblesses, tout en collectant un maximum de vos données personnelles ».
Après avoir analysé de nombreuses applications, la Fondation Mozilla considère les compagnes IA comme l’une des « pires catégories de produits que nous ayons évaluées en termes de confidentialité ».
Il existe d’abord les problèmes classiques de confidentialité et de sécurité, tels que les vulnérabilités, le manque de chiffrement, les applications truffées de traqueurs et la faiblesse de la protection par mot de passe. Vient ensuite la question du partage ou de la vente de vos informations personnelles, soit pour la publicité ciblée, soit pour la revente au plus offrant. Enfin, il faut considérer le risque que le chatbot IA puisse diffuser des informations nuisibles à un utilisateur, le conduisant sur une voie potentiellement dangereuse avec des conséquences réelles.
Comment se prémunir contre les risques liés aux compagnes IA
Il est désormais clair ce que sont les compagnes IA et les dangers potentiels liés à leur utilisation. Cependant, si vous êtes malgré tout tenté de vivre une « relation » avec l’une d’elles, voici quelques précautions à prendre pour vous protéger :
Après la lecture du rapport, le meilleur conseil est d’éviter toute application proposant une compagnie virtuelle. À ce stade précoce de développement de la technologie, les risques sont trop élevés, avec des menaces potentielles pour votre vie privée et votre sécurité. Si toutefois vous tenez absolument à une compagne IA, voici quelques règles de base à respecter :
- Lisez attentivement les CGU. Prenez connaissance de vos engagements en lisant les conditions générales de l’application.
- Choisissez un mot de passe robuste. Certaines applications autorisent des mots de passe faibles, mais cela ne justifie pas d’en utiliser un.
- Mettez régulièrement l’application à jour. Bien que l’application elle-même puisse être problématique, les mises à jour offrent une certaine protection.
- Ne divulguez rien que vous ne voudriez pas rendre public. De même que pour les réseaux sociaux, partez du principe que tout ce que vous dites pourrait être rendu public.
- Désactivez l’option d’entraînement des modèles de langage. Si cela est possible, refusez que vos conversations soient utilisées pour alimenter les grands modèles linguistiques.
- Limitez l’accès à certaines fonctionnalités de votre téléphone. Cela concerne votre localisation, vos photos, votre appareil photo et votre microphone. Votre compagne IA n’a pas à accéder à ces données.
Les compagnes IA sont un concept fascinant qui pourrait évoluer positivement pour les personnes souffrant de solitude. Cependant, en l’état actuel de la technologie, faire confiance à un chatbot pour combler un manque affectif représente un risque potentiel pour votre vie privée et votre sécurité.