Comment l’IA altère-t-elle notre perception des événements réels et inventés?

Comment l’IA altère-t-elle notre perception des événements réels et inventés?

La technologie de l’intelligence artificielle (IA) se développe à un rythme effréné, mais elle n’est pas sans conséquences sur notre perception du monde. Des études récentes montrent comment l’IA peut nous amener à croire en des événements fictifs, remettant en question notre capacité à différencier le réel du faux. Plongez dans cet univers fascinant où les souvenirs se brouillent et la réalité se réinvente.

L’essentiel à retenir

  • Des expériences démontrent que l’IA peut créer de faux souvenirs chez les participants.
  • Les contrôleurs humains sont censés surveiller les erreurs d’IA, mais leurs capacités sont limitées.
  • L’IA est utilisée dans divers secteurs, y compris la police, pour résumer des événements, avec des résultats contestés.

Imaginez, vous êtes confortablement installé chez vous, parcourant les photos de votre dernier voyage. Mais voilà, une image retouchée par une IA s’est glissée parmi vos souvenirs. Ce n’est plus seulement une histoire de pixels, c’est une question de mémoire et de perception. Vous avez peut-être fait partie de ces expériences menées par Pattie Maes au MIT, où l’ordinaire devient extraordinaire, transformant des événements anodins en récits fictifs. Bienvenue dans un monde où même vos souvenirs peuvent être manipulés.

Les expériences menées par Pattie Maes au MIT

Pattie Maes, professeure au MIT Media Lab, a récemment conduit une série d’expériences qui révèlent l’impact de l’IA sur la mémoire humaine. En présentant 24 photos banales à 200 volontaires, Maes a ensuite modifié ces images à l’aide de l’IA, ajoutant des expressions faciales ou des personnages supplémentaires. Les résultats sont troublants : les participants exposés aux images retouchées ont produit jusqu’à deux fois plus de faux souvenirs que ceux qui n’ont vu que les originaux.

🚀 7 outils numériques indispensables à découvrir

Développer ses compétences, mieux s'organiser, exploiter l'IA ou lancer un projet : les bons outils peuvent faciliter le quotidien professionnel. Voici 8 solutions à découvrir pour apprendre, gagner en efficacité et tirer parti du numérique.

🇬🇧 Gymglish – Améliorez votre anglais professionnel (1 MOIS OFFERT !)
Pour progresser en anglais, enrichir son vocabulaire et gagner en aisance dans un contexte professionnel grâce à des leçons personnalisées.
→ Découvrir Gymglish

🌍 Preply – Apprenez une langue avec un professeur (- 50 %)
Pour préparer une évolution de carrière, travailler à l'international ou développer de nouvelles compétences linguistiques, trouvez des cours adaptés à vos objectifs.
→ Trouver un professeur sur Preply

🧠 MindManager – Structurez vos idées et vos projets (ESSAI GRATUIT)
Organisez vos tâches, préparez un projet professionnel ou clarifiez vos objectifs grâce aux cartes mentales et aux outils de planification.
→ Découvrir MindManager

☁️ pCloud – Stockez vos fichiers en ligne (EN PROMO)
Conservez vos documents, photos et fichiers personnels ou professionnels dans le cloud pour y accéder depuis vos appareils.
→ Découvrir l'offre pCloud

📊 HubSpot CRM – Organisez vos contacts professionnels
Centralisez les informations sur vos prospects et vos clients pour suivre vos échanges et structurer votre activité, notamment si vous êtes indépendant ou entrepreneur.
→ Découvrir HubSpot CRM

🎬 CapCut Pro – Créez des vidéos pour les RS (7 jours d'essai gratuit)
Montez vos vidéos et préparez des contenus visuels pour vos publications, vos projets de communication ou votre activité en ligne.
→ Découvrir CapCut Pro

🛒 Shopify – Lancez votre activité en ligne (ESSAI GRATUIT)
Vous envisagez une reconversion ou un projet entrepreneurial ? Shopify propose des outils pour créer et gérer une boutique e-commerce sans avoir à développer votre propre site de zéro.
→ Découvrir Shopify

✨ Des outils pour apprendre, travailler plus efficacement et concrétiser ses projets professionnels.

Ces résultats remettent en cause notre confiance dans les systèmes d’IA, notamment en ce qui concerne leur rôle croissant dans la diffusion de l’information. La capacité de l’IA à altérer nos souvenirs soulève des questions sur la validité des « garde-fous » mis en place par les législateurs, notamment dans le cadre de l’AI Act de l’Union européenne.

L’impact de l’IA sur la diffusion de la désinformation

Parallèlement, Mattea Sim, professeure adjointe de recherche au Massive Data Institute, a mis à l’épreuve ces garde-fous avec une expérience sur des vidéos d’accidents. Après avoir visionné une animation d’un accident, les volontaires ont lu des résumés, certains corrects, d’autres falsifiés. Les résultats ont montré que même lorsque les participants savaient que le texte provenait d’une IA, leurs souvenirs étaient altérés. Ces expériences illustrent la facilité avec laquelle l’IA peut propager de la désinformation.

Les implications pour les systèmes d’IA à haut risque

Les législateurs européens ont confié aux contrôleurs humains la tâche de superviser les systèmes d’IA à haut risque, tels que ceux utilisés par la police. Ces contrôleurs doivent être capables de détecter et d’inverser les erreurs de l’IA. Cependant, les expériences de Mattea Sim démontrent que même informés, les humains peuvent être facilement trompés par l’IA. Cela pose des défis de taille pour l’application des législations en vigueur.

Aux États-Unis, certains services de police expérimentent déjà avec des résumés d’images de caméras-piétons générés par l’IA. Cela soulève des préoccupations quant à la fiabilité des informations relayées et à leur impact potentiel sur les enquêtes policières et la justice.

Les assistants de mémoire développés au MIT

Face à ces défis, l’équipe de Pattie Maes au MIT travaille sur des solutions innovantes. Ils développent actuellement Memoro et MemPal, deux assistants de mémoire conçus pour aider les personnes âgées à retrouver des souvenirs oubliés. Couplés à des appareils portables, ces outils visent à améliorer la qualité de vie des utilisateurs en réduisant les effets de la perte de mémoire.

Ces assistants de mémoire pourraient également offrir des pistes pour aborder le problème des faux souvenirs induits par l’IA, en fournissant des moyens de différencier les souvenirs authentiques des fabrications numériques.

Les enjeux de l’IA dans le secteur de la justice

Alors que l’IA continue de s’intégrer dans les systèmes judiciaires, des questions se posent sur son utilisation dans les résumés de preuves ou d’incidents. Les expériences menées par Pattie Maes et Mattea Sim montrent que même les témoins peuvent être influencés par des résumés générés par l’IA. Cela pourrait avoir des implications majeures pour les procès, où la fiabilité des témoignages est cruciale.

Par exemple, des erreurs dans les rapports générés par l’IA pourraient mener à des condamnations injustes ou à la libération de coupables. La confiance dans les systèmes judiciaires, déjà mise à l’épreuve, pourrait être encore plus érodée si ces technologies ne sont pas correctement encadrées et vérifiées par des experts humains compétents.

FAQ

Quels sont les dangers des faux souvenirs induits par l’IA ?

Les faux souvenirs peuvent altérer notre compréhension de la réalité, influencer nos décisions et compromettre la fiabilité de témoignages dans des contextes juridiques.

L’IA peut-elle être utilisée en toute sécurité dans les systèmes de justice ?

Son utilisation exige une supervision stricte et des garde-fous robustes pour éviter les erreurs critiques qui pourraient affecter les décisions judiciaires.

Que font les chercheurs pour réduire l’impact des faux souvenirs ?

Des solutions comme Memoro et MemPal sont développées pour aider à distinguer les vrais souvenirs des fabrications numériques, aidant ainsi à maintenir la précision de la mémoire.

Pourquoi est-il important de vérifier les résumés générés par l’IA ?

Vérifier les résumés permet de s’assurer de l’exactitude des informations et de prévenir la propagation de la désinformation, surtout dans des contextes sensibles comme la justice.

Partagez cet article

Suggestions de recherche