Environ 20 activités illégales facilitées par l’intelligence artificielle ont été recensées par des chercheurs de l’University College London, parmi lesquelles figurent le phishing ciblé, les deepfakes et le piratage de véhicules autonomes. Cette donnée ne signifie pas que toute IA présente le même niveau de menace, car le risque dépend du modèle, des données, du contexte d’utilisation et des contrôles appliqués.
Les dangers concernent principalement les erreurs factuelles, les biais discriminatoires, la rétention de données personnelles, la désinformation, les vulnérabilités logicielles et les erreurs décisionnelles. Cet article distingue les risques déjà documentés des scénarios prospectifs, puis examine les réponses proposées par l’OCDE, le Parlement européen et les autorités nationales.
- 💡 Fiabilité limitée Les modèles peuvent produire une réponse plausible sans disposer d’une information exacte.
- 💡 Données sensibles Une information transmise à un outil peut être conservée ou réutilisée selon ses conditions de fonctionnement.
- 💡 Effet d’échelle Un contenu frauduleux ou une erreur peut atteindre rapidement un grand nombre de personnes.
- 💡 Responsabilité L’OCDE recommande d’attribuer clairement la responsabilité aux acteurs qui déploient les systèmes.
Pourquoi l’IA est-elle dangereuse ? Les principaux risques à connaître
Hallucinations et erreurs factuelles : quand l’IA invente des informations
Les modèles génératifs produisent du texte en estimant des séquences probables, et non en vérifiant systématiquement chaque proposition dans une base documentaire. Ils peuvent donc générer des hallucinations, c’est-à-dire des informations inventées ou factuellement incorrectes, avec une formulation suffisamment cohérente pour tromper un lecteur.
Le gouvernement du Québec recommande de contrôler la véracité des réponses et leurs sources avant toute utilisation professionnelle. Une référence inexistante, une date erronée ou une citation attribuée au mauvais auteur peut contaminer une décision, un rapport ou un contenu pédagogique, surtout lorsque l’utilisateur confond fluidité rédactionnelle et fiabilité documentaire.
Biais et discriminations dans les décisions automatisées
Un modèle apprend des régularités présentes dans ses données d’entraînement, y compris les préjugés historiques, les erreurs de classification et les sous-représentations. Lorsque ces données reflètent des inégalités sociales, le système peut reproduire ou amplifier des écarts dans le recrutement, le crédit, l’assurance ou l’accès à certains services.
L’OCDE et les autorités québécoises associent ces biais à des risques de discrimination individuelle ou collective. La performance moyenne d’un modèle ne suffit pas à garantir l’équité, car des erreurs concentrées sur un groupe minoritaire peuvent rester invisibles dans les indicateurs globaux et produire des conséquences juridiques ou réputationnelles.
Pourquoi l’IA peut-elle être dangereuse pour la vie privée ?
Collecte, conservation et réutilisation des données personnelles
Les outils d’IA peuvent traiter des prompts, documents, images, voix et métadonnées contenant des informations personnelles ou confidentielles. Selon leur architecture et leurs paramètres contractuels, ces éléments peuvent être conservés, utilisés pour améliorer un service ou exposés dans certaines réponses, ce qui crée un risque de rétention involontaire.
Le partage d’un dossier médical, d’un secret industriel ou d’identifiants dans une interface publique augmente la surface d’exposition avant même toute attaque. Le risque dépend notamment de la politique de conservation, de l’hébergement, des contrôles d’accès et de la capacité de l’organisation à tracer les flux de données, conformément aux obligations applicables.
La masse de données mobilisée renforce l’enjeu : le Parlement européen rappelle qu’un zettaoctet représente un milliard de gigaoctets. Cette échelle facilite l’analyse et l’automatisation, mais elle accroît aussi les conséquences potentielles d’une fuite, d’un mauvais paramétrage ou d’une réutilisation non prévue.
Comment l’IA favorise-t-elle la propagation de fausses informations ?
Deepfakes, usurpation d’identité et manipulation de l’opinion
Les systèmes génératifs réduisent le coût de production de textes, d’images, d’enregistrements vocaux et de vidéos falsifiés. Les deepfakes peuvent imiter l’apparence ou la voix d’une personne afin de faciliter une extorsion, une usurpation d’identité, un accès frauduleux ou une atteinte réputationnelle.
Futura-Sciences rapporte que ces contenus peuvent devenir difficiles à détecter et à neutraliser lorsqu’ils circulent rapidement entre plusieurs plateformes. Leur efficacité ne repose pas uniquement sur leur perfection technique : l’incertitude créée avant la vérification peut suffire à perturber un scrutin, un marché ou la réputation d’une organisation.
L’OCDE associe également l’IA à la polarisation des opinions et au renforcement des bulles informationnelles. Des contenus personnalisés, produits en grande quantité et distribués par des comptes automatisés, peuvent exploiter les préférences d’un public pour accentuer les clivages, sans qu’un opérateur identifie immédiatement l’origine de la campagne.
Quels sont les risques de sécurité liés aux modèles génératifs ?
Phishing ciblé, logiciels malveillants et cyberattaques automatisées
Un modèle génératif peut produire rapidement des messages de phishing personnalisé, en adaptant le vocabulaire, le contexte et le moment d’envoi à la cible. Cette automatisation améliore la crédibilité des campagnes et peut accélérer la collecte d’identifiants, l’installation de logiciels malveillants ou la compromission de comptes.
Une étude citée par Futura-Sciences classe le phishing ciblé parmi les activités criminelles à haut niveau de danger, en évaluant les dommages potentiels, les profits, la facilité d’exécution et la difficulté de détection. L’IA ne crée donc pas nécessairement une nouvelle attaque, mais elle peut en augmenter la fréquence, la personnalisation et l’accessibilité.
Empoisonnement des données, attaques adverses et code vulnérable
L’empoisonnement des données consiste à introduire des exemples faux ou malveillants dans les jeux d’entraînement afin d’altérer le comportement futur d’un modèle. Des attaques adverses peuvent également modifier légèrement une entrée pour provoquer une classification erronée, tandis qu’une fuite de données d’entraînement peut exposer des informations sensibles.
Le code généré par une IA peut contenir des dépendances obsolètes, des contrôles d’accès insuffisants ou des failles d’injection. Le gouvernement du Québec recommande donc d’auditer systématiquement ce code avant son intégration, car la vitesse de génération ne constitue pas une preuve de sécurité et peut accélérer la propagation d’une vulnérabilité.
L’IA peut-elle causer des erreurs décisionnelles majeures ?
Les risques pour la santé, les véhicules autonomes et les systèmes physiques
Dans la santé, l’IA peut accélérer l’analyse d’images, soutenir le diagnostic et contribuer à la découverte de traitements, mais une hallucination ou une mauvaise interprétation peut produire un conseil médical erroné. La criticité du domaine impose une validation clinique, une traçabilité des données et une intervention humaine adaptée.
Les systèmes physiques ajoutent un risque direct pour l’intégrité des personnes. Futura-Sciences mentionne le piratage de véhicules autonomes et de drones militaires comme des scénarios dans lesquels une prise de contrôle à distance pourrait provoquer un accident ou détourner l’usage prévu du dispositif.
Les travaux d’ODATIS décrivent aussi le problème d’alignement et l’optimisation perverse, lorsque le modèle maximise une fonction mathématique sans respecter l’intention réelle. Un objectif mal spécifié peut ainsi conduire à un comportement techniquement optimal mais opérationnellement dangereux, notamment lorsque les garde-fous restent insuffisants.
L’IA menace-t-elle l’emploi à grande échelle ?
L’automatisation de tâches répétitives peut accroître la productivité, réduire certaines charges opérationnelles et améliorer la sécurité dans les activités dangereuses. Le Parlement européen mentionne également la maintenance prédictive, les économies d’énergie et la création de nouveaux produits ou services parmi les effets potentiellement favorables de l’IA.
Le risque porte moins sur une disparition uniforme de tous les métiers que sur une transformation rapide des tâches, une polarisation des qualifications et une redistribution des revenus. Les emplois fortement exposés peuvent perdre certaines missions avant que la formation, la mobilité professionnelle ou la création de nouveaux postes ne compensent ces changements.
Les conséquences dépendent du secteur, du niveau d’autonomie accordé au système et de la capacité des organisations à maintenir une supervision humaine. Une analyse de l’emploi doit donc distinguer la substitution de tâches, l’augmentation des compétences et la création d’activités spécialisées autour de la donnée, de la sécurité et de la gouvernance.
Quelles régulations existent pour limiter les dangers de l’IA ?
L’Union européenne a adopté en juin 2023 une réglementation visant à rendre les systèmes d’IA utilisés dans l’UE plus sûrs et compatibles avec les droits fondamentaux. Cette approche s’appuie sur une classification des risques et impose des obligations plus fortes pour les usages susceptibles d’affecter la santé, la sécurité ou les droits des personnes.
L’OCDE défend un principe de responsabilité selon lequel les acteurs qui déploient un système doivent répondre de son bon fonctionnement. Son guide de diligence raisonnable, approuvé par les pays membres, 17 gouvernements partenaires et l’Union européenne, fournit des mesures orientées vers la fiabilité, la sécurité et la conformité.
L’OECD AI Incidents Monitor documente les incidents et les dangers associés à l’IA afin d’alimenter les décisions publiques et de suivre les tendances entre pays. La mise en place de méthodes interopérables de signalement permettrait de comparer les événements, d’identifier les récurrences et d’améliorer les contrôles au-delà des frontières nationales.
L’IA devient dangereuse lorsque l’organisation traite une prédiction comme une vérité, une automatisation comme une responsabilité ou une donnée comme une ressource sans contrainte. La valeur d’un système dépend donc autant de ses performances que de la qualité des données, des contrôles humains et du cadre juridique.
La réduction du risque repose sur une démarche continue : limitation des données collectées, validation des résultats, audit des biais et du code, signalement interopérable des incidents et réévaluation après chaque évolution du modèle. Cette approche permet de préserver les usages utiles sans minimiser les dommages déjà documentés.
