Quelles sont les situations où l'intelligence artificielle fait le plus d'erreurs : les frontières de l'apprentissage automatique

Introduction : La nature des erreurs de l'IA comme phénomène systémique

Les erreurs des systèmes d'intelligence artificielle (IA) basés sur l'apprentissage automatique (ML) ne sont pas des pannes accidentelles, mais des conséquences régulières de leur architecture, de leur mode d'apprentissage et de leur différence fondamentale avec la cognition humaine. Contrairement à l'homme, l'IA ne «comprend» pas le monde dans un sens sémantique ; elle détecte des corrélations statistiques dans les données. Ses erreurs se produisent là où ces corrélations sont perturbées, où des raisonnements abstraits, du bon sens ou une compréhension du contexte sont nécessaires. L'analyse de ces erreurs est crucial pour évaluer la fiabilité de l'IA et déterminer les limites de son application.

1. Le problème de biais des données (Data Bias) et les «lois de Garbage In, Garbage Out

La cause la plus courante et la plus dangereuse des erreurs est le biais dans les données d'entraînement. L'IA apprend et renforce les préjugés existants dans les données.

Irrégularités démographiques : Un cas célèbre avec un système de reconnaissance faciale qui montrait une précision beaucoup plus élevée pour les hommes blancs que pour les femmes noires, car il avait été entraîné sur un ensemble de données disproportionné. Ici, l'IA ne «s'est pas trompée», mais a simplement reproduit le déséquilibre du monde réel, ce qui a conduit à une erreur d'application dans un environnement diversifié.

Irrégularités sémantiques : Si, dans les données d'entraînement pour un modèle de texte, l'expression «infirmière» est souvent associée au pronom «elle», et «programmeur» au pronom «il», le modèle générera des textes reproduisant ces stéréotypes de genre, même si le genre n'est pas indiqué dans la requête. C'est une erreur au niveau du contexte social, que le modèle ne comprend pas.

Fait intéressant : Dans les sciences informatiques, le principe de «Garbage In, Garbage Out» (GIGO) — «mусor на входе, мусор на выходе» — est en vigueur. Pour l'IA, il s'est transformé en un principe plus profond «Bias In, Bias Out» — «biais sur l'entrée, biais sur la sortie». Le système ne peut pas surmonter les limitations des données sur lesquelles il a été formé.

2. Les attaques adversaires : le hacking pour l'IA

Ce sont des modifications préalables et souvent invisibles des données d'entrée qui conduisent à des conclusions complètement erronées de l'IA.

Exemple avec une image : Une étiquette de quelques pixels d'une couleur et d'une forme spécifiques sur un panneau STOP peut faire classer un système de vision par ordinateur autonome comme un panneau de limitation de vitesse. Pour l'homme, le panonceau reste évidemment reconnaissable.

Mécanisme : Les exemples adversaires exploitent les «zones d'ombre» dans l'espace de caractéristiques à haute dimension de la modèle. L'IA perçoit le monde pas comme des objets entiers, mais comme un ensemble de schémas statistiques. Une «gêne» minime mais stratégiquement correcte déplace le point de données dans l'espace des caractéristiques à travers la frontière de la solution du modèle, changeant la classification.

3. Problèmes de généralisation et «monde dans une boîte

L'IA, en particulier les réseaux de neurones profonds, a tendance à s'overfitter — ils retiennent non les lois générales, mais les exemples spécifiques de l'échantillon d'entraînement, y compris le bruit.

Erreurs sur des données d'un autre distribution : Un modèle formé sur des photos de chiens et de chats prises dans des conditions domestiques la journée peut complètement perdre sa précision si on lui donne une image infrarouge nocturne ou un dessin animé. Il n'a pas perçu l'abstraction du concept de «chatitude», mais a appris à réagir aux motifs spécifiques des pixels.

Absence de bon sens : Un exemple classique : L'IA peut décrire correctement la scène «un homme assis sur un cheval dans le désert», mais générer une phrase «un homme tient une balle de baseball» en s'asseyant sur un cheval, car une balle de baseball a pu apparaître dans le contexte du sport en plein air dans les données. Il ne dispose pas de la logique physique et causale du monde.

4. Traitement du contexte et de l'ironie