L’intelligence artificielle regroupe des méthodes conçues pour accomplir des tâches qui mobilisent habituellement perception, langage, prévision ou décision. Cette catégorie est très large : un système de recommandation, un modèle de reconnaissance d’images et un assistant conversationnel ne fonctionnent pas de la même manière et ne présentent pas les mêmes risques.

Le terme intelligence peut tromper. Un système peut dépasser un humain sur une tâche étroite sans comprendre le monde comme une personne. Il transforme des entrées en sorties selon une architecture, des paramètres appris et un objectif défini. La qualité dépend donc de la tâche, des données, de l’évaluation et du contexte d’utilisation.

Pour analyser un outil, il faut demander ce qu’il reçoit, ce qu’il produit, comment sa performance est mesurée et qui assume la décision finale. Une démonstration impressionnante ne suffit pas à établir son utilité dans une situation réelle.

En apprentissage supervisé, le système reçoit des exemples associés à une réponse attendue. Il ajuste ses paramètres afin de réduire l’erreur sur ces exemples. L’apprentissage non supervisé recherche plutôt des structures sans étiquette explicite, tandis que l’apprentissage par renforcement utilise des récompenses liées aux actions.

Le jeu d’entraînement n’est pas la réalité entière. Il constitue un échantillon construit par des choix de collecte, de nettoyage et d’étiquetage. Si certaines situations manquent ou sont mal décrites, le modèle apprend une représentation incomplète. Des variables apparemment neutres peuvent également servir d’indicateurs indirects d’informations sensibles.

Un jeu de validation guide les choix de conception et un jeu de test indépendant mesure la généralisation. Utiliser plusieurs fois les données de test finit par adapter indirectement le système à cet examen. Une performance crédible nécessite donc une séparation réelle et une évaluation sur les populations d’usage.

Un réseau de neurones artificiels est une succession de transformations mathématiques. Chaque couche combine des nombres, applique une fonction et construit une représentation utile pour la tâche. Le mot neurone est une analogie : ces unités ne reproduisent ni la biologie ni l’ensemble des capacités d’un cerveau.

Un modèle de langage apprend à estimer les suites de mots ou de fragments de mots plausibles dans de très grands corpus. Lorsqu’il génère une réponse, il ne recherche pas automatiquement un fait dans une encyclopédie : il produit une suite compatible avec les régularités apprises et le contexte fourni.

Cette capacité explique à la fois la fluidité et les hallucinations. Une phrase fausse peut être statistiquement plausible. Les usages fiables ajoutent des sources contrôlées, des contraintes, des évaluations et une vérification humaine adaptée aux conséquences d’une erreur.

Une moyenne globale peut cacher des échecs importants. Pour une classification, précision, rappel, faux positifs et faux négatifs décrivent des aspects différents. Le seuil approprié dépend du coût des erreurs : manquer une maladie et déclencher une alerte inutile n’ont pas les mêmes conséquences.

La généralisation se dégrade lorsque les données réelles diffèrent de l’entraînement. Une population, un appareil, une langue ou une pratique peuvent évoluer. La surveillance après déploiement est donc aussi importante que le test initial, avec des indicateurs capables de détecter dérive et sous-groupes mal servis.

Une comparaison utile inclut aussi une référence humaine ou une procédure existante. Un modèle très précis peut être inutile s’il ralentit le travail, produit des erreurs difficiles à détecter ou n’améliore pas le résultat final.

Le risque provient du système et de son contexte. Une recommandation musicale erronée a peu de conséquences ; une décision concernant un soin, un emploi ou un crédit peut affecter des droits. Plus l’impact est élevé, plus documentation, validation, recours et supervision doivent être exigeants.

Les biais peuvent naître des données, des étiquettes, de l’objectif optimisé ou de la manière dont la sortie est utilisée. Retirer une variable sensible ne suffit pas si d’autres informations lui sont corrélées. Il faut comparer les performances et les conséquences entre groupes pertinents.

La supervision humaine n’est réelle que si la personne dispose du temps, des compétences, de l’information et de l’autorité nécessaires. Un humain qui confirme presque toujours une sortie opaque ne constitue pas une protection suffisante.

Une donnée personnelle peut identifier directement une personne ou permettre son identification par recoupement. Pseudonymiser réduit certains risques mais ne garantit pas l’anonymat. La collecte, l’entraînement, les journaux et les requêtes des utilisateurs doivent être examinés séparément.

Les contenus générés soulèvent plusieurs questions : origine des données, droits sur les œuvres, ressemblances avec des contenus existants et responsabilité de l’utilisateur. La disponibilité publique d’une œuvre ne signifie pas qu’elle est libre de toute condition.

La traçabilité documente versions, données, paramètres, évaluations et incidents. Elle permet de comprendre pourquoi un résultat a été produit et de corriger un problème. Accumuler des journaux incompréhensibles ne suffit pas : ils doivent être exploitables par les personnes chargées du contrôle.

Une métrique traduit toujours un objectif partiel. Optimiser un score unique peut dégrader des qualités non mesurées, comme l’équité, la robustesse ou la compréhension de la décision. L’évaluation commence donc par les conséquences attendues et les erreurs acceptables, avant le choix d’un indicateur.

Les tests doivent inclure cas ordinaires, situations limites, changements de contexte et tentatives d’usage abusif. Ils doivent aussi mesurer le système complet : interface, instructions, opérateur humain et procédure de recours. Un bon modèle intégré dans une mauvaise organisation peut produire un mauvais service.

Enfin, l’évaluation n’est pas terminée au lancement. Il faut suivre les incidents, réexaminer les performances et prévoir l’arrêt ou le retour en arrière. La responsabilité exige une personne ou une organisation capable d’agir, pas seulement un document affirmant que le système est transparent.