Intelligence Artificielle

L'intelligence artificielle est un domaine vaste ; en pratique, elle apparaît à travers des systèmes basés sur des machines qui infèrent à partir des entrées comment produire des prédictions, du contenu, des recommandations ou des décisions pour des objectifs explicites ou implicites [1].

L'IA n'est pas un seul produit, un seul modèle ou une seule personnalité. C'est une catégorie large de systèmes conçus pour effectuer des tâches qui nécessitent normalement une forme de perception, de reconnaissance de motifs, de planification, de prédiction, d'utilisation de la langue ou de soutien à la décision. Un correcteur orthographique, un détecteur de fraude, un système de recommandation, un classificateur d'images, un chatbot et un assistant de document peuvent tous impliquer de l'IA, mais ils ne fonctionnent pas exactement de la même manière.

Le modèle mental utile est simple : un système d'IA reçoit des entrées, les traite via des règles, des modèles, des données ou des motifs appris, et produit une sortie. Cette sortie peut être un score, une étiquette, un classement, un paragraphe généré, une action suivante suggérée ou un chemin de décision. La sortie peut aider les personnes à travailler plus vite, mais elle a toujours besoin de contexte, de limites et de responsabilité.

L'IA apparaît maintenant à l'intérieur des logiciels ordinaires. Les gens la rencontrent lorsqu'ils recherchent, écrivent, traduisent, approuvent des dépenses, examinent des CV, classent des tickets de support, détectent le spam ou résument des documents longs. Comme l'IA est souvent intégrée à des outils familiers, les utilisateurs peuvent ne pas remarquer lorsqu'un système passe du stockage d'informations à l'inférence d'une réponse.

Ce changement est important car un résultat inféré n'est pas la même chose qu'un fait vérifié. Une recommandation peut refléter des modèles dans les données passées. Une réponse générée peut sembler complète tout en manquant de contexte. Un score de risque peut être utile pour le tri mais injuste ou peu fiable si les données, l'objectif ou l'environnement de déploiement sont incorrects. NIST considère la gestion des risques d'IA comme une activité de cycle de vie car les risques peuvent apparaître pendant la conception, la collecte de données, les tests, le déploiement, le suivi et l'utilisation [2].

Pour RichBay, l'alphabétisation en IA commence par cette distinction. L'IA peut être utile sans être magique. Elle peut soutenir le travail sans remplacer le jugement. L'utilisateur doit toujours se demander ce que le système fait, quelle preuve il utilise, ce qui pourrait mal tourner, et qui est responsable de l'action finale.

Un système d'IA a généralement un objectif, des entrées, une méthode pour transformer ces entrées en sorties, et un flux de travail environnant. L'objectif peut être « classer ces résultats de recherche », « détecter une fraude probable » ou « rédiger une réponse ». Les entrées peuvent être du texte, des images, des mesures de capteurs, des clics, des enregistrements ou une requête utilisateur. La méthode peut inclure des règles écrites à la main, des modèles d'apprentissage automatique, des modèles de langage, des systèmes de recherche ou une combinaison de plusieurs techniques.

Certaines systèmes d'IA sont étroits et discrets. Un filtre de spam peut uniquement étiqueter les e-mails. Un planificateur de trajet peut estimer le temps de trajet. Un modèle de risque de crédit peut produire un score pour un réviseur humain. Les systèmes d'IA générative sont plus visibles car ils créent du contenu tel que du texte, des images, du code, de l'audio ou des résumés. Ils sont toujours des systèmes d'IA, pas séparés de l'IA en tant que catégorie.

Les systèmes d'IA varient également en autonomie. Certains ne font que suggérer. Certains agissent après qu'une personne a approuvé. Certains déclenchent des actions automatisées. Plus le risque est élevé et plus le système est autonome, plus il est important de définir une surveillance, des tests, un journalisation, des voies d'appel et un comportement de secours avant de faire confiance aux sorties.

Imaginons qu'une petite entreprise reçoive des centaines d'e-mails clients chaque semaine. Un workflow de support assisté par l'IA lit chaque message, prédit le sujet, attribue une priorité, suggère une réponse et affiche la politique pertinente. Un agent de support examine la suggestion, la modifie et envoie la réponse finale.

Plusieurs tâches d'IA peuvent être impliquées dans ce workflow. La classification prédit le sujet. Le classement décide quels tickets semblent urgents. La récupération trouve du texte de politique. Un modèle de langage rédige la réponse. Le réviseur humain vérifie si les faits du client, la politique, le ton et l'action promise sont corrects. Appeler l'ensemble du workflow « IA » est utile, mais il est plus utile de demander quelle partie a produit quelle sortie.

Une idée fausse courante est que l'IA signifie une compréhension similaire à celle des humains. Certaines systèmes peuvent produire un langage impressionnant ou reconnaître des motifs complexes, mais cela ne signifie pas qu'ils comprennent une situation de la même manière qu'une personne. Le système peut optimiser un score, correspondre à des motifs ou générer du texte probable à partir du contexte.

Une autre idée fausse est que l'IA est toujours l'apprentissage automatique. L'apprentissage automatique est une grande partie de l'IA moderne, mais l'IA est plus large. Certains systèmes combinent des modèles appris avec des règles, des bases de données, des recherches, du logiciel de workflow et une revue humaine. Connaître la différence aide les utilisateurs à poser de meilleures questions sur la fiabilité.

Les systèmes d'IA peuvent échouer car l'objectif est flou, les données sont incomplètes, le modèle se comporte différemment dans un nouvel environnement, l'utilisateur mal interprète la sortie, ou le processus environnant accorde trop d'autorité au système. Ils peuvent également générer des risques liés à la vie privée, à la sécurité, à l'équité, à la transparence et à la responsabilité. Le NIST décrit les caractéristiques d'une IA fiable, telles que la validité, la fiabilité, la sécurité, la sécurité, la responsabilité, la transparence, l'explicabilité, l'amélioration de la vie privée et la gestion des biais [2].

Le risque pratique n'est pas seulement que l'IA puisse se tromper. C'est que les gens peuvent traiter la sortie comme plus certaine qu'elle ne l'est. Un paragraphe généré peut sembler soigné. Un score peut sembler objectif. Une recommandation peut sembler personnalisée. Dans chaque cas, la bonne question est : quelle preuve soutient cette sortie, et que se passe-t-il si elle est fausse ?

Avant de faire confiance à une sortie d'IA, demandez : Quelle tâche le système effectue-t-il ? Quelle entrée a-t-il reçue ? Lorsque l'on parle de sortie, s'agit-il d'un fait, d'une prédiction, d'une recommandation ou de mots générés ? Quelle source ou données la soutiennent ? Qui la vérifie ? Pourrait-elle nuire à quelqu'un de manière injuste ? Implique-t-elle des données privées ou sensibles ? Quel est le plan de secours si le système est incertain ou se trompe ?

Pour les brouillons ou l'organisation à faible enjeu, l'IA peut être un assistant utile. Pour les décisions concernant la santé, l'argent, l'emploi, la sécurité, les droits juridiques, les comptes clients ou les données privées, exigez des preuves plus solides, une propriété humaine et un chemin de revue clair. Une bonne utilisation de l'IA n'est pas une confiance aveugle. C'est un aide structurée avec des limites visibles.