Définition en une phrase
Pour ce guide, un assistant d'IA est un produit ou un flux de travail qui utilise des capacités d'IA pour aider une personne à accomplir des tâches ; ses fonctionnalités et son niveau d'autonomie varient selon le produit.
Réponse rapide
«Assistant d'IA» est une catégorie de produit en évolution sans définition technique universellement acceptée. Dans un usage courant, cela désigne généralement un logiciel qui aide une personne à écrire, résumer, chercher, planifier, coder, analyser, organiser ou prendre une prochaine étape. L'assistant peut utiliser un modèle de langage, une récupération, des fonctionnalités de mémoire, des outils ou des règles de workflow, mais aucun de ces composants n'est obligatoire pour chaque produit appelé assistant d'IA.
L'assistant n'est pas le même que le modèle sous-jacent. Le modèle génère ou évalue les sorties. L'assistant est la couche produit autour de celui-ci : interface, instructions, autorisations, outils, choix de mémoire, récupération, règles de sécurité, journaux et flux de transfert. Certains assistants ne rédigent que du texte. Certains peuvent appeler des outils. Certains peuvent effectuer des actions limitées après approbation. Ces différences comptent.
Pourquoi c'est important
Les gens rencontrent des assistants IA dans la recherche, les logiciels de bureau, les éditeurs de code, les centres d'assistance, les outils d'apprentissage, les produits de conception, les navigateurs et les applications mobiles. L'étiquette peut rendre le système plus personnel et compétent. Cela peut être utile, mais cela peut aussi brouiller la responsabilité. Une interface utile reste du logiciel avec des limites.
Les lignes directrices CHI pour l'interaction humain-IA mettent en avant des modèles tels que la fixation des attentes, l'affichage d'informations pertinentes, le soutien à la correction efficace et la possibilité de feedback utilisateur [1]. Ces idées conviennent bien aux assistants car l'utilisateur doit comprendre ce que le système peut faire, le corriger lorsqu'il échoue et garder le contrôle lorsque les enjeux augmentent.
Pour les équipes, les assistants sont attrayants car ils peuvent intégrer plusieurs capacités d'IA dans un seul flux de travail. Un assistant de support pourrait classer un ticket, récupérer une politique, rédiger une réponse et suggérer une escalade. Le système peut économiser du temps, mais chaque capacité a besoin de sa propre limite et de son propre chemin de revue.
Comment ça marche
Un assistant simple peut envoyer la requête de l'utilisateur à un modèle de langage et afficher la réponse générée. Un assistant plus complexe peut assembler une requête avec des instructions système, la conversation précédente, des documents récupérés, des données de compte, des sorties d'outils et des règles de formatage. Le produit décide ensuite ce qu'il affiche à l'utilisateur et quels actions, le cas échéant, sont disponibles.
Les fonctionnalités de mémoire sont des fonctionnalités de produit, pas une preuve que le modèle se souvient comme un humain. Un produit peut stocker des préférences ou des résumés et les insérer dans un contexte ultérieur. Cette information stockée doit avoir des contrôles : visualisation, édition, suppression, désactivation et clarté des politiques. Sans ces contrôles, la mémoire peut créer des problèmes de confidentialité et d'attentes.
L'accès aux outils et les actions agentes nécessitent des autorisations, des contrôles et des revues séparés. Un assistant capable de rédiger un courriel est différent d'un assistant capable de l'envoyer. Un assistant capable de rechercher un calendrier est différent d'un assistant capable de réserver une réunion. Le comportement agente doit être traité comme un workflow à contrôle élevé, et non supposé uniquement à partir de l'étiquette d'assistant.
Exemple complet
Imaginons un assistant RH interne. Un employé demande : « Puis-je travailler à distance d'un autre État pendant deux mois ? » L'assistant peut récupérer la politique RH, demander l'emplacement de l'employé, résumer la politique et rédiger un message au manager. Il ne devrait pas approuver silencieusement l'arrangement, mettre à jour les fiches de paie ou envoyer des conseils juridiques sans les autorisations et la vérification appropriées.
Un bon assistant montrerait la source de la politique, indiquerait l'incertitude, identifierait les détails manquants et orienterait la question vers un propriétaire humain si des règles fiscales, juridiques ou liées à l'emploi s'appliquent. La partie utile n'est pas que l'assistant semble confiant. La partie utile est qu'il organise la tâche tout en maintenant l'autorité visible.
Mauvaise idée courante
La plus grande erreur est de penser qu'un assistant IA est automatiquement un agent IA. Certains assistants peuvent planifier et effectuer des actions à travers des outils, mais beaucoup ne font que répondre, rédiger ou résumer. Le comportement semblable à un agent dépend de la conception du produit, des autorisations, des outils, de la mémoire et des boucles d'action.
Une autre idée fausse est que l'assistant connaît tout ce que l'utilisateur peut voir dans le produit. Il ne reçoit peut-être qu'un contexte sélectionné. Il peut manquer d'accès à un fichier, un enregistrement de compte ou une conversation précédente. Il peut également avoir des instructions de produit que l'utilisateur ne peut pas voir. Les utilisateurs devraient demander quelles informations ont été utilisées, surtout pour des décisions importantes.
Risques et limites
Les assistants d'IA peuvent avoir des hallucinations, mal interpréter les objectifs, dépasser leur autorité, exposer des données sensibles ou faire dépendre les utilisateurs de manière excessive d'une interface soignée. L'OCDE considère les systèmes d'IA comme des systèmes basés sur des machines dont les sorties peuvent influencer les environnements, ce qui correspond au besoin d'examiner les sorties et les actions des assistants dans leur contexte [2]. Le NIST considère la gestion des risques liés à l'IA comme une responsabilité continue tout au long du cycle de vie [3].
Le risque pratique est la délégation sans limites. Si un assistant peut accéder à des outils, récupérer des documents privés, se souvenir des préférences ou agir au nom d'un utilisateur, le produit a besoin de vérifications de permission, de journalisation, de revue, de restauration et de contrôle clair de l'utilisateur. Plus l'assistant peut faire, plus le modèle de contrôle doit être visible.
Vérification pratique
Avant de faire confiance à un assistant d'IA, demandez : Quelle tâche l'aide-t-il à accomplir ? Quel modèle ou système se cache derrière ? Quel contexte a-t-il utilisé ? Peut-il accéder à des outils ou à des données privées ? Peut-il prendre des actions, ou ne peut-il que les suggérer ? Puis-je inspecter, corriger ou annuler le résultat ? Qui détient la décision finale ?
Utilisez des assistants pour la rédaction, la synthèse, l'organisation, la recherche et la préparation du travail. Ralentissez lorsque l'assistant touche à l'argent, la santé, le droit, l'emploi, les comptes clients, la sécurité, les données privées ou les actions irréversibles. Un assistant utile doit rendre le travail plus facile tout en maintenant visibles les preuves, les limites et la responsabilité.