Prompt

Une demande est l'entrée fournie pour guider la sortie d'un modèle pour une tâche ; elle peut inclure une instruction, une question, un exemple, un contexte ou une contrainte [1].

Une demande indique à un système d'IA ce que l'utilisateur ou le produit veut. Elle peut être une courte question, un long brief de tâche, un ensemble d'exemples, un document collé, une règle de format ou une combinaison de ces éléments. Dans de nombreux produits, le message visible de l'utilisateur n'est qu'une partie du contexte complet semblable à une demande vu par le modèle.

Un produit peut combiner l'entrée utilisateur avec des instructions au niveau du système, des exemples, des passages récupérés, l'historique de conversation, les résultats d'outils et les contraintes de sortie. Une bonne conception de demande peut rendre la sortie plus claire et plus utile. Elle ne garantit pas la vérité, la sécurité, le soutien des sources ou l'absence d'hallucinations.

Le prompting est l'une des façons les plus simples pour les utilisateurs ordinaires d'améliorer la sortie de l'IA. Une demande vague telle que « écrivez cela mieux » donne peu de direction. Un prompt plus fort nomme la tâche, le public cible, les matériaux sources, les contraintes de style et les critères de réussite. Cela aide le modèle à produire une réponse plus proche des besoins de l'utilisateur.

Le prompting est également important car de nombreux produits d'IA sont construits autour de l'assemblage de prompts cachés. L'application peut ajouter des instructions de politique, des extraits de base de connaissances, des exemples et des règles de formatage avant d'appeler le modèle. Un utilisateur ne devrait pas supposer que le message de chat visible est l'intégralité de la demande.

L'enquête sur l'apprentissage par les prompts intitulée « Pre-train, Prompt, and Predict » décrit les prompts comme un modèle large de traitement du langage naturel (NLP) où les informations de tâche sont exprimées à travers des prompts plutôt que uniquement via des configurations d'entraînement spécifiques à la tâche [1]. Pour les utilisateurs de Richbay, la leçon pratique est plus simple : les prompts guident la génération lors de l'utilisation ; ils ne sont pas identiques à l'entraînement et ne mettent pas à jour les paramètres du modèle par eux-mêmes.

Une demande pratique a généralement plusieurs parties. La tâche indique ce à faire. Le contexte fournit le matériel à utiliser. L'audience indique à qui la réponse est destinée. Les contraintes définissent la longueur, le format, le ton ou les exclusions. Les exemples montrent le motif souhaité. Une instruction de révision demande au modèle de signaler l'incertitude ou de séparer les affirmations des suggestions.

Dans un produit, la conception des requêtes peut avoir lieu à plusieurs niveaux. Une instruction système peut définir le rôle et les limites de sécurité. Les instructions au niveau de l'application peuvent définir le workflow. Les passages récupérés peuvent fournir des preuves. Les résultats des outils peuvent ajouter des données actuelles. Le message de l'utilisateur peut poser la question visible. La sortie du modèle est façonnée par la demande assemblée, et non seulement par la dernière phrase que l'utilisateur a tapée.

La conception du prompt est séparée de l'entraînement. L'entraînement modifie les paramètres du modèle avant utilisation. Le prompt fournit un contexte spécifique à la tâche pendant une demande. Un prompt peut faire comporter le modèle différemment dans cette interaction, mais il ne doit pas être décrit comme enseignant le modèle sous une forme permanente semblable à celle d'un humain.

Imaginons qu'un utilisateur souhaite qu'un assistant IA résume une politique de travail. Une requête faible dit : « Résumez cela. » Une meilleure requête dit : « Résumez la politique fournie pour le personnel de première ligne en cinq points. Utilisez uniquement le texte de la politique. Signalez toute règle dépendant du pays, du plan client ou de l'approbation du manager. »

Le prompt plus fort donne la tâche, le public, la limite des sources, le format et les indicateurs de risque. La sortie peut être plus utilisable, mais l'utilisateur doit toujours vérifier la politique. Si l'assistant dit qu'un remboursement est autorisé, la source doit réellement soutenir cette affirmation. La qualité du prompt améliore la direction ; la vérification des sources vérifie la vérité.

La plus grande erreur est de penser que l'ingénierie des prompts peut forcer la vérité. Un prompt clair peut réduire l'ambiguïté, demander des citations, demander l'incertitude et décourager les affirmations non étayées. Il ne peut pas garantir que le modèle connaîtra, récupérera ou utilisera les bonnes preuves.

Une autre idée fausse est que les prompts ne sont que des messages d'utilisateur écrits. Dans les produits réels, les prompts peuvent être assemblés par le logiciel. L'utilisateur peut voir une seule boîte, tandis que le modèle reçoit des instructions système, un contexte récupéré, des exemples, des tours précédents et des sorties d'outils.

Le prompting peut créer des risques de vie privée et de sécurité. Les utilisateurs peuvent coller des données sensibles dans un outil sans vérifier la politique. Les attaquants peuvent cacher des instructions dans des documents, des e-mails, des pages web ou des extraits récupérés. La documentation OWASP sur l'injection de prompts décrit les attaques indirectes où des instructions malveillantes apparaissent dans du contenu externe traité par un système d'IA [2].

Le NIST considère également les sorties d'IA générative, leur mauvaise utilisation et leur fiabilité comme des risques nécessitant une gouvernance et une évaluation, et non seulement une meilleure formulation [3]. Une requête peut demander un comportement soigneux, mais un produit a toujours besoin de vérifications de source, de permissions, de surveillance et de revue humaine pour les tâches à haut risque.

Avant d'envoyer une requête, demandez : Quelle tâche souhaitez-vous ? Quel matériel source le modèle doit-il utiliser ? Qu'est-ce qu'il doit éviter ? Quel format avez-vous besoin ? Y a-t-il des données sensibles ? Cette tâche a-t-elle besoin d'une source primaire, d'un expert humain ou d'une vérification supplémentaire ?

Après avoir reçu la réponse, demandez : Quelles affirmations sont importantes ? Quelles affirmations sont soutenues par les sources fournies ? Le modèle a-t-il suivi les contraintes ? A-t-il inventé des détails manquants ? La réponse causerait-elle un préjudice si elle était fausse ? Une bonne formulation commence le travail. La vérification décide si le travail est fiable.