一句话定义
提示是为指导模型的输出而提供的输入；它可能包括指令、问题、示例、上下文或约束 [1]。
快速回答
提示告诉AI系统用户或产品想要什么。它可以是一个简短的问题、一个长的任务说明、一组示例、粘贴的文档、格式规则，或这些内容的组合。在许多产品中，可见的用户消息只是模型看到的完整提示性上下文的一部分。
一个产品可能结合用户输入与系统级指令、示例、检索段落、对话历史、工具结果和输出约束。良好的提示设计可以使输出更清晰、更有用。它不能保证真实性、安全性、来源支持或无幻觉。
为什么重要
提示是普通用户提高AI输出的最简单方式之一。一个模糊的请求，如“把这写得更好”，几乎没有方向。一个更强的提示会说明任务、受众、原始材料、风格限制和成功标准。这有助于模型生成更接近用户需求的答案。
提示也非常重要，因为许多AI产品都是围绕隐藏的提示组装构建的。应用程序可能在调用模型之前添加政策说明、检索的知识库段落、示例和格式规则。用户不应假设可见的聊天消息是整个请求。
提示学习调查《预训练、提示和预测》将提示描述为一种广泛的自然语言处理模式，其中任务信息是通过提示表达的，而不仅仅是通过传统的特定任务训练设置[1]。对于RichBay用户来说，实际教训是：提示在使用过程中指导生成；它们与训练不同，本身不会更新模型参数。
如何工作
一个实用的提示通常有几个部分。任务说明要做什么。上下文提供要使用的材料。受众说明答案是给谁的。约束条件设定长度、格式、语气或排除项。示例展示期望的模式。审查指令要求模型标记不确定性或区分主张与建议。
在产品中，提示设计可以在多个层次上进行。系统指令可能设定角色和安全边界。应用级别的指令可能定义工作流程。检索到的段落可能提供证据。工具结果可能添加当前数据。用户消息可能提出可见的问题。模型输出由组装的请求塑造，而不仅仅是用户输入的最后一句话。
提示设计与训练是分开的。训练在使用前更改模型参数。提示在请求期间提供特定任务的上下文。一个提示可以让模型在该交互中表现出不同的行为，但不应被描述为以永久的人类方式教授底层模型。
端到端示例
想象一个用户希望AI助手总结一份工作场所政策。一个薄弱的提示是“总结这个”。更好的提示是“用五个要点总结提供的政策，针对一线支持人员。仅使用政策文本。标记任何依赖于国家、客户计划或经理批准的规则。
更强的提示提供了任务、受众、来源边界、格式和风险标志。输出可能更易于使用，但用户仍需检查政策。如果助手说允许退款，来源必须确实支持该声明。提示质量提高方向；来源验证检查真实性。
常见误解
最大的误解是提示工程可以强制真相。清晰的提示可以减少歧义，要求引用，请求不确定性，并阻止无根据的声明。但它不能保证模型会知道、检索或使用正确的证据。
另一个误解是提示（prompts）只是用户编写的聊天消息。在实际产品中，提示可能由软件组装而成。用户可能只看到一个输入框，而模型接收到的可能是系统指令、检索到的上下文、示例、之前的对话回合和工具输出。
风险和限制
提示可能带来隐私和安全风险。用户可能在不检查政策的情况下将敏感数据粘贴到工具中。攻击者可能在文档、电子邮件、网页或检索到的段落中隐藏指令。OWASP提示注入指南描述了间接攻击，其中恶意指令出现在AI系统处理的外部内容中 [2]。
NIST还将生成式AI的输出、滥用和可靠性视为需要治理和评估的风险，而不仅仅是更好的措辞 [3]。一个提示可以要求谨慎行为，但产品仍需要源检查、权限、监控和人工审查，以应对高风险任务。
实用判断检查表
在发送提示之前，请问：我想要完成什么任务？模型应使用哪些来源材料？它应避免什么？我需要什么格式？是否包含敏感数据？这个任务是否需要原始资料、人类专家或第二次检查？
收到答案后，问：哪些主张是重要的？哪些主张有提供的来源支持？模型是否遵循了约束？它是否编造了缺失的细节？如果答案错误，是否会造成伤害？良好的提示开始工作。验证决定工作是否可信。