一句话定义
人工智能是一个广泛的领域；在实际应用中，它通过基于机器的系统体现，这些系统从输入中推断出如何为明确或隐含的目标生成预测、内容、建议或决策 [1]。
快速回答
AI不是一种产品、一个模型或一种个性。它是一个广泛的系统类别，旨在执行通常需要某种形式的感知、模式识别、规划、预测、语言使用或决策支持的任务。拼写检查器、欺诈检测器、推荐系统、图像分类器、聊天机器人和文档助手都可以涉及AI，但它们的工作方式并不完全相同。
有用的思维模型很简单：AI系统接收输入，通过规则、模型、数据或学习到的模式进行处理，然后生成输出。该输出可能是一个分数、一个标签、一个排名、一个生成的段落、一个建议的下一步行动或一个决策路径。该输出可以帮助人们更快地工作，但仍需要上下文、限制和问责制。
为什么重要
AI现在出现在普通软件中。人们在搜索、写作、翻译、审批费用、审查简历、分类支持工单、检测垃圾邮件或总结长文档时会遇到它。由于AI通常位于熟悉的工具中，用户可能在系统从存储信息转变为推断答案时没有注意到。
这种转变很重要，因为推断的输出与验证的事实不同。推荐可能反映过去数据中的模式。生成的答案可能听起来完整，但可能缺少上下文。风险评分可能对优先级排序有用，但如果数据、目标或部署环境错误，可能不公平或不可靠。NIST将AI风险管理视为生命周期活动，因为风险可能在设计、数据收集、测试、部署、监控和使用过程中出现 [2]。
对于RichBay，AI素养从这一区别开始。AI可以有用而不必是魔法。它可以支持工作而不必取代判断。用户仍然需要问系统在做什么、使用了什么证据、可能出什么问题，以及谁对最终行动负责。
如何工作
AI系统通常有一个目标、输入、将这些输入转换为输出的方法以及周围的流程。目标可能是“对这些搜索结果进行排序”、“检测可能的欺诈”或“起草回复”。输入可能是文本、图像、传感器读数、点击、记录或用户提示。方法可能包括手工编写的规则、机器学习模型、语言模型、检索系统或几种技术的组合。
一些AI系统是狭窄且安静的。垃圾邮件过滤器可能只标记电子邮件。路线规划器可能估计旅行时间。信用风险模型可能为人类审核员生成一个评分。生成式AI系统更显眼，因为它们创建文本、图像、代码、音频或摘要等内容。它们仍然是AI系统，而不是AI类别之外的独立系统。
AI系统在自主性方面也有所不同。有些只是建议。有些在人批准后才行动。有些会触发自动操作。系统的重要性越高，自主性越强，就越需要在依赖输出之前定义监督、测试、日志、申诉路径和备用行为。
端到端示例
想象一家小公司每周收到数百封客户邮件。AI辅助的支持工作流会读取每封邮件，预测主题，分配优先级，建议回复，并显示看起来相关的源政策。支持人员会审查建议，进行编辑，然后发送最终回复。
该工作流可能涉及多个AI任务。分类预测主题。排名决定哪些工单看起来紧急。检索找到政策文本。语言模型起草回复。人工审核员检查客户事实、政策、语气和承诺行动是否正确。将整个工作流称为“AI”是有用的，但更有用的是询问哪一部分产生了哪一部分输出。
常见误解
一个常见的误解是，AI 意味着人类般的理解。一些系统可以生成令人印象深刻的语言或识别复杂的模式，但这并不意味着它们像人一样理解情况。该系统可能在优化分数、匹配模式或根据上下文生成可能的文本。
另一个误解是人工智能（AI）总是机器学习。机器学习是现代人工智能的重要组成部分，但人工智能的范围更广。一些系统结合了学习模型与规则、数据库、搜索、工作流软件和人工审核。了解这些区别有助于用户提出更可靠的问题。
风险和限制
AI系统可能会失败，因为目标不明确、数据不完整、模型在新环境中行为不同、用户误解输出，或周围的工作流程赋予系统过多的权限。它们还可能引发隐私、安全、公平、透明和问责风险。NIST描述了可信AI的特征，如有效性、可靠性、安全性、安全性、问责性、透明性、可解释性、隐私增强和偏差管理[2]。
实际风险不仅是AI可能出错。更严重的是人们可能将输出视为比实际情况更确定。生成的段落可能看起来很专业。分数可能看起来很客观。推荐可能看起来很个性化。在每种情况下，正确的问题是：什么证据支持这个输出，如果它错了会发生什么？
实用判断检查表
在依赖AI输出之前，请问：系统在执行什么任务？它接收了什么输入？输出是事实、预测、建议还是生成的措辞？它有什么来源或数据支持？谁来检查它？它是否可能不公平地影响某人？是否涉及私人或敏感数据？如果系统不确定或出错，有什么备用方案？
对于低风险的起草或组织，AI可以是一个有用的助手。对于涉及健康、金钱、雇佣、安全、法律权利、客户账户或私人数据的决策，需要更强的证据、人类负责和明确的审查路径。良好的AI使用不是盲目的信任，而是有可见限制的结构化帮助。