AI 是什么？从邮件分类到生成内容，理解人工智能的实际用途
用垃圾邮件识别和文档摘要解释人工智能，区分机器学习与大语言模型，讲清训练和使用模型的差别，以及面对 AI 输出时应怎样核对。
先理解这个概念
AI（人工智能）是让计算机依据输入完成推断并产生结果的一类技术与系统。结果可以是垃圾邮件分类，也可以是一段生成文本。它不等于聊天机器人：机器学习是构建 AI 的常见方法，大语言模型则是处理语言的一类模型。判断某个工具是否有用，要把输入和输出具体写出来，再核对结果能否用于原任务，不能只看是否贴了 AI 标签。
人工智能的范围比聊天机器人更广
OECD 对 AI 系统的定义强调，系统根据输入推断如何产生结果，这些结果可以影响现实或数字环境。识别照片里的物体属于 AI 应用，推荐内容也可以使用 AI。一个系统不必会聊天才能算 AI，也不必在投入使用后持续学习；不同系统的自主程度并不相同。
AI 也不只采用机器学习。以知识和规则为基础的推理方法同样属于这个领域。因此，不能仅凭有没有训练数据来划分所有 AI。面对一个具体产品，先确认它承担的任务和所用方法，比争论界面上那个 AI 标志更容易判断它的实际作用。
分类结果与生成内容需要不同的检查
垃圾邮件分类器接收邮件内容，输出属于垃圾邮件的判断；生成式助手则可能根据你的要求起草一封回复。这两个任务的检查方式不同。前者要关注重要邮件是否被误拦，后者还要检查回复中的事实，以及它有没有替你作出未授权的承诺。
下面都是用于说明概念的例子，没有代表某个产品的测试成绩。同一个应用可以同时使用几种 AI 方法：先识别图片中的文字，再根据识别结果生成摘要。某一步表现良好，不代表后续每一步都已经正确，最终仍要检查你准备使用的结果。
| 任务例子 | 得到的结果 | 适合的核对方式 |
|---|---|---|
| 识别垃圾邮件 | 邮件类别或相关分数 | 查看误拦和漏拦的邮件 |
| 提取截图文字 | 可编辑的识别文本 | 对照原图核对数字与专名 |
| 生成会议摘要 | 根据材料写出的摘要 | 核对决定是否与原记录一致 |
训练模型与使用模型是两件事
机器学习中的训练，是用数据调整模型，让它学到可用于预测或生成的关系。推理则是使用已有模型处理新的输入。把一份文档放进聊天窗口，通常只是为当前回答提供材料，不能单凭这一步认定模型参数已经更新，或它以后一定记得这份文档。
产品的记忆功能、外部知识库与模型训练也应分开理解。有的助手把用户偏好存起来，下次再读取；有的在回答时搜索资料。前者可以作为记忆功能，后者常见于 RAG。它们都能改变用户看到的回答，却未必需要重新训练基础模型。
回答流畅并不能代替事实核对
生成式 AI 能产出语气肯定但内容错误的回答，这类现象常被称为幻觉。NIST 的生成式 AI 风险资料还提醒，错误可能连带出现看似合理的解释或引用。例如原会议只是讨论是否延期，摘要却写成已经延期，就改变了材料的意思。
初次使用一个工具时，可以拿一段答案已知的短材料试试，检查其中的日期，再补一个材料没有回答的问题。记录实际错误，比只看演示视频更有帮助。本文解释通用概念；这些操作是建议的检查方法，没有声称完成了某款模型的准确率测试。
核对来源
以下资料用于核对概念和方法。文中的示例与测试范围分别注明，实际使用时请核对所用工具的版本。