生成式人工智能是什么？生成内容与检索资料的区别
用起草邮件和生成插图解释生成式人工智能，区分生成、分类和搜索，说明为何回答可能含错误，以及交付前应该检查的具体内容。
先理解这个概念
生成式人工智能根据输入产生文本或图像等内容。模型在训练中学习数据的模式，使用时结合提示和上下文生成结果。它不同于只给邮件分类，也不等于在网上找到一段原文再复制。生成内容可以有用，但语句通顺、画面完整都不能证明事实正确，也不能自动证明作品没有版权或授权问题。
生成输出可以采用不同媒体形式
给出活动主题后起草邀请邮件，或根据一段描述生成插图，都是生成任务。输入也不局限于文字：图片可以作为编辑依据，音频可以用于转写后再生成摘要。具体能处理的媒体取决于模型及应用提供的功能，不能从生成式这个名称直接推断。
假设需要给客户写会议邀请，模型可以提供结构和措辞，但会议时间应来自已经确认的安排。让它写得像一封完整邮件，可能使未提供的地址也被补出来。把缺失字段留空，比把模型补齐的细节直接当事实使用更合适。
生成结果与搜索证据承担不同作用
搜索负责找到已有资料，生成负责组织或创作输出。两者可以在一个产品中结合，例如先查产品说明，再生成对比表。即使回答旁边出现引用，仍要打开原文确认表格中的具体结论，不能把引用图标当成每个字段都已通过核查。
分类模型给出类别，生成模型则可能写出解释，但这不是可靠性的排名。一个任务只需要判断邮件是否属于退款请求时，稳定的分类器可能已经足够。增加长回答反而会加入需要人工核对的内容，应按真正需要的结果选择方法。
发布前分别检查事实与素材要求
文字应核对数字和专有名词，再确认引用支持原句。图片要检查可见文字、人物结构及产品外观是否符合要求。它们需要的检查不同，不能用模型在文字任务上的表现替代对图片的审查。没有实际测试时，也不应把示例称为效果证明。
生成模型可能自信地产生不实内容，NIST将这种风险称为confabulation。重要判断应保留外部依据，并允许结果明确表示资料不足。素材是否可用于商业发布，还需要核对所用服务的条款和输入素材授权，生成这个动作本身不会替用户完成核查。
核对来源
以下资料用于核对概念和方法。文中的示例与测试范围分别注明，实际使用时请核对所用工具的版本。