大语言模型是什么？文字预测怎样变成摘要与问答
说明大语言模型怎样利用词元和上下文生成文字，区分模型与聊天应用，并用文档问答解释知识限制、引用核查及模型选择的方法。
先理解这个概念
大语言模型通常是使用大量数据和参数训练的语言模型，可以完成生成文字、翻译或摘要等任务。常见生成式模型根据已有上下文逐步预测后续词元。它能够形成有用的语言表示，但不等于随时可查询的事实数据库。聊天产品还可能加入搜索与文件工具，判断能力时要区分模型本身和应用提供的辅助信息。
词元和上下文共同影响下一段文字
词元可以是单词的一部分，也可以是字符或标点，不能固定按一个汉字算一个。模型结合当前可见内容生成后续输出。同一个问题附上不同资料时，答案可能改变；这并不自动意味着模型参数被重新训练。
例如让助手把产品说明压缩成短摘要，应把原文提供完整，并指定必须保留的限制条件。要求只写结论却没有原文，模型可能根据训练中相近内容补写。生成得像一份说明书，不能证明其中型号和规格确实存在。
模型与聊天产品的功能应分开看
搜索网页、保存文件和读取公司知识库，通常需要应用提供相应工具。一个产品可以在模型回答之前检索资料，也可以在回答之后检查格式。因此，看到一个功能有效，不应直接推断相同模型换到另一个接口后还保留这些辅助步骤。
能接收图片的系统还可能结合视觉模块或采用多模态模型，不能把所有大语言模型都当作能直接看图。上传文件后的处理方式也不同，有些提取全文，有些只检索片段。检查实际输入范围，才能解释它为什么遗漏材料中的细节。
用真实任务比较能力与局限
选模型时，可以先准备摘要和问答各一组材料，分别核对事实与格式。增加一个原文没有答案的问题，检查是否明确承认资料不足。模型在通用评测中的名次，不能替代它对你这批专用术语和文档结构的处理结果。
参数较多或上下文较长都不保证每次回答更准确。还应记录完整回答所需时间，以及为了修正错误投入的人工工作。本页解释通用机制，没有运行某个模型作排名；重要引用应回到原始来源，不能只看回答语气是否肯定。
核对来源
以下资料用于核对概念和方法。文中的示例与测试范围分别注明，实际使用时请核对所用工具的版本。