OpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容
自动整理 · 基于采集摘要,未逐条核验
本站整理于
事件要点
OpenAI 发布一款可识别儿童性虐待材料(CSAM)的分类器,并能标记内容是否由 AI 生成,称其误报减少 48%,识别出的图像含虐待材料的概率翻倍。该工具免费向通过审核的机构开放,是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 图像生成器对试图生成此类内容的用户将触发 24 小时访问暂停并提示可能永久封号。
相关背景
提示词是什么?任务要求、参考资料与输入边界的写法
提示词是提供给生成模型的输入,用来表达任务或提供上下文,既可以是一句要求,也可以包含参考资料和示例。实际接口还可能使用不同角色和多模态内容。清楚的提示有助于限定任务,但不是模型能力的保证;缺少事实依据时,再精巧的措辞也不能让未知信息自动变成已核实的答案。
词元是什么?Token 与字数、用量和上下文预算的关系
词元Token是语言模型处理文本时使用的离散单位,可以对应一个字、一个词的一部分或标点等片段,取决于分词器。它不等于固定数量的中文字或英文单词。输入预算与生成用量常以词元计量,但模型和接口口径可能不同,核算时应使用目标模型的计数方式,并检查实际返回的用量信息。
阅读说明
事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。
原文来源
来源与采集进展
| 来源 | 报道标题 | 原文发布时间 | 本站收录时间 |
|---|---|---|---|
| theverge.com | OpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容 | 2026-11-17 03:23 | 2026-11-17 03:42 |