hotai.news
← 返回 AI 快讯
AI 快讯 / 事件详情
theverge.com · 发布于

OpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容

自动整理 · 基于采集摘要,未逐条核验
本站整理于

事件要点

OpenAI 发布一款可识别儿童性虐待材料(CSAM)的分类器,并能标记内容是否由 AI 生成,称其误报减少 48%,识别出的图像含虐待材料的概率翻倍。该工具免费向通过审核的机构开放,是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 图像生成器对试图生成此类内容的用户将触发 24 小时访问暂停并提示可能永久封号。

相关背景

提示词是什么?任务要求、参考资料与输入边界的写法

提示词是提供给生成模型的输入,用来表达任务或提供上下文,既可以是一句要求,也可以包含参考资料和示例。实际接口还可能使用不同角色和多模态内容。清楚的提示有助于限定任务,但不是模型能力的保证;缺少事实依据时,再精巧的措辞也不能让未知信息自动变成已核实的答案。

词元是什么?Token 与字数、用量和上下文预算的关系

词元Token是语言模型处理文本时使用的离散单位,可以对应一个字、一个词的一部分或标点等片段,取决于分词器。它不等于固定数量的中文字或英文单词。输入预算与生成用量常以词元计量,但模型和接口口径可能不同,核算时应使用目标模型的计数方式,并检查实际返回的用量信息。

阅读说明

事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。

原文来源

来源与采集进展

来源报道标题原文发布时间本站收录时间
theverge.comOpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容2026-11-17 03:232026-11-17 03:42