hotai.news
← 返回 AI 快讯
AI 快讯 / 事件详情
techcrunch.com · 发布于

OpenAI 发布 CSAM 图像分类器并新增 ChatGPT 警告与封禁机制

自动整理 · 基于采集摘要,未逐条核验
本站整理于

事件要点

OpenAI 发布打击儿童性虐待材料(CSAM)的新工具,包括可检测 AI 生成图片的图像分类器,通过与 NCMEC 合作开发,并免费向部分企业开放 API。早期测试中该分类器在识别同样数量违规图片的情况下少标记 48% 的图片,被标记图片中违规比例翻倍。

相关背景

API 是什么:应用程序怎样按约定请求功能和数据

API 是应用程序接口,规定程序怎样调用功能或交换数据。调用方按约定提交输入,服务按约定返回结果或错误。它不一定是网页接口,也不只用于 AI;模型 API 只是其中一类。知道接口地址不代表已经获得调用权限,收到成功状态也不代表业务内容正确,还要核对所请求功能的实际结果。

词元是什么?Token 与字数、用量和上下文预算的关系

词元Token是语言模型处理文本时使用的离散单位,可以对应一个字、一个词的一部分或标点等片段,取决于分词器。它不等于固定数量的中文字或英文单词。输入预算与生成用量常以词元计量,但模型和接口口径可能不同,核算时应使用目标模型的计数方式,并检查实际返回的用量信息。

阅读说明

事件要点来自采集摘要;相关背景引用本站已有资料,帮助理解术语,不作为本次事件的新事实。产品效果、适用条件及后续变化请查看原始资料。

原文来源

来源与采集进展

来源报道标题原文发布时间本站收录时间
techcrunch.comOpenAI 发布 CSAM 图像分类器并新增 ChatGPT 警告与封禁机制2026-11-17 01:002026-11-17 01:37