六人利用 AI 越狱生成淫秽物品牟利获刑，法官提醒技术中立不等于技术无罪

郑某等人通过技术手段对基础模型实施“越狱”，突破了大模型内置的色情内容安全限制。用户在充值付费后，就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天，这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。