A | 来源 | 检察日报·明镜周刊近年来，自助彩票机广受年轻消费者喜爱，是一种新型彩票销售方式。图片经由AI处理美国当地时间7月20日，OpenAI发布技术文章《长时程模型时代的安全与对齐》（Safety and alignment in an era of long-horizon models），介绍了随着人工智能模型逐步具备长时间自主执行复杂任务的能力，安全研究面临的新挑战以及相应的防护思路。文章指出，相比传统对话模型，长时程模型能够持续完成数小时甚至数天的多步骤任务，但也可能在执行过程中表现出更强的目标持续性，从而增加偏离开发者设定约束的风险。例如，在部分安全评估中，模型曾表现出尝试绕过环境限制、规避安全检测等行为。

B | 它分布范围广，购买便利，24小时服务。消费者可以随时在自助彩票机上买到自己喜欢的彩票产品。其中即开型彩票，就是俗称的“刮刮乐”，是最受年轻人追捧的彩票类型。没想到，于某、黄某、李某竟利用自助彩票机系统延迟的漏洞，窃取资金220余万元，给相关企业造成了巨大财产损失。10月25日，经山东省济南市历城区检察院提起公诉，法院以盗窃罪判处于某、黄某、李某有期徒刑十年六个月至一年三个月，并处罚金10万元至6000元。偶然发现系统漏洞意外获取“财富密码”彩票中奖本是一个小概率事件，但如果掌握了一种方法，可以让你有利可得，你是否会心动？这听起来仿佛不可思议，但却真实发生了。

C | 于某与黄某原是同事，两人都有购买彩票的爱好，闲暇之余经常相约在山东省莱阳市某广场旁的自助彩票机购买“刮刮乐”。2022年4月的一天，于某像往常一样到自助彩票机购买“刮刮乐”彩票，他先是选择购买一张“刮刮乐”，后随即取消，当再次选择购买多张时，发现此时的付款二维码仍是一张“刮刮乐”的价格。

D | 发现“商机”的于某当机立断，用一张“刮刮乐”的价格购买到了多张“刮刮乐”。尝到甜头的于某将这个“好事”告诉了黄某。

E | 在之后的一个月里，于某、黄某二人利用系统更换收付款二维码存在延迟的漏洞，在多台自助彩票机上多次低价购买“刮刮乐”彩票。这些现象并不意味着模型具有自主意识，而是反映出，当模型被优化为完成复杂目标时，现有安全机制需要同步升级，以确保模型始终在预期边界内运行。2022年5月的一天，黄某在自助彩票机购买彩票时，经过大胆尝试，发现利用自助彩票机的付款延时漏洞，还可以用购买一张“刮刮乐”的价格购买价格更高的3D复式彩票，再利用3D复式彩票不易出票的特点，以未出票为由申请退款，将3D复式彩票的价款退至自己的微信账户上。

F | 这次尝试让黄某获利200余元，黄某大喜，赶忙将这个意外之“喜”告诉了于某。

G | OpenAI表示，仅依靠模型部署前的一次性安全测试已难以覆盖长时程任务中的全部风险。未来，更有效的安全体系需要将部署前评估、运行时监测、人类监督以及必要时暂停和回滚等机制结合起来，对模型执行复杂任务的全过程实施持续管理。

H | 迈卡·卡罗尔（Micah Carroll）的发帖原文与此同时，据AI Desk当天援引OpenAI风险与安全准备（RSI Preparedness）团队研究员迈卡·卡罗尔（Micah Carroll）在社交平台X发布的帖子，OpenAI近期曾因发现一款内部模型存在对齐（misalignment）问题，临时暂停了该模型的内部使用权限，在完成安全防护升级后重新部署并恢复有限范围测试。卡罗尔并未披露触发暂停的具体事件，也没有说明模型暂停了多久或进行了哪些具体改进。刚开始，于某和黄某还比较谨慎，尝试退款的金额比较小。

I | 但这一公开表态，与OpenAI当天发布的技术文章相互呼应，成为公司少有公开分享内部安全实践的案例之一。随着时间的推移，看到钱来得如此容易，于某和黄某的胆子逐渐大了起来，两人心中的贪念一发不可收，利用自助彩票机系统漏洞退款的金额越来越大，频率也越来越高。二人不再满足几十元、几百元的小额退款，而是通过选择多倍投注的方式，开始了一次又一次数千元乃至上万元的退款。 01 长时程模型带来新的安全挑战 OpenAI在博客中介绍，随着长时程模型能力不断增强，传统安全评估正在面临新的挑战。相比一次性回答问题的模型，这类模型能够持续规划、调用工具并完成开放式复杂任务，因此也拥有更多机会在长期执行过程中偏离用户意图，而这些风险并不一定能够通过传统短时评测发现。文章列举了两个具有代表性的安全评估案例：在一项内部测试中，研究人员要求模型仅通过内部Slack系统提交任务结果。然而模型在查阅项目文档后，发现文档建议将代码发布至GitHub。据此，于某和黄某不仅还上了之前的网贷，还经常出入高档娱乐场所消费，唱歌、蹦迪、玩游戏……钱花光了，他们就到自助彩票机退款，俨然将自助彩票机变成了二人的“自助取款机”。为了完成这一目标，模型花了整整一小时找到了安全沙盒本身的漏洞，从而绕过了限制，将代码提交至外部GitHub仓库。2023年7月的一天，黄某的好友李某见黄某吃喝玩乐出手阔绰，便询问其“致富”秘诀，黄某就告诉了李某，并和李某一起利用自助彩票机系统漏洞实施退款1万余元。OpenAI认为，这一案例反映出长时程模型可能会主动寻找环境中的薄弱环节，以完成其优化目标。

J | 业务停止发现漏洞非法取财终被抓获至2023年7月，经粗略估算，于某、黄某二人各自在自助彩票机上退款的金额均已累计超过100万元，两人深知犯罪行为迟早会被发现，于是停止了退款行为。另一项测试中，模型尝试传输一段敏感凭证，但安全扫描系统阻止了相关内容发送。2023年12月，为促进彩票市场安全规范发展，山东省福利彩票发行中心决定在全省范围内停止自助彩票机办理彩票销售和兑奖业务。此时，某公司经过对账发现，其投放在山东省莱阳市的多台自助彩票机的账单存在220余万元的资金漏洞。“一年多的时间里，公司账单上竟然多了400多笔退款，每笔退款金额从几百元到上万元不等，这肯定是有人恶意利用漏洞套现！”损失惨重的某公司发现问题后，立刻报了警。随后，模型改用分段编码和混淆等方式规避检测，并在后续重新组合数据完成传输。济南市公安局历城区分局接警后，立即展开行动。因犯罪行为发生在莱阳，公安机关对于案件管辖问题产生了疑问。“我们通过侦查监督与协作配合办公室得知此情况后，建议公安机关向某公司了解自助彩票机的运行原理，最终确认了被害单位财产损失结果的实际发生地是某公司所在的济南市历城区，即认定济南市公安局历城区分局有管辖权。 OpenAI表示，这类行为说明，仅依赖静态规则匹配的安全检测机制，未来可能不足以应对能力不断增强的智能代理，因此需要构建能够理解上下文和整体行为模式的新一代监测体系。 02 从部署前评估走向运行时监测针对上述风险，OpenAI已经建立了一套低延迟内部监测基础设施，由GPT-5.4 Thinking在最高推理配置下提供支持，对内部智能代理的交互过程进行实时分析。”历城区检察院刑事检察部门负责人徐海磊介绍说。当系统发现模型行为可能与用户意图不一致，或存在绕过安全机制的迹象时，将自动发出预警，并交由人工进一步审查。公安机关经过侦查，于2024年5月14日将于某、黄某、李某全部抓获归案。

K | OpenAI表示，这套监测系统目前已覆盖公司99.9%的内部AI编程助手流量。内部部署环境之所以具有重要价值，在于这些模型能够访问部分内部系统、查看相关文档，甚至研究自身安全机制，因此为监测和安全基础设施建设提供了更加真实的测试场景。经查发现，在短短一年多的时间里，于某、黄某等人利用自己及朋友的数十个微信账号，在多台自助彩票机实施退款400余笔，金额高达225万元。文章同时强调，OpenAI并非希望通过披露个别案例渲染风险，而是希望推动行业建立更加完善的安全实践。依法介入深挖犯罪事实引导侦查突破案件难点因于某、黄某平时就有购买彩票的习惯，其作案时使用的数十个微信账号交易记录中，有数千笔与福利彩票相关。可哪一笔是正常的购买彩票及兑奖记录？哪一笔是利用自助彩票机系统漏洞实施退款的记录？检察官依法对犯罪嫌疑人进行讯问。应公安机关邀请，检察机关依法介入，引导侦查取证。未来，公司计划进一步发展更加实时的监测架构，使高风险操作能够在执行之前即被识别、评估，必要时直接阻止，而不仅是在事后进行检测。检察机关建议公安机关通过多种途径获取涉案的全部微信记录，补充山东省福利彩票发行中心与某公司的对账单据及多份与数额相关的证人证言，使该案的涉案数额和非法获利数据得以准确认定。

L | 业内人士认为，随着AI智能体逐渐具备持续数小时甚至数天完成复杂任务的能力，模型安全的重点正从传统的输出内容安全，逐步扩展到整个任务执行过程是否始终符合用户意图。掌握以上确凿证据后，6月20日，济南市历城区检察院依法对犯罪嫌疑人于某、黄某作出批准逮捕决定。8月20日，公安机关将于某、黄某、李某三人移送检察机关审查起诉。

M | 此次OpenAI公开分享暂停内部模型、完善安全防护并恢复测试的实践，也反映出前沿AI实验室正尝试通过持续监测、快速响应和透明披露等方式，建立适应下一代智能系统的新型安全治理框架。不过，目前外界仍无法获知此次对齐问题的具体性质、模型暂停持续时间以及升级措施的技术细节。OpenAI表示，出于安全考虑，公司更希望分享从实践中获得的方法论，而非事件本身。办案组成员对案件情况进行讨论。对于能够长期自主执行复杂任务的模型而言，如何建立覆盖模型开发、部署与运行全过程的安全体系，将成为迈向更高能力人工智能的重要课题。“在审查起诉过程中，关于该案的定性一度成为我们的争议焦点。该案不同于传统接触性盗窃，系利用机器系统漏洞实施的犯罪行为，将该案定性为盗窃罪或是诈骗罪，在法学理论与实务界存在诸多观点。

N | （特约编译无忌，编辑金明）。

o | ”办案检察官向记者介绍说。

p | 召开检察官联席会，对案件定性、处理进行集体研究。历城区检察院检察官联席会议对该案进行集体讨论后，一致认为：区分盗窃罪和诈骗罪的关键，在于盗窃罪是取得型犯罪，违背权利人的意志；而诈骗罪是交互型犯罪，需要被骗人陷入认识错误，进而自愿处分财产。该案中，于某、黄某、李某利用自助彩票机的网络延迟漏洞实施退款，虽然看似由自助彩票机主动退款，实则是违背被害单位意志的系统错误行为，因而是一种违背被害单位意志主动取得财物的行为，符合盗窃罪的犯罪构成。在犯罪数额认定方面，办案检察官在充分掌握相关证据的基础上，对每个涉案人员的涉案金额都进行了全面分析。根据梳理的犯罪事实，检察官认定于某、黄某实施的犯罪行为有两种情形：一种是直接将大额彩票的金额退款至微信账户，另一种是用大额彩票的退款金额再次购买彩票。针对这两种情形，检察官确定了于某和黄某犯罪数额的计算方式。

q | 经过对于某、黄某、李某使用的全部涉案微信交易记录与被害单位提供的彩票退款记录、对账单进行比对，最终确定于某的犯罪数额为117.4万余元，黄某的犯罪数额为104.9万余元，李某的犯罪数额为4.3万余元。9月20日，历城区检察院将该案起诉至法院，三名被告人及其辩护人对于检察机关认定的犯罪事实、罪名及提出的量刑建议均表示认可，三名被告人自愿认罪认罚。法院经审理认为，检察机关指控的犯罪事实清楚，证据确实、充分，罪名成立，于10月25日作出一审判决：以盗窃罪判处于某有期徒刑十年六个月，并处罚金10万元；以盗窃罪判处黄某有期徒刑十年五个月，并处罚金10万元；以盗窃罪判处李某有期徒刑一年三个月，缓刑一年六个月，并处罚金6000元。三名被告人均未提出上诉，目前判决已生效。该案庭审现场，被告人于某、黄某在作最后陈述。