首页 文章推荐 家电百科 实时讯息 常识
您的位置: 首页 > 实时讯息 >

数月 → 几天:OpenAI被曝缩水模型安全测试,AI竞赛埋下隐患

0次浏览     发布时间:2025-04-12 12:44:00    

IT之家 4 月 12 日消息,金融时报(FT)昨日(4 月 11 日)发布博文,报道称 OpenAI 大幅压缩最新大型语言模型(LLM)安全测试时间,此前需要数月时间,而最新 o3 模型仅有几天时间。

竞争驱动,安全让步

据八位知情人士透露,OpenAI 大幅压缩模型的安全测试时间,留给员工和第三方测试团队“评估”(evaluations,即测试模型风险和性能)时间仅有数天时间,而此前通常会耗时数月时间。

IT之家援引博文介绍,OpenAI 面临来自 Meta、Google 及 xAI 等对手的激烈竞争,需快速推出新模型以维持市场优势。o3 模型计划最早下周发布,留给测试者安全检查时间不到一周,而此前 GPT-4 的测试期长达六个月。

一位测试过 GPT-4 的人士透露,过去安全测试更彻底,某些危险能力在测试两个月后才被发现,而如今竞争压力迫使公司追求速度,忽视潜在风险。

测试不足,监管缺位

全球目前尚未统一 AI 安全测试标准,但欧盟《AI 法案》将于今年晚些时候上线,要求企业对其最强大的模型进行安全测试。

AI Futures Project 负责人 Daniel Kokotajlo 表示,由于缺乏强制监管,企业不会主动披露模型的危险能力,竞争压力进一步加剧了风险。

OpenAI 曾承诺构建定制模型版本,测试其潜在滥用风险,例如是否能协助制造更具传染性的生物病毒。

这种测试需投入大量资源,包括聘请外部专家、创建特定数据集并进行“微调”(fine-tuning)。但 OpenAI 仅对较老旧的模型进行有限微调,最新模型如 o1 和 o3-mini 未全面测试。前 OpenAI 安全研究员 Steven Adler 批评,若不兑现测试承诺,公众有权知情。

安全测试未覆盖最终模型

另一问题在于,安全测试通常基于早期“检查点”(checkpoints),而非最终发布模型。一位前 OpenAI 技术人员表示,发布未经测试的更新模型是“不良做法”,而 OpenAI 辩称,其检查点与最终模型“基本一致”,并通过自动化测试提高效率,确保安全。

相关文章
  • 吉林省防办风险提示 | 地质灾害风险高!以下单位做好防范

    吉林省自然资源厅和吉林省气象局8月31日17时8分联合发布地质灾害气象风险黄色预警。今天夜间到明天白天,通化地区集安市南部、白山地区浑江区南部、江源区南部、临江市西南部和长白县西部发生地质灾害风险较高(黄色预警),请各单位做好防范工作。上述黄色区域:鸭绿江流域内五道沟河、鸭绿江周边相关地质灾害风险区

    时间:2025-08-31 19:07:00
  • 警惕“低价引流”宣传,避免“反复充值”套路,山东省消协发布微短剧消费警示

    近年来,微短剧在丰富消费者文化生活、推动文艺创新方面发挥了积极作用。但侵害消费者权益问题多有发生,如有的作品刻意渲染极端冲突,以荒诞情节吸引关注;出现默认勾选自动续费、虚拟币计价不透明、退款通道操作不便捷等。为积极维护广大消费者合法权益,山东省消费者协会提醒,警惕“低价引流”宣传手法,对“首集0.9

    时间:2025-08-18 00:34:00
  • PPT里的形式主义,该纠治了!

    新华时评·整治形式主义|纠治PPT里的形式主义:少点花里胡哨,多些真抓实干作为一种电子演示文稿,PPT本应是提高效率的工具,但在一些地方和部门却变了形、走了样,成为形式主义的新变种。中共中央办公厅、国务院办公厅印发《整治形式主义为基层减负若干规定》,并发出通知指出,形式主义、官僚主义是顽瘴痼疾,必须

    时间:2025-08-15 12:38:00
  • 光伏行业持续整治无序竞争,落后产能出清或延至2026年

    近年来,我国光伏行业虽风光无限,装机量累计突破10亿千瓦,却也深陷“内卷”漩涡。半年来,“反内卷”的风持续吹向光伏。政策端密集发声光伏“反内卷”,2024年底召开的中央经济工作会议把“综合整治‘内卷式’竞争、规范地方政府和企业行为”作为2025年的重点工作之一。今年政府工作报告对综合整治“内卷式”竞

    时间:2025-08-14 15:53:00
  • 冀观察 | 河北省邯郸市召开食品安全工作集中约谈会

    8月6日下午,河北省邯郸市食药安办召开食品安全工作集中约谈会,分析当前形势,通报问题隐患,明确重点任务,强化责任落实,切实守牢食品安全底线。会议由市食药安办主任、市市场监管局局长梁耀峰主持,市市场监管局相关科室负责人,7个县区政府(管委会)分管领导、市场监管部门主要负责人参加。会上,通报了当前食品安

    时间:2025-08-08 15:24:00