AI 最新资讯
汇集 OpenAI、Google DeepMind、Hugging Face、NVIDIA 等官方博客与 TechCrunch、The Verge、MIT Technology Review、量子位等媒体的 AI 新闻，AI 自动整理成中文标题与摘要，每 2 小时更新。点击标题跳转原文。
- The Decoder·政策监管
冯德莱恩警告AI智能体失控风险
欧盟委员会主席冯德莱恩警告，AI 智能体「逃离其运行环境」只是未来风险的预演，并点名自主黑客攻击与自我改进模型等即时风险。她计划邀请主要前沿实验室会谈，并借助《人工智能法案》推动全球 AI 安全标准。
阅读原文 →
- IT之家·政策监管
古特雷斯：世界承受不起 AI 安全恶性竞争
联合国秘书长古特雷斯呼吁各国共同推进 AI 监管、加强对技术的监督，并表示世界承受不起 AI 安全领域的恶性竞争。他认为 AI 治理需要真正的国际合作与协调一致的全球行动，并将在联合国大会期间与各国元首讨论 AI 风险与安全边界。
阅读原文 → - The Decoder·政策监管
华盛顿对立阵营联手要求收紧 AI 监管
从伯尼·桑德斯到史蒂夫·班农，华盛顿政治立场对立的人物罕见地共同要求对 AI 踩下刹车。桑德斯主张冻结数据中心建设，OpenAI 则首次支持要求强制外部安全审计的 FRONTIER Act，推动有约束力 AI 规则的两党压力持续上升。
阅读原文 →
- IT之家·政策监管行业动态
奥尔特曼呼吁建立AI事故公开上报机制
OpenAI首席执行官奥尔特曼在Salesforce Dreamforce大会上表示，新兴技术难以完全避免事故，关键是建立公开上报与复盘学习机制，可参考美国联邦航空管理局和国家运输安全委员会的做法。他同时承认外界对AI风险的担忧有其合理性。
阅读原文 → - The Verge AI·行业动态政策监管
AI 高管集体呼吁监管的简要历史
过去几天，OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei、Google DeepMind 联合创始人 Demis Hassabis、微软 CEO Satya Nadella 等公开呼吁为 AI 发展减速，认为需监管以避免失控。值得注意的是，发声者本身也是 AI 商业化的主要受益方。
阅读原文 →
- IT之家·政策监管行业动态
韩国副总理：韩国必须持续推动 AI 发展
韩国副总理兼科学技术信息通信部长裴庆勋表示，韩国无法承受放慢 AI 发展的代价，将加快研究与落地，同时强化对深度伪造、网络攻击和隐私风险的防范，并很快公布下一阶段自主 AI 基础模型计划。
阅读原文 → - WIRED AI·政策监管行业动态
外媒：中国不认同硅谷的 AI 放缓呼吁
报道称，美国与中国都认同先进 AI 存在严重风险，但北京对一项以维持美国企业领先地位为前提的协议持深度怀疑态度。
阅读原文 →
- IT之家·政策监管
欧盟拟禁止 13 岁以下儿童使用社交媒体
欧盟委员会主席冯德莱恩表示，欧盟正致力于禁止 13 岁以下儿童使用社交媒体，15 岁以下不得开设独立账号。欧盟将提交《欧盟儿童法案》提案，要求社交、游戏及 AI 聊天等平台设置年龄门槛与核验机制，违规企业最高可被罚年营收 6%。
阅读原文 → - IT之家·政策监管
香港将推动全民 AI 培训与跨境自动驾驶
香港特区行政长官李家超公布首个五年规划与施政报告，提出推动人工智能成为重要产业、提升市民 AI 素养并支持中小企业应用。同时推进跨境自动驾驶发展，助力国产飞机通过香港进入世界市场。
阅读原文 → - IT之家·行业动态政策监管
扎克伯格：AI 安全应靠独立外部评估
Meta CEO 扎克伯格发文称，各 AI 实验室因竞争与法律责任天然有动力提升模型对齐，保障 AI 安全应引入独立外部评估与顾问，而非放缓 AI 发展，并提到 Meta 曾为安全将 Muse 发布推迟数月。
阅读原文 → - TechCrunch AI·行业动态政策监管
黄仁勋：AI无需专门监管，安全可由企业解决
英伟达 CEO 黄仁勋表示，AI 并非某种“外星心智”，只是硬件与软件的组合，因此安全问题可以由各家 AI 产品厂商通过工程手段自行解决，无需依赖外部监管。
阅读原文 → - The Verge AI·行业动态政策监管
民调显示AI与数据中心在美国不受欢迎
《纽约时报》与锡耶纳大学公布的民调显示，AI 与数据中心在美国选民中极不受欢迎。在1503名可能投票者中，61%反对为AI技术建设数据中心，这一民意正被政界人士关注和回应。
阅读原文 →
- IT之家·政策监管
奥尔特曼称AI行业自律可守住安全底线
在旧金山举行的 Salesforce 活动上，OpenAI CEO 奥尔特曼表示，相信AI公司可通过行业协作、独立评估与更严格的安全流程，在不给公众造成重大伤害的前提下推进前沿研究，无需先行依赖政府监管。
阅读原文 → - IT之家·政策监管
黄仁勋称AI行业不需要新法律
在 Salesforce 活动上，英伟达 CEO 黄仁勋表示AI“速度”与“安全”是虚假对立，行业不需要为AI安全制定新法律或监管规定。他认为企业可依产品成熟度控制发布节奏，并靠市场竞争、用户选择与商业声誉推动安全改进。
阅读原文 → - IT之家·政策监管
奥尔特曼回应监管：相信行业能安全开发AI
据彭博社报道，OpenAI CEO 奥尔特曼在 Dreamforce 大会上表示，相信自家公司与整个行业有能力安全地开发AI，不会给公众造成重大伤害。此番表态正值业界与政策制定者就AI是否需要政府监管展开辩论之际。
阅读原文 → - The Decoder·行业动态政策监管
AI实验室的数据信任难题未解
OpenAI与Anthropic都向企业客户承诺其数据不会用于模型训练，但Anthropic宣布旗舰模型Fable的使用日志将保留30天后，Palantir、英伟达和Booz Allen Hamilton便退出将其用于敏感业务。企业客户对AI厂商的数据政策仍存疑虑。
阅读原文 →
- TechCrunch AI·政策监管行业动态
OpenAI、Anthropic 与 Google 磋商 AI 安全
OpenAI 确认已与 Anthropic 和 Google DeepMind 就 AI 安全进行了数周会谈。与此同时，特朗普团队淡化安全担忧，主张加快进度以跟上中国。
阅读原文 → - IT之家·政策监管
诺奖得主雷萨呼吁尽快立法限制 AI
诺贝尔和平奖得主玛丽亚·雷萨表示，AI 先借社交媒体争夺注意力，又通过聊天机器人影响人的生理心理，第三波则冲击人的自主决定权。她呼吁民众推动立法监管，认为 AI 监管是公共安全议题而非言论自由议题。
阅读原文 → - IT之家·行业动态政策监管
OpenAI、Anthropic 与谷歌 DeepMind 合作研究 AI 安全
OpenAI 全球政策主管透露，三方已就 AI 安全问题接触数周，并认为此类协调无需反垄断豁免。此前 Anthropic CEO 呼吁放缓最先进 AI 研发，奥尔特曼与马斯克均表示支持。
阅读原文 → - IT之家·政策监管
国家网信办通报一批执法典型案例
国家网信办通报一批网络执法典型案例，涉及网页篡改、设置恶意程序、数据泄露、个人信息泄露，以及未落实人工智能生成合成内容标识要求、新技术新应用未经评估上线提供服务等。相关单位已被责令改正并处罚。
阅读原文 →