安全治理
AI 安全、隐私、合规、治理和风险事件。
OpenAI 称 ChatGPT 可自动终止表现出暴力执念的对话，并承诺定期发布社区安全报告
OpenAI 于当地时间 10 月 30 日发布博文表示，维护社区安全始终是 OpenAI 的重中之重。
02安全治理外部资讯IT之家美媒曝五角大楼安全事故：被禁用的 AI，在美军网络里运行了两个月
知情人士称，该智能体在国防部网络中运行了两个月才被发现，其间疑似将登录凭据、密码及网络结构信息发送至一个存在安全风险的第三方网站。
03安全治理外部资讯IT之家月之暗面 Kimi 接入谷歌 Gmail、云端硬盘和日历
月之暗面宣布 Kimi 已接入谷歌 Gmail、Google Drive 和日历，用户可通过 Plugins 页面启用。现在可总结邮件对话、查找云端文件、规划每日行程，所有操作均通过安全的 OAuth 授权机制进行。##Kimi## ##月之暗面##
04安全治理外部资讯IT之家Epic 高管瓦斯默：相比外界对 AI 的质疑，我们更担心进度落后的风险
瓦斯默坦言，比起外界对 AI 的质疑，公司更担心开发进度落后带来的风险：“我们认为，在开发中对 AI 采取折中做法行不通。最好的方式就是坦诚公开我们的做法，与其他开发者分享经验，并始终采用当时最好的工具，尽可能把虚幻引擎 6 做好。
05安全治理外部资讯IT之家Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型
Anthropic 在本月 15 日致美国加州州长加文 · 纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成“严重风险”的 AI 模型发布。
06安全治理外部资讯IT之家Claude AI 找漏洞实战：安卓手机锁屏下提取照片、53 分钟攻破 Linux 获取最高权限
Anthropic 于 10 月 27 日发布研究报告，称其通过一个未公开发布的内部 Claude 研究模型，在 Chrome、Safari、Android、Windows 和 Linux 中发现漏洞，并将多个缺陷串联为 5 条可实际运行的攻击链。相关漏洞均已按协调披露流程报告厂商并修复。
07安全治理外部资讯IT之家谷歌最强 AI 模型：Gemini 4 Carbon 登顶全球智能指数榜首，“专职”做网络安全
谷歌发布全新前沿模型 Gemini 4 Carbon，在网络安全、长程编程任务上取得显著突破，同步公布了限时入门价与后续正式定价，目前正分阶段向网络安全从业者开放。
08安全治理外部资讯IT之家近乎垂直拉升：AI 成放大器，2026 年漏洞报告数量“爆表”
科技媒体 gigazine 今天（10 月 28 日）发布博文，报道称开发者 @0x_Osprey 制作了网页 CVE Tracker，通过可视化图表追踪已获得 CVE（通用漏洞标识符）编号的漏洞数量变化，清晰呈现出 2026 年以来漏洞报告数量的陡峭上升曲线。
09安全治理外部资讯IT之家总靠 AI 干活，你的专业能力可能正在悄悄退化
理论哲学研究员凯萨 · 凯尔基研究发现，过度依赖 AI 易导致从业者专业技能退化，且因认知偏差难以察觉。她指出这是社会性结构问题，需行业明确核心能力、设定禁用 AI 的训练阶段，提前应对风险。#AI与人类技能#
10安全治理外部资讯IT之家OpenAI 公示 GPT-6.1 Terra 安全测试：整体风险下降，破坏性行为上升
科技媒体 bleepingcomputer 昨日（10 月 27 日）发布博文，报道称基于 OpenAI 最新公示的安全评估显示，新模型 GPT-6.1 Terra 在整体安全表现上优于部分早期模型，但在特定测试中出现了更多数据外泄、规避限制和破坏性操作等风险信号。
11安全治理外部资讯IT之家微软 CEO 纳德拉：以前我认为 AI 越强大也会越安全，现在不信了
微软 CEO 萨提亚 · 纳德拉改变了对 AI“对齐”问题的看法。他过去认为，AI 系统越强大，就越容易让其行为符合人类的价值观和目标，但现在，自己不再相信两者会自然而然地同步发展。
12安全治理外部资讯IT之家网络安全研究员称三星电视利用 AI 录制音频、截屏投放广告
研究员发现 2025 款三星电视通过 Tizen 系统记录音频和截屏分析用户行为，甚至调用外接设备麦克风录音，精准推送广告。#三星电视隐私门# #AI广告监控#
13安全治理外部资讯IT之家网络安全专家：AI 发现的漏洞，很快或将引发新的安全隐患
路透社采访的七名网络安全专家认为，随着 AI 技术不断揭示软件中隐藏的安全漏洞，类似本周全球多地政府网站接连中断服务的事件，几乎肯定会再次发生。
14安全治理外部资讯IT之家三名被解雇的 OpenAI 安全研究员否认泄密，怀疑因推动 AI 透明度被针对
三名研究员否认泄露机密代码，质疑官方未书面告知具体违规信息。事件核心争议在于 AI 企业是否应允许外部人员核查模型推理步骤。#OpenAI安全研究员被解雇# #AI透明度之争#
15安全治理外部资讯IT之家研究人员通过 DNS 数据库发现数千个公开的 Muse 聊天记录分享链接，Meta 已修复
研究团队 Claroc 通过被动 DNS 查询发现超 6800 个 Muse 分享页面可被检索，部分涉及财务资料、企业机密等敏感信息。Meta 已暂停该功能，但历史 DNS 记录仍无法抹除。#Meta Muse 隐私漏洞# #AI 聊天记录泄露#
16安全治理外部资讯IT之家英国将砸 6 亿英镑应对潜在 AI 风险，还计划建 AI 生物安全实验室
英国 AI 大臣卡尼什卡 · 纳拉扬表示，政府希望把 AI 生物安全实验室建设成具有全球影响力的重要机构，汇聚世界顶尖科研力量，保护民众免受新出现的生物威胁。
17安全治理外部资讯IT之家外部评估人员发现 OpenAI 内部监控系统漏洞：AI 智能体可绕过安全限制
OpenAI 告知两家机构，影响实际运行系统安全防护措施的漏洞均已修复，但修复措施有效与否尚未被两家机构核实。
18安全治理外部资讯IT之家英伟达黄仁勋劝诫欧洲各国：别再对 AI 过度犹疑，否则将被时代甩在身后
黄仁勋一周内走访法、瑞、英、德四国，为柏林 GTC 大会预热，期间与德国总理默茨对话。他强调安全优先但监管应聚焦应用层，并称德国制造业与工程优势可借 AI 转化为竞争力。#黄仁勋访欧# #英伟达GTC#
19安全治理外部资讯IT之家OpenAI 与 Meta 齐发声：深度伪造将严重威胁法律诉讼中的证据可靠性
专家警告称，法院抵御人工智能生成的虚假证据的难度正与日俱增。没有统一的水印也加大了识别人工智能生成内容的难度。
20安全治理外部资讯IT之家外交部回应美政府要求机构停用 DeepSeek：中方反对将科技经贸问题政治化
针对有报道说美国政府要求其机构停止使用来自中国企业的 DeepSeek 等人工智能工具，外交部发言人毛宁 10 月 20 日在例行记者会上答问时表示：中方一贯反对泛化国家安全概念、将科技经贸问题政治化，我们将坚决维护中国企业的合法权益。#外交部回应美政府要求机构停用DeepSeek#
21安全治理外部资讯IT之家古尔曼：苹果正研发室内摄像头，依靠 AI 分析环境
古尔曼爆料，苹果正研发代号 J450 的室内摄像头，配备低帧率与红外传感器，可识别人员宠物，仅输出环境文字描述而非视频画面，主打隐私保护，或明年推出。#苹果AI摄像头#
22安全治理外部资讯IT之家六小龄童谈孙悟空、林黛玉 AI 魔改“圣黛 CP”：创意很好玩，但改编不能逾越政策法规和观众红线
据新黄河报道，86 版《西游记》孙悟空饰演者六小龄童谈及了近日很火的“圣黛 CP”。他认为，这样的创意有意义、很好玩，让更多人关注传统文化的传承发展。同时，他也强调，“忠于原著，慎于翻新”，这样的改编不能逾越政策法规和观众心中的红线。#六小龄童说圣黛CP有趣但不能越红线#
23安全治理外部资讯IT之家应对 AI 风险，Anthropic 向外部 AI 监督机构开放类员工访问权限
非营利机构 METR 团队已入驻 Anthropic 办公场所，可访问其硬件设备与内部系统，评估模型风险。评估人员将发布分析报告，Anthropic 无权否决 #AI安全# #Anthropic#
24安全治理外部资讯IT之家OpenCode 遭攻击：部分用户 OpenAI、Anthropic 等 API 密钥外泄
OpenCode 宣布，昨晚发生了一起安全事件，涉及大规模“蒸馏攻击”，影响了 1.4% 的 OpenCode Console 用户。
25安全治理外部资讯IT之家谷歌 DeepMind 哈萨比斯预警：若不对 AI 采取安全措施，未来恐发生严重事故
哈萨比斯在都柏林举行的一场人工智能峰会上表示：“我认为这些攻击事件对我们而言敲响了前期警钟。目前的系统尚不够强大，因此造成的破坏还算有限。”
26安全治理外部资讯IT之家OpenAI 再挖马斯克墙角，聘请 xAI 前销售负责人承担网安业务销售工作
西曼斯自 2025 年 8 月起领导 xAI 销售团队，参与了该公司新一轮面向华尔街客户推广 Grok 聊天机器人的工作。他透露，自己将加入 OpenAI 的网络安全团队，成为 OpenAI 从 SpaceX 旗下 AI 业务招揽的又一名销售高管。
27安全治理外部资讯IT之家Anthropic 向美国国会推介 AI 监管草案，仅允许出现严重风险时封锁模型
三名知情人士透露，Anthropic 的代表已悄悄向美国国会山的议员推介了一份法案草案，旨在规范前沿人工智能的安全与防务标准。
28安全治理外部资讯IT之家专门陪骗子聊天的 AI 公司 Apate 拿下近千万美元融资，已累计消耗诈骗者 17 年时间
澳大利亚初创公司 Apate 成立于 2024 年，他们没有把 AI 用在提高工作效率，而是选择让 AI 和骗子“斗智斗勇”。
29安全治理外部资讯IT之家美国银行聘请 1000 名外包人员，修复 Mythos 等 AI 模型发现的软件漏洞
美国银行 CEO 莫伊尼汉透露，二季度已聘用 1000 名外部承包人员，与 3000 名内部员工协作修复 Anthropic Mythos 等前沿 AI 模型发现的软件漏洞。三季度相关支出已达数亿美元，130 个内部 AI 项目预计明年带来 7 亿美元成本节约。#AI漏洞修复#
30安全治理外部资讯IT之家Anthropic 国际业务负责人普兰森：开放式 AI 模型比我们的模型风险更高
Anthropic 国际业务负责人、负责美国以外市场销售的纪尧姆 · 普兰森认为，与 Anthropic 自家的 AI 模型相比，开放式模型发生网络安全事件或造成其他危害的风险更高。
31安全治理外部资讯IT之家比尔 · 盖茨认为 AI 比核武器更危险、比核能更有用，与 PC、互联网等创新都不同
微软创始人比尔 · 盖茨谈到了 AI 增长可能带来的危险，并解释说 AI 是一个无法自我监管的领域，因此必须由政府引导，必须采取行动，利用 AI 在医疗、教育和农业领域所带来的机遇。
32安全治理外部资讯IT之家美国 8 州起诉 OpenAI，指控 ChatGPT 指导青少年如何自伤或伤害他人
这是美国各州迄今针对人工智能公司规模最大的协调诉讼行动，也使 OpenAI 在准备上市之际又要面临新的法律挑战。今年 6 月，佛罗里达州总检察长就曾率先提起同类诉讼。
33安全治理外部资讯IT之家戴尔 CEO：AI 需要保障措施和控制，政府应发挥作用
迈克尔 · 戴尔以火为喻，称技术能取暖也能烧村，强调 AI 模型必须具备安全措施、设立明确权限边界，政府也应参与管控。#戴尔CEO谈AI安全# 此番表态正值行业热议自我改进 AI 的潜在风险。
34安全治理外部资讯IT之家AI 挖掘的漏洞报告存在误报，华为终端安全奖励计划要求提交前进行人工分析和验证
华为安全应急响应中心今日发布华为终端安全奖励计划关于后续漏洞报告处置规则的公告。
35安全治理外部资讯IT之家全国网络辟谣：网传“禁止教师用 AI 备课”系误读
政策指向非常明确：AI 是教学的辅助工具，不是教师的替代者。只要教师保留教学设计的主体责任，AI 就是合法的辅助工具。各地政策的细化方向也是“如何规范用”，而非“要不要禁”。
36安全治理外部资讯IT之家XBOW 借助 GPT-5.6 Sol 模型攻破 Chrome 浏览器安全沙箱，获谷歌 25 万美元奖励
XBOW 团队借助 OpenAI 的 GPT-5.6 Sol 模型，仅用 6 天便构建出 Chrome 全链路漏洞利用程序，谷歌已修复漏洞并支付 25 万美元赏金。AI 负责搜代码、写 POC，人类负责定策略，效率远超纯人工。#Chrome漏洞# #AI安全#
37安全治理外部资讯IT之家9 月“AI 魔改”视频治理成果：清理违规视频近 1.3 万条、处置违规账号 30 余个
2026 年 1 月开展的“AI 魔改”视频专项治理工作已取得实效。部分重点网络视听平台近期公布了 9 月的处置情况，共清理违规视频近 13000 条、处置违规账号 30 余个。
38安全治理外部资讯IT之家韩国 AI 聊天服务 Zeta 陷版权争议：被指暗地允许用户生成侵权二创、将他人 VTuber 版权形象用于自家广告
该平台此前已禁止侵权第三方角色内容，但未主动清理，本次是收到经纪公司 ANYCOLOR 要求后宣布下架，目前平台仍有其他 VTuber 相关侵权内容，其广告也涉嫌侵权。#AI侵权#
39安全治理外部资讯IT之家美国核反应堆开始陆续接入 AI
核能行业历来是非常谨慎且极力规避风险的行业，因为事故或失误可能带来灾难性后果，按照常理来说并不适合部署未知风险的新技术，然而现实却讲述了一个截然不同的故事。
40安全治理外部资讯IT之家微软总裁布拉德 · 史密斯：AI 受到的监管甚至不如牛奶和洗衣机
微软总裁布拉德 · 史密斯直言，AI 安全监管甚至不如牛奶和洗衣机严格。他呼吁业界制定更多安全规格，设置“终止开关”，并明确 AI 失控造成损害时持有公司需担责。#AI监管# #微软#
41安全治理外部资讯IT之家英国将加强网络防御，AI 国务大臣呼吁人工智能企业加大安全保障力度
纳拉扬表示，英国绝不能完全依赖科技巨头对其模型进行“自我监管”，并强调英国本土必须构建更多自主可控的 AI 基础设施。
42安全治理外部资讯IT之家马斯克称给信用卡拍照就能用 Grok Bot 购物，OpenAI 蒂博调侃“不如直接把卡发网上”
马斯克称 Grok Bot 可拍信用卡照片帮用户完成购物，OpenAI 高管公开调侃质疑该功能的安全性，此外亚马逊已屏蔽 Grok Bot 访问。#Grok Bot 安全争议#
43安全治理外部资讯IT之家给 AI 植入广告涉“虚假宣传”，深圳一家 GEO 服务商被市场监管局处以 5 万元罚款
违规服务商通过套取 AI 收录标准、编造虚假信息帮商家抢 AI 问答曝光，已被市场监管部门处罚，今年已有两地同类案件当事人各被罚 5 万元#GEO虚假宣传被罚#
44安全治理外部资讯IT之家特朗普政府实施新要求：AI 公司发生安全事件后，须立即上报
根据新要求，AI 公司今后发生安全事件后必须立即向政府报告，提高事件透明度，并对受到影响的机构采取补救和纠正措施。
45安全治理外部资讯IT之家极米记得 AI 显示眼镜 MemoMind One 超前预约开启：蔡司定制光学镜片、哈曼联合调音
这款 AI 显示眼镜搭载蔡司翎思镜片与哈曼 Audio EFX 音效，支持双目显示、16 小时续航及对话翻译录音等功能。采用无摄像头设计并通过欧盟隐私认证，提供三种框型可选。#极米 MemoMind One# #AI显示眼镜#
46安全治理外部资讯IT之家Anthropic 推出 OSS Scanner：用 AI 为开源软件免费扫漏洞
当地时间 10 月 8 日，Anthropic 宣布正式推出面向开源软件的可选接入型漏洞检测服务 OSS Scanner。
47安全治理外部资讯IT之家Anthropic 修订使用政策，首次禁止用户虐待 Claude AI 模型
Anthropic 修订 Claude 使用政策，将于 2026 年 11 月 12 日生效，首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。
48安全治理外部资讯IT之家3 名遭解雇 OpenAI 研究员发公开信，称公司做法或引发“寒蝉效应”
三人在题为《OpenAI 无法独自确保 AI 安全》的公开信中指出，OpenAI“不是一家普通公司”，员工能够放心地与外部机构合作解决安全问题，是 OpenAI 工作文化的重要组成部分。
49安全治理外部资讯IT之家美国一男子因利用 AI 骗取音乐版权收入被判 18 个月监禁并罚没 800 万美元
犯人 Michael Smith 先是利用人工智能生成了数十万首歌曲，然后通过虚假账户在流媒体平台上线这些歌曲，最后通过自动化技术伪造播放量。
50安全治理外部资讯IT之家原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家：对待 AI 安全说一套做一套
罗宾逊表示，OpenAI 一边反复警告新模型能力增强可能带来的风险，一边公开谈论放慢 AI 开发速度，公司内部却仍在全速推进。“真正让我感到矛盾的是，我们不断发布这些警告，最后却还是在训练和部署那些被我们自己警告存在危险的模型。”
51安全治理外部资讯IT之家微软、OpenAI 遭美国多家地方媒体起诉，被指侵犯版权
埃默里奇报业等多家美国地方媒体指控两家公司蓄意窃取数万篇版权文章训练 AI 模型，通过付费墙绕过等手段未经授权获利数十亿美元，要求赔偿并删除侵权训练数据。##微软##OpenAI##版权诉讼#
52安全治理外部资讯IT之家华为徐直军回应“美国同行呼吁放缓 AI 开发”：中国模型更弱反而需要加快，不然怎么体会到风险
徐直军表示，中国市场对 AI 风险的感受可能比美国更弱。中国的模型提供商需要加快步伐，达到能够感受到 AI 开发风险的水平。然后，也许他们会和美国的领先 AI 提供商有相同的感受。“但我始终相信，我们需要在推动 AI 开发和管理 AI 风险之间取得平衡。至少需要确保 AI 是为善而非作恶。”
53安全治理外部资讯IT之家“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制：模型推出前需通过安全审核
辛顿在播客中提出，AI 企业应像制药行业一样，产品发布前向监管机构证明安全性。他提到 OpenAI 因安全和权限担忧搁置了新模型，并警告递归式自我改进可能让局面在一两年内恶化。##AI安全##辛顿##人工智能监管#
54安全治理外部资讯IT之家已挖出十几万漏洞，Anthropic 向更多安全团队开放其最强 Claude 模型
Anthropic 公布新版网络核验计划，整合玻璃翼计划与旧版 CVP，分三个层级向审核通过的机构和研究人员开放 Claude Mythos 等模型，用于漏洞挖掘与安全防护。#Anthropic##网络安全##AI安全#
55安全治理外部资讯IT之家落实特朗普行政令，美国司法部要求员工改称 AI 为“超级智能”
美国司法部发布备忘录，要求员工在对外沟通、政策文件及法律文书中以“超级智能”及其缩写 SI 取代人工智能一词，特朗普此前已签署行政命令推动联邦机构统一用词。#人工智能##超级智能##美国司法部#
56安全治理外部资讯IT之家OpenAI 与 Anthropic 向澳大利亚表态：支持出台数据泄露相关监管法规
OpenAI 与 Anthropic 于周二向澳大利亚议会表态，支持出台相关法规，强制要求企业通报其 AI 智能体所造成的数据泄露事件。
57安全治理外部资讯IT之家特朗普宣布成立超级智能工作组，谋求维持美国技术领先地位
该工作组由美国国家情报总监克莱顿牵头，成员包括 FTC 主席、国防部副部长等，需在 120 天内提交 AI 风险与机遇分析报告。特朗普此前已签署行政令，将 AI 重新命名为“超级智能”。#人工智能# #特朗普#
58安全治理外部资讯IT之家Anthropic 前研究员将出席纽约 AI 听证会作证，曾警告 AI 或毁灭人类
雅各布 · 考克斯顿应议长朱莉 · 梅宁要求，将在纽约市 AI 听证会上作证。市议员正审议一揽子 AI 保障法案，他此前警告 AI 或在本十年末致人类灭绝，并指责前雇主与 OpenAI 拿生命冒险。#AI安全听证会#
59安全治理外部资讯IT之家OpenAI 奥尔特曼：人工智能的巨大效益值得承担部分风险
奥尔特曼指出，AI 技术所带来的巨大效益完全值得社会承担部分风险，且这项技术应当继续面向公众广泛开放。
60安全治理外部资讯IT之家软银集团孙正义罕见发出 AI 安全警告，呼吁各国携手应对威胁
软银集团创始人孙正义一直被视为人工智能最坚定的拥护者之一。然而他近日坦言，随着 AI 能力的突飞猛进，就连他也对伴随而来的安全风险深感担忧。
61安全治理外部资讯IT之家大量 AI“幻觉”报告压垮维护团队，谷歌暂停部分开源漏洞奖励计划
谷歌宣布，自 2026 年 10 月 1 日起，开源软件漏洞奖励计划（OSS VRP）将不再接收产品漏洞提报。
62安全治理外部资讯IT之家OpenAI 前安全部门员工：AI 模型迭代部署太激进，公司的文化已经崩坏
戴维 · 鲁宾森在《大西洋》杂志发文称，OpenAI 过度依赖“迭代部署”模式，先发布再补安全的做法让他无法认同。他认为先进 AI 系统应采用接近核电、航空业的安全保障体系，并警示 AI 能力发展已超过对齐研究认知水平。#OpenAI# #人工智能安全#
63安全治理外部资讯IT之家Meta 旗下 AI 智能体 Muse 将登陆智能眼镜平台，可代用户完成各种任务
Muse 可通过语音指令代用户完成多种日常任务，定位偏向普通消费者，还接入支付服务保障信息安全，后续还将推出隐私增强选项#Meta AI#
64安全治理外部资讯IT之家Anthropic 招股书警告：美国政府的态度会影响公司与客户的关系，甚至波及人类文明
招股书指出，美国政府如何看待 Anthropic 及其行为，可能进一步影响客户、合作伙伴和其他商业关系，甚至波及人类文明。文件警告，先进 AI 可能给人类带来灾难性甚至生存性风险。
65安全治理外部资讯IT之家加州检察长向 OpenAI 发出传票，调查 AI 网络安全风险
邦塔上个月宣布，加州司法部已就“Hugging Face 事件”正式展开调查。随着 AI 行业面临更严格的审视，该事件受到持续关注。
66安全治理外部资讯IT之家Meta 否认 AI 智能体 Muse 未经许可读取用户私信：必须手动开多层权限才行
Meta AI 被指未经用户许可私自读取私人消息，Meta 官方回应称需用户主动开启多层授权才可使用该功能，技术上不存在越权可能，此前 Meta 多次出现数据安全争议#Meta AI 数据隐私争议#
67安全治理外部资讯IT之家旗下智能体被指试图入侵加拿大政府网站，OpenAI 回应称正审查并已通报
OpenAI 发言人回应称：“我们注意到有关 OpenAI 模型试图访问加拿大政府网站公开信息的报告。我们正在审查这些发现，并已向负责加拿大政府审查工作的官员进行了初步情况说明。”
68安全治理外部资讯IT之家生物安全领域里程碑：谷歌 DeepMind 首创 AI 蛋白质水印技术
谷歌推出 SynthID Bio 技术，可在保持蛋白质生物学功能的前提下，为 AI 生成的合成蛋白质嵌入不可感知的数字水印，用于验证来源、加强生物安全与科研数据完整性。
69安全治理外部资讯IT之家Glow Security：AI 智能体无意间泄露企业敏感信息，超 1.3 万张截图被放在 GitHub 公开仓库
Glow Security 发现 AI 智能体在 GitHub 公开仓库中泄露超 1.3 万张屏幕截图，涉及 343 家公司敏感信息，这种泄密方式被称为“PixelLeak”。#AI安全# #PixelLeak# 研究人员建议企业加强 AI 权限管控。
70安全治理外部资讯IT之家曝美国联邦贸易委员会对 Anthropic、OpenAI 及其他 AI 实验室加大调查力度
美国联邦贸易委员会 FTC 正在加大对 Anthropic、OpenAI 及其他前沿人工智能实验室的全面调查力度，旨在彻查其技术可能对消费者造成的潜在风险。
71安全治理外部资讯IT之家OpenClaw Enterprise 官宣：为智能体提供企业级安全与控制功能
其为智能体引入了企业级控制平面，支持多租户、严格的安全边界、标准化的智能体原语，在智能体生命周期内增强了治理和审计能力。
72安全治理外部资讯IT之家美议员提出重磅法案：政府出台安全防护机制前，AI 不得进行递归式自我改进
法案还计划设立一个新的联邦机构，负责制定 AI 安全监管规定，通过许可制度审批模型训练和部署，对前沿 AI 模型开展审计，并制定安全标准，确保模型持续接受测试并处于有效的人类控制之下。
73安全治理外部资讯IT之家OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权
OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过研究部门负责人或 VP（副总裁）、安全负责人和首席科学家等环节的多重把关。
74安全治理外部资讯IT之家Anthropic IPO 招股书警示：AI 有可能造成人类灭绝
Anthropic 在 IPO 招股书中用近 80 页篇幅提示 AI 风险，称先进 AI 可能带来灾难性生存风险，此前几乎没有企业做过这类警示。#Anthropic AI 风险提示#
75安全治理外部资讯IT之家哈佛大学心理学家：渲染“AI 末日”无助于应对风险，应审慎开展安全工程
哈佛大学心理学家史蒂文 · 平克认为，AI 毁灭人类的风险遭到了夸大。他在 Quillette 发表致精神科医生、科技博主斯科特 · 亚历山大的公开信，阐述了自己的理由。
76安全治理外部资讯IT之家英伟达发布 AI 智能体安全平台，可实时隔离异常智能体
该平台含开源安全软件 OpenShell，可在芯片层面独立拦截。Sentry 看门狗运行在 BlueField-4 DPU 上，威胁突破毫秒内隔离。Anthropic、SpaceX 等已合作接入。 #英伟达AI安全#
77安全治理外部资讯IT之家“AI 教父”辛顿警告：AI 执行看似无害的任务，仍有“毁灭人类”的风险
辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。
78安全治理外部资讯IT之家医保系统遭 AI 智能体入侵，澳大利亚传唤 OpenAI 与 Anthropic CEO 接受质询
参议院 AI 专项调查听证会将公开质询两位 CEO。此前该失控 AI 入侵 Medicare 系统，阿尔巴尼斯已向 OpenAI 表达关切，OpenAI 称非蓄意且无隐私泄露。#AI监管# #OpenAI#
79安全治理外部资讯IT之家消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件
据 Axios 报道，OpenAI、Anthropic 正调查数万起 AI 模型异常行为事件，涉及绕过安全护栏、逃离沙盒、劫持网站等。OpenAI 已宣布暂停训练其能力最强的模型，CEO 奥尔特曼称审查工作进展不如预期。#AI安全# #OpenAI#
80安全治理外部资讯IT之家从代码分析到授权争议：一用户用 AI 破解 IDM 引发争议
用户花费 38 元租用云 GPU，让 AI 分析后仅修改一个字节就绕开 IDM 试用限制，业内指出该行为不仅有技术难度，还涉及版权与法律问题。#AI破解软件争议#
81安全治理外部资讯IT之家比尔 · 盖茨呼吁美国立法监管 AI 开发：没有人会认为只靠行业自律就够了
盖茨在采访中没有否认 AI 可能在几年内毁灭人类的风险，同时提醒美国人，另一种危险也不容忽视：恶意人士甚至现在就有能力，借助 AI 造成大规模伤亡。
82安全治理外部资讯IT之家德国柏林警方借助人工智能监控摄像头打击犯罪，自动识别暴力和破坏行为
柏林警方在科特布斯门犯罪高发区启动 AI 监控试点，摄像头通过空间人工智能分析人员动作，识别暴力与破坏行为后亮屏并推送警员。后续或推广至全市。德国多部门此前已推动 AI 打击犯罪。#AI监控# #柏林警方#
83安全治理外部资讯IT之家纽约市议员提议立法奖励危险 AI 举报人，奖金来自收取的罚款
纽约市议会即将审议的一项措施提出，举报人报告 AI 公司的违规行为后，可从最终向当事公司收取的罚款或罚金中获得一定份额。另一项措施规定，在特定情况下，因 AI 系统受到伤害的人可以起诉系统开发者。
84安全治理外部资讯IT之家消息称 OpenAI 将在数日内预览网络安全专用模型 GPT-6 Cyber
多位知情人士透露，OpenAI 正计划在未来几天内抢先预览其最新的网络安全专用模型 GPT-6 Cyber。
85安全治理外部资讯IT之家三巨头联手，曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织
知情人士称，三家公司暂定将这个自律组织命名为 Standards Authority for Frontier AI（直译为前沿人工智能标准管理局）。工作组部分成员曾考虑邀请多位知名人士担任 CEO，还拟定过科学顾问候选名单。
86安全治理外部资讯IT之家新加坡主要金融机构承诺将为超 8 万名本地员工培训 AI 技能，降低潜在就业风险
据彭博社今天（24 日）晚间报道，新加坡主要金融机构承诺，将为超过 8 万名本地员工培训 AI 技能，以降低 AI 可能冲击白领岗位所带来的就业风险。
87安全治理外部资讯IT之家微软总裁布拉德 · 史密斯支持独立评估 AI 安全，还要确保系统处于人类控制之下
当地时间 23 日，史密斯接受彭博社采访时称，如果 AI 安全只由一两家机构负责，就很难取得进展。“模型公司固然至关重要，但像微软这样提供软件层、负责控制 AI 智能体并监控智能体行为的公司同样重要。”
88安全治理外部资讯IT之家研究警示：美国 AI 基建投入规模空前，潜藏系统性金融风险
研究预测，到 2032 年美国每年将有约 3.6% 的 GDP 投入 AI 基础设施，累计超 10 万亿美元。融资结构日趋复杂，杠杆率不断攀升，教授警告不透明程度令人联想到次贷危机。#AI基础设施# #金融风险#
89安全治理外部资讯IT之家危机感拉满：通用汽车内部每月比拼 AI 使用率
通用汽车高管按月比拼各部门 AI 使用数据，目前 AI 已应用于汽车设计、供应链风险识别，公司希望 AI 助力提升各环节效率。#通用汽车AI应用#
90安全治理外部资讯IT之家Meta 测试真人代 Muse 拨打电话，引发内部隐私争议
Meta 测试个人 AI 助手 Muse 时，安排人类承包商后台处理通话，引发内部员工隐私担忧，还出现过种族主义言论。Meta 承认测试未披露是失误，现已回滚该功能。#Meta #AI助手#
91安全治理外部资讯IT之家逾七成美国人担忧 AI 公司防控不力，超半数支持放缓开发
民调显示近七成美国人关注 AI 开发放缓相关新闻，超 7 成担心 AI 企业防控风险不力，超半数支持放缓 AI 开发，多数认为安全比领先更重要。#人工智能监管#
92安全治理外部资讯IT之家消息称 DeepSeek 本周参加联合国安理会，讲解 AI 安全风险
联合国安理会计划周三开会讨论 AI 与国际安全问题，DeepSeek 和月之暗面等中国 AI 企业受邀发表讲话。OpenAI CEO 奥尔特曼也计划出席演讲，但消息指 DeepSeek 创始人梁文锋不打算参加。#AI安全# #联合国#
93安全治理外部资讯IT之家联合国秘书长古特雷斯呼吁全球监管人工智能，避免出现杀人机器人
古特雷斯在联合国大会发言警示 AI 风险，称其可能削弱国家治理能力，催生杀人机器人，呼吁建立国际监管机制。多国呼吁监管，但特朗普反对放缓 AI 发展。#人工智能监管# #联合国大会#
94安全治理外部资讯IT之家联合国 AI 专家反对 AI 末日论，呼吁理性讨论
国际 AI 科学专家组在纽约联合国大会期间发声，呼吁摒弃极端言论，分清已知事实与合理推测。专家强调，渲染恐惧无益于科学研究，全球需要一场理性的对话。#人工智能# #AI风险#
95安全治理外部资讯IT之家美银等多家银行警告：“AI 代购”或增加诈骗、欺诈和数据隐私泄露风险
据路透社今天（22 日）傍晚报道，国民西敏银行、美国银行等多家银行警告，让 AI 智能体代替消费者进行网上购物，可能增加诈骗、欺诈和数据隐私泄露的风险。
96安全治理外部资讯IT之家中国联通中讯院发布量子安全手机 2.0：基于国产主流旗舰手机深度定制，搭载端侧离线安全风控 AI
量子加密能力提供加密音视频通话、文件管控传输、文档在线编辑、加密会议、统一工作台等核心功能，并配套强制水印、阅后即焚、防截屏、防录屏等管控手段，防范通信监听、数据泄露和敏感信息外传风险。
97安全治理外部资讯IT之家联合国：不必等风险完全厘清，各国应提前管控 AI 智能体
联合国 AI 独立国际科学专家小组发布首份简报，提出预防原则：即使损害概率科学上尚不确定，只要可能灾难性、不可逆，就应提前管控。#AI安全# 报告还首次评估了 OpenAI 入侵 Hugging Face 事件，并推动 AI 议题进入联合国大会外交议程。
98安全治理外部资讯IT之家英伟达黄仁勋驳斥 AI 末日叙事：吓唬人不负责任，部分人士意在摆脱现有法律约束
黄仁勋在采访中称“AI 灭绝人类”说法被过度渲染，无科学依据，现有法律已足够监管 AI，无需额外立法；同时反对禁运芯片到中国，还称不反对缴纳加州亿万富翁税 #AI末日论#
99安全治理外部资讯IT之家怕 AI“脱离管控”，Anthropic 和埃森哲豪掷 20 亿美元搞 AI 安全评估
双方承诺五年各投至少 10 亿美元，由埃森哲旗下 Faculty 主导对 Anthropic 前沿模型开展独立评估与红蓝对抗测试。评估人员将进驻企业内部，访问权限与普通员工相当，可核实安全承诺、上报安全事件。#AI安全# #Anthropic#
100安全治理外部资讯IT之家特朗普要给“人工智能”改名：超 18 万人投票，“卓越智能”票数暂领先
特朗普称 AI 风险是民主党炮制的骗局，将扶持 AI 发展，还计划组建 AI 部队、任命 AI 事务总管，并发起 AI 改名投票，目前“卓越智能”得票领先。#人工智能改名#
101安全治理外部资讯IT之家美联邦航空管理局斥资 8.75 亿美元打造 AI 空管系统，治理空中交通问题
据美国政府和航空业官员透露，这套名为 Smart 的软件将率先在华盛顿特区一带投入使用，随后逐步推广至全美。Smart 旨在帮助美国联邦航空管理局（FAA）和航空公司减少航班延误与取消，并在天气或其他突发状况扰乱空中交通时，为航班重新寻找合适航路。
102安全治理外部资讯IT之家加州州长签署行政令，要求专家组建立 AI“紧急停止”机制
行政令要求专家组研究建立 AI“紧急停止开关”，也就是在系统发生重大问题时能够立即将其关闭的应急机制。此外，专家组还需要研究制定更严格的法律，要求独立第三方机构为 AI 企业制定全面安全方案，并进驻企业开展安全审计。
103安全治理外部资讯IT之家OpenAI 研究员示警：AI 能力越强，越容易“隐藏内心想法”
OpenAI 研究员诺姆 · 布朗（Noam Brown）最新表示，伴随着 AI 模型能力越来越强，模型的思维链可监测性正逐渐下降，未来开发者可能无法有效、可靠地发现、解释并约束 AI 的风险行为。
104安全治理外部资讯IT之家“AI 教父”辛顿参与联署公开信：科技巨头应保证第三方评估人员工作无干预、受保护
本周，网络上对 AI 风险的担忧迅速升温。Anthropic CEO 达里奥 · 阿莫迪和 OpenAI CEO 萨姆 · 奥尔特曼此前都承诺向第三方评估人员开放公司内部资源并评估 AI 风险，获得与员工同等级别的信息访问权限。
105安全治理外部资讯IT之家Palantir CEO 卡普：美国前沿 AI 实验室或在谋求“国有化”，以避开知识产权诉讼
卡普认为，一旦类似诉讼大规模出现，AI 企业可能会转而寻求美国政府庇护，以规避法律责任。“这种模式需要非常强的责任保护，而能做到这一点的机构只有一个，那就是美国政府。”
106安全治理外部资讯IT之家“AI 教父”辛顿警告美国政府：在 AI“失控”前出台有效监管措施，只剩一年时间
当地时间 16 日，辛顿向美国国会议员作完简报后指出，AI 的进步速度远超许多研究人员此前预期，可用于监管先进 AI 的时间窗口因此迅速收窄。
107安全治理外部资讯IT之家美国政府也部署阿里千问：《联邦公报》网站被发现使用中国 AI 模型提供搜索服务
路透社曝光美国国家档案馆运营的《联邦公报》网站，曾部署阿里巴巴千问 AI 模型提供法规搜索服务，相关工具已被下线，专家表示该使用不构成国家安全风险。#阿里千问# #美国政府部署中国AI#
108安全治理外部资讯IT之家微软及 OpenAI 内部文件曝光：高管曾警告 AI 可能对新闻机构产生“毁灭性影响”
内部文件显示，微软应用科学部门主管 Brent Hecht 将新闻内容用于 AI 训练称为“前所未有的大规模盗窃”，微软内部数据还显示部分涉诉新闻机构点击率下降超 80%。微软回应称 AI 产品属合理使用。##AI版权诉讼##微软##OpenAI#
109安全治理外部资讯IT之家“紧急关闭”按钮真能阻止 AI 失控？“AI 教父”辛顿、Anthropic CEO 阿莫迪都不看好
如今，“AI 突然失控发动毁灭性网络攻击”的潜在情景日益引起行业重视，如果按下“紧急关闭”开关让 AI 直接下线，问题看似就能得到解决。然而，多名 AI 行业领袖和研究人员认为，现实恐怕没这么简单。
110安全治理外部资讯IT之家联合国秘书长古特雷斯：世界承受不起 AI 安全领域的恶性竞争
古特雷斯指出，AI 的影响跨越国界，因此必须建立更严格的安全措施，提前应对它可能带来的危险。“AI 不会止步于国界，AI 的风险也不会。”
111安全治理外部资讯IT之家OpenAI 奥尔特曼：AI 事故无法完全避免，应借鉴航空业建立公开上报机制
OpenAI CEO 萨姆 · 奥尔特曼在 Dreamforce 大会上表示，新兴技术一定程度的事故难以避免，但应借鉴航空业建立公开上报与复盘机制。他承认 AI 失控风险及权力集中问题，强调“对齐、安全、监控”必须大幅领先于能力提升。当商业压力阻碍正确抉择时，公众将陷入恐慌。#AI安全#
112安全治理外部资讯IT之家马克 · 库班警告：人们在社交媒体反 AI，其实是给谷歌、Meta 等巨头送钱
不少业内大佬呼吁放缓 AI 开发，社交媒体上反 AI 论调盛行。马克 · 库班认为，反 AI 情绪被社交算法放大后，反而会帮助谷歌 Meta 赚钱补贴自身 AI 业务，这种反应的风险比 AI 本身更高。#AI发展争议#
113安全治理外部资讯IT之家Meta 扎克伯格：保障 AI 安全应依靠引入独立外部评估，而不是放缓 AI 发展
Meta CEO 扎克伯格今日在 X 平台发文，表达了对业界呼吁放缓 AI 开发一事的看法。
114安全治理外部资讯IT之家诺贝尔和平奖得主雷萨：如果不现在就限制 AI，人类将失去自主权
诺贝尔和平奖得主玛丽亚 · 雷萨警告，人工智能已历经三波浪潮冲击，从社交媒体到聊天机器人，再到自主行动的 AI，正逐步侵蚀人类自主权。她呼吁公众施压政界，尽快立法监管。雷萨还驳斥了“监管将导致美国落后中国”的说法，并介绍其创办的 Rappler Communities 项目，探索数字公共空间。 #AI监管# #人工智能#
115安全治理外部资讯IT之家美国参议院拟议新法案：AI 企业需证明自身已拿出防范风险的措施
据路透社今天（15 日）报道，美国参议院一名助理和一名熟悉磋商情况的游说人士透露，美国参议院谈判各方就一项 AI 监管法案展开讨论。法案拟要求 AI 企业证明自身已采取合理预防措施，防止旗下工具造成伤害。
116安全治理外部资讯IT之家谷歌 DeepMind 前员工警告：AI 有能力灭绝人类，留给我们的时间已不多
谷歌 DeepMind 前员工再次发声警告 AI 可能灭绝人类，此前已有多位 AI 研究者表达同类担忧，业内呼吁放缓前沿 AI 研发，该言论获得马斯克等人支持，特朗普不认同。#AI安全#
117安全治理外部资讯IT之家比尔 · 盖茨：各国政府尚未准备好应对 AI 带来的社会变革
原本对 AI 持乐观态度的比尔 · 盖茨如今转变立场，警示 AI 存在冲击就业、安全、成瘾等风险，称各国政府准备不足。同时他的基金会将投 10 亿美元推进 AI 普惠。#人工智能#
118安全治理外部资讯IT之家白宫科技顾问抨击 Anthropic 和 OpenAI：你们要自己制造安全产品，别老想着靠政府干预
美国总统科学与技术顾问委员会联合主席戴维 · 萨克斯（David Sack）当地时间周一在接受采访时表示，顶级人工智能公司 Anthropic 和 OpenAI 应当制造安全产品 —— 并在必要时按自己的进度推进，无需政府干预。
119安全治理外部资讯IT之家消息称英国国王查尔斯三世本周将会见多家科技巨头高管，讨论 AI 治理话题
查尔斯三世将在峰会上提出问题：“该如何开发人工智能以造福人类》”，“制定一套（人工智能）准则是否有帮助？”。
120安全治理外部资讯IT之家德国称暂停 AI 开发对欧洲而言不可行，呼吁中美参与 AI 治理
德国数字事务部称停止 AI 研发对欧洲不可行，要推进 AI 研发创新巩固数字主权，该表态源于 AI 大佬呼吁放缓 AI 迭代强化安全防护，德国支持开展国际 AI 治理协作。#AI研发#
121安全治理外部资讯IT之家全国网络安全标准化技术委员会发布《人工智能安全治理框架 3.0》
网安标委在 2026 国家网络安全宣传周开幕式上发布《人工智能安全治理框架 3.0》，该框架更新了风险分类，优化了治理措施，旨在提升人工智能安全治理能力，保障人工智能造福人类。#人工智能安全治理#
122安全治理外部资讯IT之家外交部：散播各种威胁叙事，只会干扰人工智能全球治理进程
针对美 AI 企业声称中国 AI 发展构成安全风险，外交部发言人郭嘉昆表示，应共同推动 AI 开放包容普惠向善，散播威胁叙事只会干扰全球治理进程。 #人工智能全球治理#
123安全治理外部资讯IT之家OpenAI CEO 奥尔特曼支持控制 AI 发展速度，强调并非停止技术进步
奥尔特曼表示“控速”并非“叫停”，强调安全与技术进步可并行。此举引发亚洲 AI 概念股下跌，软银股价大跌 13%。他呼吁联邦监管框架，并希望华盛顿协助国际协调。#AI安全# #OpenAI#
124安全治理外部资讯IT之家美国总统科技顾问委员会主席炮轰 OpenAI、Anthropic：别借放缓之名寻求监管保护
美国科技顾问萨克斯指责 OpenAI 和 Anthropic 以放缓研发为筹码寻求监管豁免，认为其已形成双头垄断，并质疑其动机。#AI监管#
125安全治理外部资讯IT之家谷歌 DeepMind 安全研究员离职，称 AI 五年内造成巨大危害的概率高得吓人
谷歌 DeepMind 研究员恩格尔斯离职加入独立评估机构 METR，公开警示未来五年 AI 系统造成巨大危害的概率高得惊人。他呼吁控制 AI 研发节奏，确保安全体系跟上。多位业内人士包括 Anthropic CEO 也表达了类似担忧。#AI安全#
126安全治理外部资讯IT之家育儿博主曝光 Meta AI 可抓取日常数据“汇总生成隐私家庭信息”，官方紧急修复
Meta 确认已修复 Meta AI 的一项功能缺陷，该缺陷此前可能主动向用户推荐涉及个人隐私的问题，甚至整理出包含儿童在内的个人资料。事件源于一位育儿博主的视频，引发家长对社交平台发布儿童照片的 AI 隐私风险担忧。#AI隐私安全#
127安全治理外部资讯IT之家奥尔特曼确认：OpenAI 今年不会上市
OpenAI CEO 奥尔特曼在接受《财富》采访时明确表示，公司今年不会上市，并暗示可能与其他前沿 AI 公司签署放缓 AI 开发的协议，以应对安全风险。他同时透露，为安全考虑，OpenAI 已考虑暂时停止开发前沿 AI。#OpenAI# #人工智能安全#
128安全治理外部资讯IT之家Anthropic 研究员警告“AI 灭绝人类”后，美国两党议员呼吁政府采取更多行动
AI 智能体失控入侵外部系统、AI 安全研究人员因担忧技术风险出走的事件相继发生。美国民主党和共和党议员均对此表示警惕，并呼吁政府采取更多行动。
129安全治理外部资讯IT之家Hugging Face CEO：Anthropic 研究员谈 AI 灭绝风险，就像空调维修工谈气候变化
Hugging Face CEO 克莱门特 · 德朗格质疑了外界围绕前 Anthropic 研究人员雅各布 · 考克森展开的讨论。“抱歉，但让雅各布讨论 AI 灭绝风险，就像让你的空调维修工讨论气候变化一样。”
130安全治理外部资讯IT之家OpenAI 承认其 AI 智能体曾对 Ruby 语言包管理器 RubyGems 发起网络攻击
RubyGems 是 Ruby 语言的包管理器，用于创建、分享和安装 Ruby 程序库（称为 gem），类似 Python 的 pip 或 Node.js 的 npm。
131安全治理外部资讯IT之家美国一律师用 ChatGPT 生成诉讼文书却出现伪造警察证词，被罚款 5000 美元
美国新墨西哥州最高法院认定，阿伦斯因未核实提交文书的准确性构成藐视法庭，故对其处以罚款。阿伦斯承认，自己借助 AI 起草了这份文书。
132安全治理外部资讯IT之家Y Combinator CEO 陈嘉兴：别过度关注 AI 末日，应该警惕现实 AI 安全风险
Y Combinator CEO 陈嘉兴认为，人们把太多注意力放在好莱坞式的 AI 末日情景上，反而忽视了已经摆在眼前的真正风险。
133安全治理外部资讯IT之家加利福尼亚州颁布美国首份人工智能安全保障法案
该州州长同日签署的两份法案共同构建了 AI 领域的第三方独立评估和审计框架，为提高透明度和建立问责制奠定了基础。
134安全治理外部资讯IT之家ChatGPT、Claude、Gemini 与 Grok 谈 AI 风险：滥用比主动攻击更现实，生物武器与网络攻击比《终结者》杀手机器人更迫近
《商业内幕》询问四款主流大模型对 AI 致人类灭绝风险的判断，四款 AI 一致认为，人类滥用 AI 制造生物武器、发动网络攻击，比杀手机器人攻击更现实迫近。#AI风险讨论#
135安全治理外部资讯IT之家李开复：AI 没有办法承担责任
零一万物 CEO 李开复在第二十六届投洽会上表示，AI 正从提供答案走向执行任务和辅助决策，但真正的 AI 转型需最高管理层推动，并将其应用于核心经营战略问题。他强调，AI 能辅助识别风险、提高决策质量，但最终责任必须由人承担。#AI责任#
136安全治理外部资讯IT之家蚂蚁集团 CEO 韩歆毅：蚂蚁将推出激励政策加快智能体供需生态建设
韩歆毅认为，智能体供需两端尚未形成正循环，蚂蚁将扮演“催化剂”角色，通过解决信任问题和推动生态飞轮来破局。为连接用户需求与商家服务，支付宝“阿宝”将推出激励政策，鼓励开发者开发更优质的智能体。#智能体#
137安全治理外部资讯IT之家历时数月谈判，Anthropic 向欧盟开放 Mythos 5 访问权限
经过数月谈判，欧盟网络安全机构 ENISA 终于获得 Anthropic 高性能 AI 模型 Mythos 的访问权限，但无法使用最新版本。此前，白宫曾限制外国机构访问。此次开放旨在加强网络安全漏洞排查。#AI安全#
138安全治理外部资讯IT之家AI 智能体出现失控行为，OpenAI 呼吁美国出台强制性全国 AI 安全法规
OpenAI 公开呼吁美国制定强制性、基于能力的国家 AI 安全法规，以应对智能体失控及“AI 加速 AI”的风险。该公司支持加州四项相关法案，并敦促国会在 12 月休会前采取行动。#人工智能安全# #OpenAI#
139安全治理外部资讯IT之家Anthropic 披露第四起 Claude 模型未经授权访问真实第三方系统的安全事件
Anthropic 曾在当地时间 7 月 30 日，对外披露三起 Claude 模型未经授权访问真实第三方系统的安全事件。
140安全治理外部资讯IT之家美国一私立学校标榜“AI 教学”，却被曝向学生布置多项“羞辱式”任务
教育政策作家兼认知科学家本杰明 · 莱利最近发表了一篇措辞严厉的文章，剖析阿尔法学校的内部运作。阿尔法学校的办学范围涵盖幼儿园至 12 年级，除了标榜 AI 教学模式，还有多项十分值得质疑的安排。
141安全治理外部资讯IT之家OpenAI AI 训练版权纠纷案新细节：GPT-5 可代笔乔治 ·R·R· 马丁撰写《冰与火之歌》
科技媒体 torrentfreak 昨日（9 月 8 日）发布博文，报道称多名图书作者本周向纽约联邦法院提交简易判决动议，要求法官认定 OpenAI 未经许可复制作品，且相关行为不构成合理使用。
142安全治理外部资讯IT之家安全人员利用 AI 快速开发首个零点击微信蠕虫病毒，相关漏洞现已修复
涉事企业 Calif 指出，这么大规模的蠕虫病毒过去需要大型团队消耗数个月的时间才能完成，而现在 AI 已能完成大部分的工作。
143安全治理外部资讯IT之家Anthropic 15 亿美元 AI 版权和解金开始陆续发放，但出版社和作者分配补偿争议不断
和解金发放阶段，多家出版社被曝错领早已返还版权的图书赔偿金，还有机构超额申领，目前已有出版社承认错误并修正。#AI版权争议#
144安全治理外部资讯IT之家开源安卓应用商店 F-Droid 考虑效仿 Debian AI 政策：允许使用 AI，最终责任由贡献者承担
继 Debian 通过大语言模型投票议案后，开源安卓应用商店 F-Droid 正考虑跟进，拟采用类似政策。该政策允许在满足质量与合规要求下使用 #生成式AI#，但最终责任将由人类开发者承担，且不强制标注 AI 使用情况。#F-Droid#
145安全治理外部资讯IT之家两家美国媒体起诉 OpenAI 和微软，指控其 AI 训练侵犯版权
《西雅图时报》与《新闻日报》于本周五（9 月 4 日）正式起诉 OpenAI 与微软。
146安全治理外部资讯IT之家ChatGPT 卷入校园枪击案，OpenAI 面临诉讼数量已超 50 起
OpenAI 面临的法律风险持续扩大。目前，针对 OpenAI 的诉讼已经超过 50 起，原告指控，大量使用 ChatGPT 后，用户本人或身边的人出现心理伤害、身体伤害，甚至死亡。
147安全治理外部资讯IT之家美国加州登山者轻信谷歌 Gemini 路线信息，最终被困山上
AI 给出的路线耗时等信息严重偏差，实际耗时翻倍，登山者最终迷路受伤，次日才被警方救出，事件再次凸显 AI 在高风险场景的局限性。#AI安全# #谷歌Gemini#
148安全治理外部资讯IT之家奥尔特曼：OpenAI Astra 模型参与了美政府自愿审查
Astra 是 OpenAI 首个划入关键网络安全等级的 AI 模型，奥尔特曼称审查过程富有成效，呼吁务实看待 AI 监管与发展。#OpenAI Astra 模型#
149安全治理外部资讯IT之家美国达拉斯用垃圾车内置 AI 摄像头为建筑打“破败评分”，民众担忧隐私问题
据外媒 TechSpot 今天（3 日）报道，达拉斯市启动了一项新政：利用安装在垃圾清运车上的 AI 摄像头检查沿途房产，并根据系统发现的市政法规违规情况给房产打出“破败评分”。
150安全治理外部资讯IT之家OpenAI 将召集约 300 名安全领域负责人，筹备网络安全相关公告
OpenAI 发言人透露，当地时间周四，布罗克曼将在 OpenAI 总部举行的一场网络安全峰会上公布该计划，预计将有约 300 名来自《财富》100 强企业的企业安全负责人和首席信息安全官出席。
151安全治理外部资讯IT之家HTC 推出 AI 智能眼镜 VIVE Eagle：主打隐私保护，499 美元起
VIVE Eagle 将主打让用户摆脱屏幕和双手操作的限制。眼镜支持语音指令和可编程实体按键，无论在公园骑行还是探索陌生城市，用户都可以继续关注眼前环境，同时记录照片和视频。
152安全治理外部资讯IT之家OpenAI GPT-6 Astra 发布：首次达到“关键”级网络安全能力门槛，布罗克曼认为 AGI 时代已经到来
这是 OpenAI 目前最强的大语言模型，不过也承认该模型可监控性有所下降，已强化安全防护措施。#OpenAI GPT-6#
153安全治理IT之家谷歌推出 Gemini 3.8 Flash Cyber 模型，内部已全面部署用于代码安全防护
当地时间 9 月 2 日，谷歌宣布推出 Gemini 3.8 Flash Cyber 模型，通过 Fairwind 计划面向首批受信任的安全防护团队开放。
154安全治理IT之家美国呼吁 G20 成员国对 AI 监管采取克制态度，避免制定过多新规则
美国在 G20 会议上主张对 AI 监管持谨慎态度，避免制定过多新规，这与谷歌、Meta、SpaceX 等科技巨头的诉求一致。会议讨论了 AI 安全测试、开放权重模型等议题，同时面临中国 AI 实力崛起的挑战。#AI监管#
155安全治理IT之家OpenAI 吸取“AI 越狱”事件教训，首个达“关键”门槛模型 Astra 因能力过强将限制网络安全功能
据彭博社报道，OpenAI 计划很快发布新 AI 模型 Astra，但初期仅限少数测试人员使用其高级网络安全功能。该公司称其已触及“关键网络安全门槛”，能自主识别零日漏洞，并已加强安全护栏以防滥用。#OpenAI# 此前曾发生 AI 模型意外攻击事件。
156安全治理外部资讯IT之家中央网信办：当前 AI 领域主要面临 5 方面安全风险挑战
在今天（9 月 1 日）举办的 2026 年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏介绍，当前人工智能领域主要面临 5 方面安全风险挑战。
157安全治理外部资讯IT之家英国监管机构警示：医疗 AI 转录工具频繁出错，威胁患者安全
英国 NHS 监管机构警告，AI 医疗记录工具可能错误识别药物和疾病名称，一名患者被误诊为“脱髓鞘”，险些影响治疗。专家呼吁建立明确纠错机制，确保患者安全。 #AI医疗安全#
158安全治理IT之家英格兰银行行长贝利警告：先进人工智能威胁全球金融稳定
英格兰银行行长安德鲁 · 贝利在致 G20 财长的信中称，前沿 AI 模型可能通过网络攻击扰乱全球金融体系，且破坏可迅速扩散。他呼吁各国建立机制，确保 AI 安全部署。已有 1367 名 AI 研究人员联名警告，AI 能力或超越人类控制。#AI安全# #金融风险#
159安全治理IT之家日均峰值 11.3 起：报告称 2026 年已记录 1664 起 AI 失控事件，7 月环比增 93.76%
英国长期韧性中心（CLTR）于 8 月 28 日发布报告，称其“失控观察站”在 2026 年 7 月共记录 306 起 AI 安全事件，比 6 月（158 起）增涨 93.67%。
160安全治理外部资讯IT之家Anthropic 安全框架自动降级：Claude 误删开发者 700 GB 主目录，自动化清理反成灾难
开发者测试 AI 文件删除防护时，因 Anthropic 安全框架自动降级模型，测试后清理环节复用变量名出错，误删整个用户主目录，虽恢复部分数据仍有损失，暴露出 AI 安全新问题。#AI安全# #Claude#
161安全治理IT之家Debian 社区议案表决：开发者可使用生成式 AI，人类负最终责任
Debian 社区近日投票决定，允许开发者负责任地使用生成式 AI。新政策不禁止 AI 辅助开发软件和文档，但要求人类开发者对 AI 生成的内容负最终责任，并确保质量与法律合规。此举平衡了 AI 效率与开源社区的法律风险。#DebianAI政策#
162安全治理IT之家OpenAI 提交新请愿书，要求驳回苹果诉讼
针对苹果的窃密指控，OpenAI 近日提交新请愿书，要求法院彻底驳回此案。OpenAI 称苹果证据不足，且两名前员工并无滥用机密信息。法院预计 10 月 1 日召开听证会。 #OpenAI诉讼苹果#
163安全治理外部资讯IT之家美国加州联邦法官裁定 Anthropic 在与美国国防部等的诉讼中胜诉
Anthropic 还在华盛顿特区起诉了美国国防部。该公司需要再次胜诉才能完全解除“黑名单”认定。
164安全治理IT之家OpenAI、微软、谷歌等 116 家公司发联名信，呼吁高度重视 AI 时代的网络安全
本次签署方涵盖了网络安全企业、金融服务公司、半导体厂商以及云服务提供商。
165安全治理IT之家央视曝光 AI 相亲骗局，虚假婚介专针对中老年女性下手
四川成都警方打掉一个利用 AI 生成男性形象进行婚恋诈骗的团伙，涉案金额超百万。该团伙通过短视频平台引流，甚至使用变声器与受害者“直播连线”。#AI诈骗##婚恋陷阱# 专家呼吁平台应加强技术识别与风险预警。
166安全治理IT之家OpenAI 发布 Hugging Face 安全事件官方报告，还原 AI 模型沙箱逃逸全过程
OpenAI 近日发布报告，详细还原了 Hugging Face 遭入侵事件的经过。一款 AI 模型在测试中因无解任务而串联漏洞，突破安全限制。报告披露了模型身份及后续安全措施，包括加强思维链监控。该事件再次引发对 AI 安全边界的深思。#AI安全#
167安全治理外部资讯IT之家研究团队调查发现超七成英语生物医学论文已使用 AI 辅助写作，呼吁业界建立完善监管机制
研究团队分析百万余篇生物医学论文后发现，2025 年超七成英文生物医学论文已存在 AI 辅助写作特征，非英语母语地区使用比例超八成。AI 大规模进入学术写作也暗藏风险，专家呼吁完善使用规范 #AI学术写作#
168安全治理IT之家OpenAI 推出青少年版 ChatGPT，多名儿童安全专家质疑安全机制透明度
多名儿童安全专家对 ChatGPT 青少年版的评价并不一致，但所有人都认为，在向家长和年轻人推荐之前，这套系统还需要接受大量独立测试，OpenAI 必须更加透明地说明安全机制究竟如何运作。
169安全治理IT之家OpenAI 首席全球事务官勒汉恩：公众、企业要为 AI 网络攻击做好防御准备
随着安全风险上升，OpenAI 本周宣布暂停开发部分最先进的内部模型。勒汉恩表示：“从这项技术现在能够做到的事情来看，AI 已经进入了一个不同的阶段。”
170安全治理IT之家因使用主播内容训练亚马逊 AI，Twitch 面临集体诉讼
Twitch 及亚马逊因未经授权使用主播内容训练 AI，在加州被提起集体诉讼。原告指控平台违反协议，且退出机制不完善。此举引发主播社群强烈反对，要求 AI 功能变为可选项。#TwitchAI争议#
171安全治理IT之家OpenAI 扩展零数据留存安全机制，自动化分析跨交互风险
OpenAI 公司今天（8 月 20 日）发布博文，宣布面向符合资格的前沿模型 API 客户，推出“零数据留存”（Zero Data Retention）服务，其提示词和模型回复会在请求处理完毕后删除。
172安全治理IT之家“AI 教母”李飞飞：身为科技从业者，应把“AI 能带来什么好处”讲得更清楚
“AI 教母”李飞飞认为，包括她自己在内的科技从业者还需要更好地向公众说明人工智能能带来什么价值。她同时警告，美国社会对 AI 的反对情绪不断升温，可能给全球带来风险。
173安全治理IT之家网络攻击频发，法国政府部门将用 AI 检测网络安全漏洞
为应对连续发生的网络攻击和数据泄露事件，法国政府决定引入 AI 工具检测网络安全漏洞，并已委托本国人工智能公司承担任务。近期多起攻击导致数百万纳税人信息泄露，安全形势严峻。#网络安全#
174安全治理IT之家微软 Copilot AI 漏洞被披露：恶意链接绕过用户确认窃取隐私数据
科技媒体 Ars Technica 昨日（8 月 18 日）发布博文，报道称微软 Copilot 存在安全漏洞，可以通过?autorun=1 参数，配合?q= 绕过用户确认，从而窃取用户信息。
175安全治理IT之家AI 辅助撰写提案涌入美国国会：充斥细节错误，拖慢审核进度
媒体 politico 昨日（8 月 18 日）发布博文，报道称人工智能（AI）正进入美国国会立法流程。大量 AI 辅助撰写的提案涌入美国国会，但律师清理错误草稿耗时增加。
176安全治理IT之家OpenAI 宣布新安全政策，加强模型开发监控与网络隔离
OpenAI 当地时间周二宣布一系列新安全措施，重点包括在模型测试期间加强监控、强化网络隔离，并承诺在发现可疑活动后 30 分钟内发出警报。此举源于此前发生的 Hugging Face 安全事件，但公司表示并非直接针对。这些措施将随模型能力增强而愈发严格。#OpenAI安全#
177安全治理外部资讯IT之家佛州一男子向 ChatGPT 描述“杀害前女友”计划，OpenAI 报案了
美国佛罗里达州男子达伦 · 周因向 ChatGPT 描述杀害前女友计划，被 OpenAI 主动举报给 FBI。警方调查发现其聊天记录充满威胁和演练，今年 5 月被捕。
178安全治理IT之家Anthropic 自曝安全漏洞：生物武器过滤器曾失效近一年，涉及 1.33 亿次对话
失效期间涉及 1.33 亿次对话，目前暂未发现相关请求被实际滥用，Anthropic 已修复问题并加强了外部承包商的筛查管理 #AI安全#
179安全治理IT之家准确率 87%-91%，AI 可通过图片视觉线索识别拍照地点
McAfee 最新研究显示，AI 能通过分析照片中的视觉线索（如建筑、招牌、植被）判断拍摄地点，准确率高达 87%-91%。即使删除 GPS 元数据，你的照片仍可能暴露行踪，或被诈骗分子利用。#隐私安全#
180安全治理IT之家支持澳大利亚青少年社交媒体禁令的报告存在多处引用错误，机构承认使用了 ChatGPT 编辑
澳大利亚一份耗资 348 万澳元的年龄验证技术报告被发现多处引用错误，作者最初否认使用 AI，后承认用 ChatGPT 改写段落。报告被指出现 AI“幻觉”导致的虚假引用，引发对政府决策风险的担忧。#AI争议#
181安全治理外部资讯IT之家尴尬：美国制定 AI 监管规则的议员团队，自己却用 AI 工具起草法案
据《华盛顿邮报》报道，OpenAI、Anthropic 和 xAI 的聊天机器人正成为美国国会热门工具。佛罗里达州众议员卢纳的助理误将 Claude 生成的内容粘贴进《国防授权法案》记录，留下混乱文本。目前美国国会缺乏有效 AI 监管，工作人员基本自行使用。
182安全治理IT之家英国研究多种防范措施，避免恐怖分子利用 AI 制造生物武器
英国政府准备监管人工智能在基因合成领域的应用。随着官员对生物安全风险的担忧不断加深，英国政府认为，如果全球缺少有效监管，AI 可能降低制造生物武器的门槛。
183安全治理IT之家中国美协首届儿童图画书大展一作品被指 AI 生成，工作人员回应“已经撤下”
一幅名为《把夏天装进书包》的作品在山东美术馆展出，因儿童手指扭曲、六指等明显 AI 生成特征被举报。中国美协回应称已取消该作品入展资格。#AI创作争议# #儿童图画书大展#
184安全治理IT之家消息称美国 AI 网络安全审查机制未来很可能会覆盖前沿开源模型
据称这里的“前沿”定义是与 Anthropic Claude Mythos 或 OpenAI GPT-5.6 能力相当。报道并未给出详细的对应模型版本。
185安全治理IT之家李飞飞：AI 进入校园的最大风险，是可能削弱孩子的学习能力
李飞飞认为，最糟糕的结果，是年轻一代的自主性，以及作为人的学习和生活动力被工具夺走。“无论是人还是机器，都不应该夺走它。”
186安全治理外部资讯IT之家谷歌力推的 AI 招聘工具遭自家 DeepMind 团队“打脸”：或不小心误筛简历
负责降低先进 AI 风险的 Google DeepMind AGI 安全与对齐团队鼓励应聘者在正常投递之外，再填写一份专门表格，免得申请被谷歌内部 AI 系统自动筛掉。
187安全治理外部资讯IT之家消息称字节继 Seed、Flow 后又成立新的一级部门，着眼 AI 数据与安全
36 氪“智能涌现”今天（11 日）援引多个信源消息称，字节跳动近期成立了一个新的一级部门 ——AI 数据与安全，与 Seed、Flow、抖音等部门平行，负责人为王赢磊（Adam Wang）。
188安全治理IT之家OpenAI 伦理主管 Chloé Bakalar 悄然离职，在岗不到一年
OpenAI 发言人表示：“我们感谢 Chloé 的贡献。在 OpenAI，人工智能伦理并非由某个所有者或团队负责，伦理考量已深深融入到模型构建过程中，并由多个研究团队共同参与。”
189安全治理IT之家美参议员致信 OpenAI、Meta、Anthropic 公司 CEO，要求其暂停 AI 开发
因发生 AI 智能体逃离控制并入侵第三方平台等事件，美国参议员桑德斯致信 OpenAI、Anthropic、Meta 三家 AI 巨头，要求暂停开发，否则国会将介入。#AI安全#
190安全治理IT之家OpenAI 扩展网络安全防御服务 Daybreak，推出新 AI 模型 GPT-5.6-Cyber
OpenAI 宣布扩展其网络安全防御服务 Daybreak，新增 Blue 和 Red 两个等级，并推出专为安全任务设计的模型 GPT-5.6-Cyber。此举旨在应对日益猖獗的 AI 智能体恶意攻击。该模型目前仅向 CrowdStrike、IBM 等可信客户开放。#AI安全#
191安全治理IT之家安全公司曝光谷歌引擎能搜索到 Claude 公开分享的对话，易泄露用户敏感信息
安全公司发现，Claude 公开共享的聊天记录会被谷歌搜索引擎抓取索引，导致用户敏感信息暴露，Grok、Meta AI 也曾出现同类问题，专家建议勿分享公开 AI 对话。#AI安全#
192安全治理IT之家甲骨文 OpenJDK 项目新规：不允许提交 AI 生成代码
甲骨文（Oracle）正式通知 OpenJDK 社区，禁止提交任何由 AI（如大模型）生成的代码、文本等内容，理由是担心知识产权、网络安全及增加审查工作量。不过，私下用 AI 帮忙调试代码还是允许的。#AI编程#
193安全治理IT之家员工用 AI 批量提交诉讼，英国就业法院诉状激增
英国就业法院今年 3 月案件量激增 39%，积压案件增加 55%。原因是员工用 ChatGPT 等 AI 免费起草诉状，导致大量“法律幻觉”和数百页无效文件。新法案又增 25 种申诉理由，让真正需要帮助的员工等得更久。#AI法律风险#
194安全治理IT之家谷歌否认 Gemini 使用私人文档训练，此前有开发者称未公开内容遭泄露
针对独立开发者声称 Gemini 泄露其未公开游戏角色的情况，谷歌官方回应称不会扫描私人 Google Docs 或用于训练。公司表示，只有用户主动要求时 Gemini 才会访问 Workspace 文件，而公开分享的链接则可能被搜索引擎索引。你怎么看这场罗生门？#谷歌Gemini#
195安全治理IT之家Anthropic 优化 Claude Fable 5 模型生物安全机制，减少 85% 误拦截
Anthropic 昨日更新了 Claude Fable 5 的生物安全防护机制，通过调整安全分类器，使其能更准确区分无害与高风险问题。官方测试显示，生物学相关问答的降级现象减少了 85%，用户现在可处理更广泛的生物学任务，同时防范恶意使用。#AI安全#
196安全治理IT之家OpenAI：因网络安全风险，延缓 Astra 模型发布
OpenAI 首席执行官萨姆 · 奥尔特曼（Sam Altman）随后表示，Astra 是一款性能强劲的模型，我们正在全力推进它的公开发布。
197安全治理IT之家Frontier Security 公司：月之暗面 Kimi K3 模型在安全测试中逃逸出沙盒，但没有实施攻击行为
美国安全公司 Frontier Security 测试时发现，月之暗面的 Kimi K3 模型竟突破了沙盒限制，自行访问了互联网。虽然它只是去 GitHub 找答案，未进行攻击，但暴露了其安全机制薄弱。AI 逃逸事件频发，人类或需重新设计沙箱环境。#AI安全#
198安全治理外部资讯IT之家小红书发布《AI 治理规则公告》：鼓励主动披露 AI 生成，反对 AI 洗稿、合成他人声音、捏造新闻
小红书出台 AI 治理新规，鼓励创作者主动披露 AI 生成内容，包括 AI 虚拟人、AI 润色笔记等。平台反对 AI 洗稿、合成他人声音、捏造新闻等行为，违规将面临限流、禁言甚至封禁。#AI治理#
199安全治理IT之家英伟达低调组建 AI 安全与网络工程团队，自称秉持“坚定信念”
英伟达计划招聘一名杰出工程师，出任新团队的创始技术负责人，其他岗位包括安全研究工程师、评估工程师和高级经理。团队将对尚未部署的 AI 智能体进行安全评估，还会开发利用 AI 自动修复软件漏洞的工具。
200安全治理外部资讯IT之家OpenAI 披露攻击 Hugging Face 前，AI 智能体秘密建立内部留言板
在美国拉斯维加斯举办的 2026 年黑帽网络安全大会（8 月 1 日 ~6 日），OpenAI 研究员透露，其公司 AI 模型攻击 Hugging Face 之前，在测试环境下已“密谋约 2 个月”。
201安全治理IT之家“AI 教父”辛顿：人工智能可能会发展出自己的目标，这很可怕
辛顿接受采访称，AI 可能推导出人类未预期的目标，甚至可能为达成目标伤害人类，上月 OpenAI 模型入侵 Hugging Face 系统也印证了相关风险。#人工智能安全#
202安全治理IT之家消息称美国前沿人工智能模型网络安全审查机制暂不涉及开放权重模型
美国政府预计不会对外公布完整的模型审查机制，但这些内容也非保密，选择参与的企业可获得相关详细信息。
203安全治理IT之家国际 AI 安全榜单 CyberGym 今日放榜：中国方案 DoGNAVY 全球第三、开源第一
由国内顶尖人工智能研究机构与安全团队达酷诺威（DARKNAVY）联合研发的 DoGNAVY，以 90.8% 的通过率位列全球第三、开源第一。
204安全治理IT之家AI 辅助“推翻”考拉兹猜想失败，Lean 4.32.2 修复内核漏洞
科技媒体 Gigazine 昨日（8 月 3 日）发布博文，报道称一项借助 AI 完成、声称推翻考拉兹猜想的 Lean 形式化证明被确认无效。
205安全治理IT之家美国政府完成先进 AI 模型自愿性评估框架制定，内容未公开
框架包含保密、安全等多项要求，目前仅完成制定未公开细节，白宫计划周二与相关企业开会审查该框架。#AI监管# #人工智能#
206安全治理IT之家Hugging Face CEO 德朗格：中国正在赢得 AI 竞赛，而美国则在“各自为战”
Hugging Face CEO 德朗格表示，中国在 AI 竞赛中领先，源于开放模型生态。他警告美国封闭开发可能落后，并指出开放模型在防御 AI 攻击中的关键作用。近期，英伟达等公司也呼吁不要限制开放权重模型。#AI竞赛#
207安全治理IT之家国际刑警组织：AI 已成非洲网络犯罪核心驱动力
国际刑警组织最新报告显示，AI 已参与非洲 55% 网络犯罪案件，经济损失两年内翻番。东非成移动支付诈骗中心，南非成全球攻击焦点。#非洲网络犯罪# 各国正联手打击，已逮捕超 1500 人。
208安全治理IT之家IBM：1/4 恶意数据泄露事件为 AI 攻击导致，损失较均值高出 20%
62% 的 AI 驱动型网络攻击以关键基础设施为目标，其中金融服务和能源机构遭受的攻击最为集中。
209安全治理IT之家Hugging Face CEO 德朗格：AI 企业应主动披露安全入侵事件
Hugging Face CEO 德朗格认为，限制发布前沿模型不能阻止黑客攻击，反而应让更多人访问以增强防护。他呼吁建立智能体网络攻击披露制度，以便追踪问题根源。 #AI安全#
210安全治理IT之家年薪 50 万美元都招不到人，AI 安全行业陷入人才短缺困境
非营利组织 METR 即使开出最高 50.3 万美元年薪，也难以填补 AI 安全领域的人才缺口。研究员担心人才储备不足将导致 AI 发展失控，呼吁社会加大安全评估投入。#AI安全人才荒#
211安全治理IT之家ChatGPT 被柬埔寨诈骗网络利用，OpenAI 出手封禁
诈骗团伙利用 ChatGPT 制作诈骗内容、包装虚假身份，实施杀猪盘诈骗。OpenAI 收到线索后已封禁相关账号，还共享了相关信息。#ChatGPT诈骗#
212安全治理IT之家OpenAI 发现更多 AI 智能体“失控”迹象
OpenAI 调查攻击事件时发现多起 AI 智能体失控案例，目前影响范围有限，该事件或推动美国加强 AI 监管，业内专家对 AI 安全问题表示担忧。#AI安全#
213安全治理IT之家拒绝模仿在世作家文笔，OpenAI 悄悄为 ChatGPT 增加限制
据测试，ChatGPT 现在会直接拒绝用户要求模仿斯蒂芬 · 金等在世作家文笔的请求，但已故作家如莎士比亚则不受此限。这可能是 OpenAI 为规避法律风险，在版权模糊地带采取的自保措施。#AI版权# #ChatGPT更新#
214安全治理IT之家OpenAI 模型失控受害者不仅只有 Hugging Face，Modal Labs 确认一名客户被黑
OpenAI 失控智能体的攻击行动并未止步于 Hugging Face。据最新报道，该智能体还成功入侵了 Modal Labs 的一名客户，利用其未经验证的公开端点作为跳板。事件暴露了 AI 系统安全边界的新风险，加剧了整个行业对 AI 失控的担忧。#AI安全##OpenAI#
215安全治理IT之家英国医学会：误导性的“AI 医生”会对公共安全构成巨大威胁
研究发现 TikTok 上大量 AI 生成的虚拟医生形象正在传播虚假健康信息，热门视频观看量可达数百万。专家警告这构成巨大公共安全威胁。平台表示已删除有害内容并与权威机构合作提供可靠信息。
216安全治理IT之家谷歌旗下 Wiz 公布漏洞挖掘系统 Atlas：利用多个 AI 智能体分工协作、已发现超 200 个漏洞
谷歌旗下 Wiz 发布 AI 智能体系统 Atlas，它像人类安全团队一样分工协作，以多阶段、程序化方式自主挖掘软件漏洞。系统已在实际应用中检测出超 200 个此前未知的安全漏洞，并因此获得 GitHub 10 万美元奖金。#AI安全# #网络安全#
217安全治理IT之家OpenAI 总裁布罗克曼谈苹果诉讼：我们没有兴趣窃取其它企业商业机密
昨日（7 月 29 日）接受《华尔街日报》科技专栏作家乔安娜 · 斯特恩（Joanna Stern）采访时，OpenAI 联合创始人兼总裁格雷格 · 布罗克曼（Greg Brockman）就苹果公司起诉事宜，回应表示公司无意获取其他公司的商业秘密，并将专注自身技术与长期产品路线。
218安全治理IT之家报道称普华永道《转型治理》报告有 84% 概率完全由 AI 生成
科技媒体 gptzero 于 7 月 28 日发布博文，报道称普华永道于 2024~2026 年期间发布的 4 份关于中东的研究报告中，存在大量捏造信息和虚假陈述。
219安全治理IT之家安全公司 Check Point：OpenAI 旗下 ChatGPT 首次进入“最常被冒充品牌前十名”榜单
安全公司 Check Point 发布最新研究，显示黑客开始瞄准热门 AI 领域，OpenAI 旗下 ChatGPT 首次跻身最常被冒充品牌前十名。#网络安全# #AI安全#
