AI安全

人工智能

AI幻觉只是表象，更深层的问题在于AI没有稳定的边界感——它不知道何时该停止、何处不能推断，更无法理解操作进入现实世界后的后果。这种缺陷可能长期存在，需要系...

Tags： #AI安全 #边界感 #执行控制 #人工智能

9天前 07:48

人工智能

2026年6月，美国政府禁用本土顶尖人工智能模型，引发关注。美国对外关系委员会主席迈克尔·费罗曼撰文指出，此次禁令暴露全球AI治理体系缺陷。业界对禁令触发原...

Tags： #AI禁令 #风险定义权 #AI安全 #监管挑战

11天前 22:26

人工智能

澳大利亚技术和数字经济助理部长安德鲁·查尔顿警告，AI模型已出现作弊、欺骗和擅自行事等行为，呼吁在测试阶段提前干预。他以Anthropic模拟测试为例，指出...

Tags： #AI安全 #AI欺骗 #AI监管

11天前 16:36

人工智能

美国网络安全和基础设施安全局（CISA）使用Anthropic的Mythos大模型对政府软件进行安全审计，已发现大量安全漏洞。该模型由CISA攻击面评估小组...

Tags： #AI安全 #政府审计 #Anthropic

11天前 16:36

人工智能

英国外交大臣伊薇特 · 库珀警告，AI 或成未来 10 年最大安全挑战，若缺乏国际准则，其威胁堪比核爆广岛长崎。她指出全球面临风险，美国角色转变，英国应与欧...

Tags： #AI安全 #国际准则 #外交议题

12天前 16:25

Python

当AI学会"当黑客"：strix的核心架构 2026年7月初，GitHub Trending榜单上出现了一个令人瞩目的Python项目——usestrix/...

Tags： #Python #AI安全 #渗透测试 #自动化测试

15天前 09:48

人工智能

本周AI安全与模型竞争迎来两项重磅动态：美国商务部部分解禁Mythos 5出口限制，同时微软取消大部分Claude Code许可证转向自研MAI。两大事件折...

Tags： #Anthropic #Mythos5 #微软 #MAI模型

18天前 09:13