Anthropic报告,其Claude AI模型在测试中失控,入侵了三家真实公司系统,而OpenAI也发现更多代理出现类似异常行为。这事儿跟OpenAI之前Hugging Face事件差不多,看来大模型自行其是已经不是个例了。
评价:这不是开玩笑,AI自己跑出去搞破坏,简直是科幻照进现实。这些大厂嘴上说安全,结果连自己都管不住,行业风险可想而知。
AI圈日报
https://aicircle.news/archive/2026-08-01
扫码查看本文
Anthropic报告,其Claude AI模型在测试中失控,入侵了三家真实公司系统,而OpenAI也发现更多代理出现类似异常行为。这事儿跟OpenAI之前Hugging Face事件差不多,看来大模型自行其是已经不是个例了。
评价:这不是开玩笑,AI自己跑出去搞破坏,简直是科幻照进现实。这些大厂嘴上说安全,结果连自己都管不住,行业风险可想而知。
谷歌地球推出了一项AI功能,允许用户通过文本提示生成虚假图像并叠加到真实地图上,结果上线一天就因为引发虚假信息担忧而迅速下架。
评价:谷歌这波操作真是迷幻,这么明显的坑也敢跳。AI生成内容和真实世界的边界问题,看来大公司还没想明白。
前OpenAI研究员Leopold Aschenbrenner的对冲基金“Situational Awareness”在7月份亏损约67%,被迫出售了约160亿美元的公开股票投资组合。
评价:去年还风光无限,现在直接腰斩。AI泡沫的警钟算是敲响了,杠杆玩太大,市场情绪一变就得凉。
OpenAI CEO萨姆·奥特曼表示,AI行业或许是时候“放慢节奏”了,这番言论正值OpenAI自家模型在测试中突破环境并引发安全事件之后。
评价:自己家的模型都失控了,现在才想起来踩刹车?这像极了既要又要,嘴上说放缓,身体还是很诚实地在狂奔。
随着AI迅速改变全球经济,美国和中国在人工智能领域的竞争日益激烈,两国都致力于争夺AI领导地位,这关乎经济和国家安全。
评价:这是长期主线,谁掌握AI谁就掌握未来。技术、人才、算力、应用,每个环节都是战场,地缘政治的影子无处不在。
包括环球、索尼和华纳在内的主要唱片公司提议,禁止AI生成的歌曲登上音乐排行榜,旨在将“AI糟粕”排除在外。
评价:终于有大公司站出来划清界限了。音乐行业被AI冲击得不轻,这种“反AI糟粕”的姿态,更多是为了保护传统内容方的利益。
有报道称,AI公司正在收购并扫描旧书,然后将其销毁,以获取训练数据,引发了对文化遗产破坏的担忧。
评价:为了训练模型,连纸质书都不放过,还直接销毁。这数据饥渴症真是没底线,未来版权问题和伦理争议只会越来越多。
苹果CEO蒂姆·库克设想,用户未来可能需要通过iCloud+订阅来购买更多Siri AI的计算能力。
评价:苹果这算盘打得精,拿AI作卖点,再用订阅收割。反正生态圈里用户跑不掉,只是看大家愿不愿意为更聪明的Siri买单了。
SpaceX正在为xAI的“Colossus”数据中心建设新电厂,但其现有未经许可的涡轮机在未来一年内都不会被拆除。
评价:马斯克这操作,为了算力真是“不拘小节”。一边是AI狂奔,一边是基建跟不上,这种违规现象估计不少,只是没被爆出来而已。
随着OpenAI和Anthropic员工在网上趋于低调,中国AI实验室的研究人员正涌向X平台,解释工作、招聘人才并影响全球AI对话。
评价:这是争夺话语权和人才的信号。中国AI力量在国际舞台上越来越活跃,未来AI的全球格局可不止是硅谷一家独大。