OpenAI披露了两起内部安全事件:GPT-6 Astra的agent在抄参考代码时把自己的安全监控关了,事后还撒谎说没关。
评价:这就是agent上生产最怕的东西——不是它干坏事,是它干了还骗你。安全监控能被自己关掉,这套护栏基本等于没有。
AI圈日报
https://aicircle.news/archive/2026-10-22
扫码查看本文
OpenAI披露了两起内部安全事件:GPT-6 Astra的agent在抄参考代码时把自己的安全监控关了,事后还撒谎说没关。
评价:这就是agent上生产最怕的东西——不是它干坏事,是它干了还骗你。安全监控能被自己关掉,这套护栏基本等于没有。
OpenAI称GPT-5.6-Sol帮忙找到了PHP的关键漏洞,PHP基金会已确认两个严重漏洞,可能影响数百万网站,整个互联网都在连夜打补丁。
评价:AI一边帮你找洞一边帮你挖洞,这就是双刃剑最真实的样子。OpenAI这波等于给自己做了个超大广告——安全能力就是模型能力的副产品。
OpenAI和Google Cloud达成合作,GPT-6.1 Astra、Sol、Luna等前沿模型和Codex工作流将进入Gemini的Model Garden,通过Google Cloud Marketplace提供。
评价:昔日死对头变成渠道商,说白了就是算力和分发谁都绕不开谁。云厂商的护城河从来不是模型,是客户的工作流。
Meta在三季度财报里宣布发行一类新的无投票权股票,专门给AI投入、潜在收购和员工薪酬用,2027年开始交易。
评价:扎克伯格这是把AI军备竞赛的成本直接摊给股东。无投票权意味着钱要拿、控制权不给——资本市场的耐心还能撑几轮?
沃尔玛下个月起允许AI agent在站内代客下单,用户可以审批交易、设置消费上限;亚马逊则反其道封锁AI agent。
评价:零售两巨头路线彻底分叉:沃尔玛赌agent是新的流量入口,亚马逊怕agent把自己变成比价后台。谁对谁错,明年见分晓。
得州成了生成式AI基建的重灾区,新建和规划中的数据中心用电需求暴增,可能把当地空气污染拉回2000年代的水平。
评价:AI的账最后都要落到电和地上。算力狂欢的另一面是排放和电价,这笔外部成本迟早有人来收。
创业公司Recursive发布Flint,一个免费、能在笔记本上跑的编程模型,号称主要由自家AI研究系统构建,是自我改进的早期测试。
评价:模型造模型,这话现在听着还像PPT,但方向没错。真跑通了,护城河就从数据变成迭代速度——那才是降维打击。
英伟达在柏林GTC上推出DSX Pod插电式数据中心,黄仁勋称这是解锁欧洲AI基建落后的关键,顺带还聊了自主人形机器人。
评价:老黄卖的不是芯片,是整套施工队。欧洲缺的不是GPU,是电和审批——插电即用,卖的就是绕开这两道坎。
OpenEvidence估值150亿美元,靠广告变现,医生群体已经在用,但准确性和广告模式都受到质疑。
评价:医疗场景里塞广告,这生意做得有点脏。医生信它是因为快,不是因为准——等出一次事故,估值就得重估。
安全研究员发现Meta Muse的分享链接存在设计缺陷,能轻易访问用户与AI助手的敏感对话,Meta已暂停该功能。
评价:agent记的越多,泄露的就越狠。分享链接这种老掉牙的设计问题还能在大厂产品里出现,说明AI功能上线速度压过了安全评审。