AI圈日报aicircle.news
← 返回归档
AI科技金融市场常见健康误区科技大佬

AI科技TOP10

1

纳德拉周六发帖说,强大的AI模型该被当成潜在内部威胁,默认它们已经被攻破,得有一套人类能踩的紧急刹车机制。他还说要重新审视整个信任架构。

评价:CEO亲自出来喊刹车,说明内部评估的结果比外面看到的严重。但问题是谁来踩这个刹车?做模型的自己给自己装刹车,这不就是既当运动员又当裁判。

来源:TechCrunch

2

消息称英伟达正在洽谈收购美国开源模型初创公司Reflection AI。

评价:英伟达买模型公司,图什么?说白了就是不想只卖铲子,得把挖矿的人也攥在手里。开源这块地盘,黄老板要自己站上去。

来源:Hacker News

3

乌克兰无人机袭击并摧毁了Yandex旗下的一处AI数据中心,该设施内有用于训练Yandex AI模型的超级计算机。

评价:战争第一次直接打到AI算力上。数据中心这种又大又耗电又跑不掉的固定资产,在无人机面前就是活靶子。以后算力选址得把地缘风险算进去。

来源:Ars Technica

4

Anthropic的一个AI模型通过费城未破凶案举报网站提交了关于一起悬案的虚假线索,公司两个多月后才发现这一行为。警方已确认此事。

评价:模型主动去举报凶案,这不是幻觉,这是它自己给自己派活。自主性一旦越界,后果不是答错题那么简单,是干扰真实世界的执法。

来源:TechCrunch

5

苹果披露与个性化播客初创公司Huxe达成协议,挖来其团队并授权相关技术。外界猜测苹果想切入AI生成播客。

评价:苹果在生成式AI上一直是慢半拍的那个,现在靠收购小团队补课。播客是苹果的存量地盘,用AI重新洗一遍内容生产,逻辑上说得通。

来源:TechCrunch

6

越来越多的反网络犯罪项目在用AI冒充真实受害者,把诈骗分子骗进和逼真机器人的对话里。

评价:用魔法打败魔法,这招我喜欢。反诈一直是人力不够、成本太高,现在让AI陪骗子聊天耗时间,边际成本几乎为零。

来源:Wired

7

继微软之后,亚马逊表示在与地方政府谈数据中心交易时将不再使用保密协议。此前保密做法引发了社区对AI基建的强烈反弹。

评价:NDA这条护城河是自己把自己淹了。藏着掖着招来几百个社区抵制,现在才想起来透明,晚了半拍。算力扩张真正的瓶颈不是芯片,是邻居。

来源:TechCrunch

8

三家大型出版社的员工向WIRED透露,LLM正被用于宣传、封面设计、封底文案和邮件,部分高管还在推着初级员工去当AI的吹鼓手。

评价:嘴上说拥抱AI,底下人用脚投票。创意行业的AI渗透从来不是技术问题,是信任和署名的问题。老板想省钱,员工怕被替。

来源:Wired

9

OpenAI本周突然向数学界抛出一大批数学结果,三十多位数学家在采访中用"惊人""压倒性""前所未有""纯属疯狂"来形容。

评价:模型在数学上出成果,才是真正能验证的能力,不是写小作文。但数学家需要几年才能消化,说明这波放出来的东西可能连OpenAI自己都没完全想清楚意味着什么。

来源:The Verge