10/19风险与治理
风险与治理
转述 Satya NadellaSatya Nadella 宣布扩展 Project Perception,新增持续评估 agent 风险、自适应权限与威胁遏制能力扩展 Project Perception,新增持续评估 agent 风险、自适应权限与威胁遏制能力
转述 Serenity 转述 LITE CEOSerenity 转述 LITE CEO:采购协议大部分不可取消,需求看不到尽头采购协议大部分不可取消,需求看不到尽头
转述 TestingCatalogTestingCatalog 称 OpenAI 新构建字符串显示即将推出的 AI agent 名为 Dots,可短信/通话/Slack/邮件调用并代购OpenAI 新构建字符串显示即将推出的 AI agent 名为 Dots,可短信/通话/Slack/邮件调用并代购
NVIDIA 用 coding agent 为 Kimi K3 在 GB300 NVL72 上构建统一 CuTe DSL decode 路径,batch 1 达
转述 Elad Gil 转发 EraElad Gil 转发 Era:生成模拟企业环境供 agent 安全测试,接入 Salesforce、Slack、Jira 等 MCP/API生成模拟企业环境供 agent 安全测试,接入 Salesforce、Slack、Jira 等 MCP/API
昨天
转述 OpenCodeOpenCode 称遭大规模蒸馏攻击,1.4% 用户 OpenAI、Anthropic、Google 余额被耗尽遭大规模蒸馏攻击,1.4% 用户 OpenAI、Anthropic、Google 余额被耗尽
转述 Dawson LeeDawson Lee:美国出口管制迫使 SK hynix 大连厂改用 AMEC 刻蚀机,AMEC 借此获得海量晶圆验证并进入韩国成熟制程厂(Tier-1)美国出口管制迫使 SK hynix 大连厂改用 AMEC 刻蚀机,AMEC 借此获得海量晶圆验证并进入韩国成熟制程厂(Tier-1)
转述 Brett AdcockBrett Adcock 宣布 Hark 本周上线,前 10 万注册用户免费获付费方案Hark 本周上线,前 10 万注册用户免费获付费方案
转述 Kyle ChanKyle Chan 称中国计划对 AI、生物技术和太阳能等额外 40 项技术实施出口管制中国计划对 AI、生物技术和太阳能等额外 40 项技术实施出口管制
转述 Ben HorowitzBen Horowitz:AI「快速起飞」四条件无一满足,风险纯属理论AI「快速起飞」四条件无一满足,风险纯属理论
转述 David SacksDavid Sacks 称 Anthropic 起草的安全法案以 10²⁵ FLOPs 定义前沿,会把多数硅谷创业公司纳入监管(GPT-6)Anthropic 起草的安全法案以 10²⁵ FLOPs 定义前沿,会把多数硅谷创业公司纳入监管(GPT-6)
转述 Aravind SrinivasAravind Srinivas 宣布开源支撑 Perplexity Computer 的沙箱平台 SPACE开源支撑 Perplexity Computer 的沙箱平台 SPACE
Kyle Chan:中国在AI、生物科技、太阳能草案后新增或更新无人机、工程机械、疏浚设备两用物项出口管制𝕏
Kyle Chan美光台湾工会以99%票数授权罢工
称Elon Musk 称超强说服力的超级智能将一击击倒许多人,自己可能也在其中超强说服力的超级智能将一击击倒许多人,自己可能也在其中𝕏
Elon Musk认为Ethan Mollick 认为 MIT CSAIL 应强调自动化决策的可问责与对齐研究,而非反 MIT 立场MIT CSAIL 应强调自动化决策的可问责与对齐研究,而非反 MIT 立场𝕏
Ethan Mollick称Thibault Sottiaux 称 OpenAI 已与 OpenCode 合作恢复受影响用户访问并退还攻击期间扣取的额度OpenAI 已与 OpenCode 合作恢复受影响用户访问并退还攻击期间扣取的额度𝕏
Thibault SottiauxEthan Mollick:1979年IBM幻灯片称自动化系统不做管理决策,此说法早已不成立且掩盖责任𝕏
Ethan Mollick判断Teortaxes 判断开源模型管制是红鲱鱼,真正会被掐的是托管协议开源模型管制是红鲱鱼,真正会被掐的是托管协议𝕏
Teortaxes称OpenBMB 回应称正推进本地端侧 AI,无需上传个人数据到云端正推进本地端侧 AI,无需上传个人数据到云端𝕏
OpenBMB质疑Teortaxes质疑台湾海峡集装箱船主要承运中国货物,中国为何要封锁自身港口(covidu-19)台湾海峡集装箱船主要承运中国货物,中国为何要封锁自身港口(covidu-19)𝕏
TeortaxesPatrick Moorhead:用个人浏览器在本机跑 CUA 可绕过 Delta、JPMorgan、Yelp、Amazon 对 AI agent 的封锁𝕏
Patrick MoorheadTeortaxes 认同 Anthropic 法案下 Anthropic 可先杀 49 人、窃取 10 亿美元才被合法制止的说法𝕏
TeortaxesResonac与铠侠通过高纯度溶剂回收使碳足迹减少7成
质疑Teortaxes 讽刺「幻觉已解决」说法,并质疑中国人 P(Doom) 低的归因中国人 P(Doom) 低的归因𝕏
Teortaxes称Teortaxes 称中文 KOL 已无真人,并质疑中国人低 P(Doom) 或因其已非中国人中文 KOL 已无真人,并质疑中国人低 P(Doom) 或因其已非中国人𝕏
Teortaxes判断Ethan Mollick 判断:当前 agent 存在 agentic security 与 prompt injection 风险,不宜接入银行账户,但长期应建安全协作方式而非一禁了之当前 agent 存在 agentic security 与 prompt injection 风险,不宜接入银行账户,但长期应建安全协作方式而非一禁了之𝕏
Ethan Mollick昨天
称Teortaxes 称该模型能自行 hack 环境,并引用其逐步 ls、git archive、diff 的推理链该模型能自行 hack 环境,并引用其逐步 ls、git archive、diff 的推理链𝕏
Teortaxes称Teortaxes 称无法分辨真实与 AI 生成的中文帖,只能依赖 Grok 翻译无法分辨真实与 AI 生成的中文帖,只能依赖 Grok 翻译𝕏
TeortaxesMax For AI 转述 CERT-In 通报:多家 AI 公司 Agent 测试中越权入侵印度企业系统并读取机密资料𝕏
Max For AI质疑Max For AI 质疑 CERT-In 通报的印度失控 Agent 事件真实性CERT-In 通报的印度失控 Agent 事件真实性𝕏
Max For AI更早的时间线(15 件事)订阅后可见。去订阅
关注后可跟此人更新与他说过的话,需用手机号登录