高盛全面停用Claude Code:银行级AI编码智能体因安全与合规问题被叫停
有人把整套报关流程交给了 Agent,人只签字;也有人刚给交易员配了AI编程助手,一周后就紧急下线——AI自动
有人把整套报关流程交给了 Agent,人只签字;也有人刚给交易员配了AI编程助手,一周后就紧急下线——AI自动化不是装上就跑,而是要过业务、安全、ROI三道关。
▍今日主打
高盛全面停用Claude Code:银行级AI编码Agent因安全与合规问题被叫停

Goldman Sachs 全面停用 Claude Code,不是技术不行,而是它在真实金融场景中暴露了三类致命短板:第一,代码生成缺乏上下文闭环——它能写出合规的Python函数,但无法自动校验该函数是否与内部风控API版本匹配、是否触发反洗钱日志埋点;第二,敏感信息处理失控——测试中多次将未脱敏的客户账户ID、内部微服务密钥写入临时Git分支;第三,协作链路断裂——它无法理解交易员口头说的‘按昨天那单逻辑改’背后的3个历史PR和2次回滚记录。这对想上AI自动化的企业是重要警示:别迷信‘开箱即用’,先问清你的核心流程里,哪些环节容错率为零?哪些数据永远不能出内网?哪些决策必须留痕可审?对开发者而言,这恰恰指明了Agent开发新重点:不是堆参数,而是建‘金融级工具调用契约’——每个API调用前强制执行schema校验+权限令牌刷新+审计日志预写入。现在入场做Agent,拼的早不是谁模型大,而是谁能把银行、律所、药企这些高监管行业的‘不可妥协项’,编译成Agent可执行的硬约束。
—— 以下是今天的全部 15 条速览 ——
Agent 与流程自动化
1. 高盛全面停用Claude Code:银行级AI编码Agent因安全与合规问题被叫停

Goldman Sachs 已正式停止向银行家和交易员分发 Claude Code 编程助手,原因包括生成代码中多次泄露内部密钥、绕过合规检查流程、以及无法适配其私有微服务架构的强约束接口。
该决定发生在内部灰度测试仅三周后,表明即使在顶级金融机构,AI Agent 也难以在未经深度定制的情况下直接接入核心业务系统。
事件暴露出当前AI编码Agent的三大能力断层:敏感信息识别与脱敏、跨系统上下文理解(如PR/CI/风控日志联动)、以及金融级审计留痕能力。
号哥说:这不是技术失败,而是金融行业对AI落地的‘压力测试’结果——它划清了‘能写代码’和‘能写生产级金融代码’之间的鸿沟。想上Agent的企业该抄的作业不是‘用哪个模型’,而是‘高盛怎么定义它的红线’:比如所有API调用必须带实时token刷新、所有输出必须经静态扫描器二次过滤。
落地提点:别急着买Agent SaaS,先把你最不敢出错的那个流程画成泳道图,标出所有人工卡点和审批印章位置——这才是你Agent的第一份需求说明书。
来源:Hacker News
2. Llama-modchip项目:64GB内存无GPU运行284B参数DeepSeek模型

开源项目 Llama-modchip 实现了在仅64GB RAM、无GPU的普通服务器上运行284B参数的DeepSeek-V4模型,通过内存映射与分块加载技术大幅降低显存依赖。
该项目不依赖CUDA或专用AI加速卡,纯CPU+内存方案即可启动推理,适合私有化部署、边缘设备及高安全隔离环境下的轻量Agent调度。
实测在16核Xeon上完成一次完整代码补全响应约需8.2秒,延迟可控,为中小团队构建本地化Agent提供了新路径。
号哥说:它解决的不是‘最强性能’,而是‘最低门槛’——当企业不愿把代码、合同、客户数据上传公有云时,这个方案让‘自己的模型跑在自己的机房’从口号变成可执行选项。尤其适合法务、医疗等对数据主权要求极高的行业自建文档理解Agent。
落地提点:小团队想搞本地Agent,别死磕显卡,先试试用Llama-modchip+Ollama搭个RAG服务,把你们三年来的合同PDF喂进去,看它能不能准确找出付款违约条款。
来源:Hacker News
3. Google发布Elephant-Goldfish插件:面向Spec-First的编码Agent新范式

Google AI推出Elephant-Goldfish Model插件,专为‘先写规格再写代码’(Spec-First)工作流设计,强制Agent在生成任何代码前完成5轮零上下文规格审查。
每轮审查聚焦不同维度:第1轮校验输入输出边界,第3轮验证合规性(如GDPR字段标记),第5轮确认与现有API版本兼容,全程无需人工介入。
已在内部基建团队试用,将API变更需求的平均交付周期从5.2天压缩至1.7天,且返工率下降63%。
号哥说:这是对‘AI写代码’认知的一次升级:真正提效的不是写得快,而是第一次就写对。Elephant-Goldfish把软件工程中的‘设计评审会’自动化了——它不替代工程师,而是把工程师最耗神的重复性评审动作,变成Agent的固定流水线。
落地提点:如果你团队还在用‘PR一开就merge’的方式迭代,别急着上编码Agent,先学Google把‘规格审查’变成不可跳过的硬节点,再让AI来填空。
来源:MarkTechPost
4. AI编码Agent仍需人工清理近75%任务:阿里Co-Design Bench实测揭示真实能力边界

阿里巴巴发布全新编码Agent基准测试集Co-Design Bench,基于真实用户在GitHub提交的、曾导致线上故障的复杂需求(如‘修复WebSocket重连后内存泄漏’)。
测试覆盖GPT-6 Astra、Claude Opus 5.5等主流模型,结果显示:73.6%的任务生成代码需人工重写核心逻辑,仅12.1%可直接合并进主干。
关键瓶颈在于‘隐含约束理解’——Agent能读懂‘加个按钮’,但读不懂‘该按钮必须兼容IE11且不触发CSP报错’这类业务侧隐藏规则。
号哥说:这份报告的价值不在打击信心,而在帮团队建立‘合理预期’:AI不是替代者,而是‘超级助理’。它最适合干三件事——把模糊需求翻译成结构化spec、批量生成CRUD样板、自动补全单元测试桩。剩下的,交给有业务sense的人把关。
落地提点:别考核Agent‘一次通过率’,改考‘人工干预耗时下降多少’——如果原来写100行要盯2小时,现在只盯20分钟,那就是成功。
来源:The Decoder
5. Agent记忆系统亟需‘OpenTelemetry时刻’:开放记忆格式提案引发社区热议
Lorekit团队提出Open Agent Memory Format(OAMF)草案,旨在统一Agent长期记忆的存储结构、序列化协议与跨框架查询接口,类似OpenTelemetry之于可观测性。
当前各Agent框架(LangChain、LlamaIndex、AutoGen)使用私有记忆格式,导致记忆无法迁移、调试困难、审计缺失,成为企业级Agent规模化瓶颈。
草案已获Microsoft AutoGen、Fireworks AI等团队初步支持,首个兼容SDK预计12月上线。
号哥说:没有标准记忆,就没有可信Agent。OAMF不是技术炫技,而是为企业解决‘这个Agent昨天记得的事,今天为什么忘了’‘审计时怎么查它到底记了什么’这两个刚需。它让记忆从黑盒变为可追踪、可验证、可治理的资产。
落地提点:正在选型Agent框架的团队,把‘是否支持OAMF草案’加入技术选型清单第一条——未来两年,不支持开放记忆的框架会被企业自然淘汰。
来源:Hacker News
AI 工具 · 实测上新
1. Apple加速Siri agentic化:目标直指OpenAI Dots与Meta Muse级自主能力

据Bloomberg报道,Apple硬件负责人John Ternus正向AI主管Craig Federighi施压,要求在2027年前将Siri升级为具备多步任务规划、跨App操作与主动建议能力的AI Agent。
当前Siri已支持基础语音指令链(如‘发邮件给张三,主题是会议纪要,内容是…’),但尚无法自主判断‘是否需要先查日历再发’或‘附件是否超限需转链接’。
内部代号‘Project Atlas’正整合iOS系统级API权限、Private Cloud Compute芯片与端侧大模型,以保障隐私前提下的深度自动化。
号哥说:Apple的路径很清晰:不拼云端算力,而靠‘端侧智能+系统深度集成’破局。这对开发者意味着新机会——与其卷通用Agent框架,不如深耕iOS/macOS原生API封装,做Siri Agent的‘能力插件商’。
落地提点:iOS开发者别只盯着SwiftUI,赶紧研究SiriKit新扩展和Private Cloud Compute API,明年第一批Siri Agent插件红利就在这儿。
来源:The Verge AI
2. Andrej Karpathy周末用Claude打造Hacker News视频聚合平台:4300万条评论→6454条优质视频

OpenAI联合创始人Andrej Karpathy仅用一个周末,基于Claude Opus 5.5与20年Hacker News数据,构建出自动筛选、摘要、生成封面与上传YouTube的全流程视频Agent。
该Agent首先清洗并聚类4300万条评论,识别高频技术话题(如Rust内存安全、LLM推理优化),再为每个主题生成脚本、调用TTS配音、合成画面,最终产出6454条视频。
平台上线首周播放量超210万,完播率达68%,显著高于YouTube同类算法推荐内容。
号哥说:这不是炫技,而是给出了‘小团队做AI Agent产品’的极简范本:选垂直数据源(HN)、定明确价值点(把文字讨论变视频知识)、用成熟工具链(Claude+FFmpeg+YouTube API),全程无训练、零GPU。
落地提点:想学Agent开发?别一上来就啃LangChain,先照着Karpathy这个案例,用你熟悉的领域数据(比如公司内部钉钉群聊天记录)做个日报生成Agent,跑通就是入门。
来源:The Decoder
3. NYT Cooking上线AI食谱修改器:支持食材替换、饮食限制适配与步骤简化

《纽约时报》Cooking App正式上线AI食谱修改功能,用户可输入‘去掉花生酱’‘改成素食’‘步骤减半’等自然语言指令,实时获得调整后完整食谱。
背后采用混合架构:前端用轻量微调模型理解意图,后端调用规则引擎校验营养配比、过敏原冲突与烹饪可行性(如‘烤箱温度不能低于180℃’)。
Beta测试显示,87%的修改请求能在3秒内返回可用结果,且92%的用户表示‘比手动查替换表快得多’。
号哥说:这是少见的、把AI做成‘隐形助手’的成功案例:不强调模型多强,而是让用户感觉‘它懂我厨房里的真实麻烦’。对做ToB Agent的启发是——先吃透业务里的‘最小不可删减规则集’,再让AI在规则框内自由发挥。
落地提点:做客服/采购/HR类Agent?别急着接大模型,先把你部门那张‘常见问题-标准答案-审批人’Excel表喂给RAG,这就是你第一个能上线的Agent。
来源:Wired AI
4. GitHub上线Pull Request新概览页:集成AI代码摘要与变更影响分析

GitHub正式推出Pull Request新概览页(Public Preview),默认启用AI生成的代码变更摘要、潜在风险提示(如‘此修改影响3个支付模块’)及测试覆盖率变化预估。
该功能基于CodeQL与GitHub Copilot模型联合分析,无需额外配置,所有仓库成员均可直接查看,支持一键跳转到高亮风险行。
早期反馈显示,评审者平均花在PR上的时间减少41%,争议性评论下降29%,尤其利好跨时区协作团队。
号哥说:GitHub把AI做成了‘基础设施’——它不另起炉灶,而是嵌入开发者每天必经的PR流程,用最低学习成本提供最大确定性收益。这种‘流程即界面’思路,值得所有做ToB AI工具的团队抄作业。
落地提点:想推AI工具进企业?别卖‘智能平台’,把它塞进员工每天打开10次的那个页面里,比如钉钉审批页、飞书OKR页、用友U8单据页。
来源:Hacker News
5. Coldframe开源蜜罐:模拟超市冰箱控制器,捕获真实工业控制系统攻击行为

Coldframe是一个开源工业控制蜜罐,高度仿真Danfoss AK-SM 800A与Dixell XWEB等主流商用冰箱控制器界面与通信协议,部署后即暴露在公网。
上线两周捕获273次扫描与14次实际攻击尝试,包括Modbus协议暴力破解、固件上传漏洞利用及PLC逻辑篡改脚本,全部记录为结构化攻击链数据。
项目提供完整Docker镜像与Shodan标签,方便安全团队快速部署为内网威胁感知节点。
号哥说:它把AI安全从‘理论攻防’拉回‘真实战场’:生成式AI正被攻击者用于编写更隐蔽的ICS恶意脚本,而Coldframe提供的攻击样本,正是训练企业专属AI安全Agent的黄金燃料。
落地提点:安全部门想上AI,别先买SOC平台,先把Coldframe部署在DMZ,用它抓3个月真实攻击日志,这就是你AI威胁检测模型最值钱的训练数据。
来源:Hacker News
行业 AI 落地
1. 斯坦福CS146S课程改革:学生必须向真实开源项目提交PR,应对AI代写作业冲击

斯坦福大学CS146S‘AI-Native Engineering’课程第二期取消传统编程作业,改为学生必须选择一个陌生开源项目(如Apache Beam、Rust Analyzer),阅读代码、定位问题、提交可被维护者接受的PR。
课程引入‘AI协同开发’新评估维度:不仅看代码质量,还看学生如何用AI辅助理解大型代码库、生成测试用例、撰写符合社区规范的commit message。
首批结课学生中,78%在结课后3个月内获得知名开源组织的commit权限,远超往届课程。
号哥说:这是教育界对‘AI取代程序员’焦虑的正面回应:不禁止AI,而是把AI变成‘进入真实工程世界的钥匙’。对企业招聘的启示是——未来考察工程师,要看他能否用AI快速吃透一个陌生系统,而非是否会手写红黑树。
落地提点:技术面试官注意:下次面试别考LeetCode,改问‘如果给你三天,你怎么用AI搞懂我们公司的订单服务代码?’答案比代码更能看出潜力。
来源:Latent Space
2. 世界模型加速落地:从文本到3D物理空间,驱动自动驾驶与机器人导航

Wired报道,‘世界模型’正从实验室走向产线:通过学习真实世界物理规律(如碰撞、摩擦、流体),模型可在虚拟环境中训练机器人完成开门、倒水、避障等复杂动作。
Waymo与Boston Dynamics已将世界模型嵌入仿真系统,使新车型路测里程需求下降40%,四足机器人任务成功率提升至91%。
关键突破在于‘多模态时空对齐’——模型能同时理解激光雷达点云、摄像头图像与IMU运动数据的时间戳关系,并预测10秒后物理状态。
号哥说:世界模型不是另一个‘更大语言模型’,而是AI的‘身体’。它让Agent第一次真正‘看见’并‘理解’三维现实,这对制造业(数字孪生质检)、物流(无人仓动态调度)、甚至建筑(施工风险仿真)都是底层能力跃迁。
落地提点:制造企业别只盯着视觉检测AI,赶紧收集你产线上的振动、温度、电流时序数据——这才是训练你专属世界模型的‘肌肉记忆’。
来源:Wired AI
3. 微软研究院AI前沿组解散:资源转向产品化与垂直行业落地
微软宣布解散内部AI前沿研究团队(AI Frontiers Group),原团队负责人John Langford离职,超80%研究人员转入Azure AI与Dynamics 365产品线,专注金融、医疗、制造等场景Agent开发。
此举标志微软AI战略从‘论文驱动’转向‘客户合同驱动’:新成立的‘Industry Agent Lab’已与摩根大通、梅奥诊所签订联合POC协议。
解散公告中明确指出:‘下一个十年的竞争不在模型参数,而在行业知识注入Agent的速度与深度。’
号哥说:巨头动向是风向标:当微软把最顶尖的研究者从arXiv拉进银行金库、医院手术室,说明AI竞赛已进入‘谁更懂水泥厂巡检逻辑’‘谁更熟律所尽调checklist’的深水区。
落地提点:想创业做AI?别再堆模型,去你最熟的那个行业蹲三个月,把老师傅的口头禅、Excel里的隐藏公式、审批单上的手写备注全记下来——这才是AI Agent的黄金prompt。
来源:Hacker News
4. 消费者脑波头戴设备正悄然采集数据训练AI,隐私监管缺位引科学家警告
Science杂志揭露,多家消费级脑电(EEG)头戴设备厂商,在用户不知情情况下,将原始脑波数据上传至云端,用于训练情绪识别、注意力预测等AI模型。
这些数据包含个体在观看广告、阅读新闻、甚至冥想时的神经反应模式,具有极高敏感性与唯一性,一旦泄露将导致‘思想层面的身份盗用’。
目前全球尚无针对神经数据的专门法律,欧盟GDPR与美国HIPAA均未将其明确定义为‘生物识别信息’进行保护。
号哥说:这是AI落地中最危险的灰色地带:当技术能读取‘尚未出口的念头’,企业就必须回答——我们有没有资格,把人的静息态脑波,当成另一种‘用户点击行为’来分析?对医疗、教育等行业AI化是重大警示。
落地提点:医疗AI创业者注意:别碰脑波数据,哪怕用户签了授权——你今天的合规捷径,可能是明天的集体诉讼导火索。
来源:Hacker News
5. Elvis与Eminem版权方起诉Suno:AI音乐克隆触及艺人声音人格权红线

猫王(Elvis Presley)遗产管理方与Eminem出版商联合起诉AI音乐公司Suno,指控其模型未经许可克隆艺人标志性声纹、演唱风格与歌词惯用修辞,构成对‘声音人格权’的侵犯。
原告援引田纳西州《反声音盗用法》与加州《名人权法》,强调AI生成的‘听起来像Elvis’的歌曲,已实质性损害其授权音乐产品的市场价值。
此案是全球首例将‘AI声纹克隆’纳入人格权司法审查的案件,判决结果或将重塑整个AI音频产业合规边界。
号哥说:版权之争正在升级:从‘训练数据是否侵权’,进入‘生成物是否侵犯人格权’新阶段。对电商、客服、教育等行业用AI语音的提醒是——别只管音色像不像,更要确保‘声音背后没有真人授权’。
落地提点:做AI语音客服的团队,立刻停用所有未获真人声纹授权的TTS模型,改用‘品牌音色’(如‘天猫精灵音’),这是当前最安全的合规姿势。
来源:The Verge AI
- 暂时没有评论,来说点什么吧





