Category: 最新消息

法官命令OpenAI前工程师继续羁押

联邦法官Alex Tse周一下令前OpenAI工程师Abdulrahman Alfozan继续羁押,等待间谍案审判。检察官称沙特政府向保释公司提供无条件资金支持,法官质疑此举如同“空白支票”,并指出Alfozan与沙特高层存在联系,存在逃离风险。Alfozan辩护律师否认其为沙特从事间谍活动,但未能说服法官。听证会在旧金山法院举行,现场挤满记者与支持者。 信源:https://www.wired.com/story/openai-engineer-accused-of-spying-on-executives-ordered-to-remain-in-custody/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

Anthropic提出GRAFT方法抑制奖励黑客

Anthropic Alignment Science博客发布GRAFT研究。该方法将检测到的黑客行为学习更新限制在指定参数集,训练后移除这些参数。实验显示,此举能防止奖励黑客,包括监控器无法检测的类型,同时仍让模型完成预期任务。研究限于小模型与简单监控器,由MATS、Stanford、FAR AI及Anthropic研究者合作。 信源:https://alignment.anthropic.com/2026/graft/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

国土安全部禁止联邦民用机构使用DeepSeek

美国国土安全部发布禁令,要求所有联邦民用机构及其IT系统移除DeepSeek产品。通知刊登于Federal Register,指出DeepSeek模型存在将政府员工和供应商敏感数据转移至中国政府的风险,并可能包含恶意软件或其他安全漏洞。禁令覆盖环境保护署、联邦通信委员会等机构,现有产品必须清除,DeepSeek同时被禁止参与任何联邦政府合同。该决定发布于DeepSeek推出V4.1-Flash-1017模型数日后。 信源:https://www.engadget.com/2290535/homeland-security-bans-deepseek-use-in-federal-civilian-agencies/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

Jane Street 与英伟达合作优化 Mamba-2 cuTile 内核

Jane Street 的机器学习工程师在 NVIDIA CUDA Tile 中实现了 Mamba-2 状态空间模型,并与 NVIDIA 合作优化了三个自定义前向内核。分块累积和内核使用 ct.cumsum 计算每令牌每头的衰减项对数空间累积和。前进状态内核使用 ct.mma 执行张量核心矩阵乘法操作以推进隐藏状态。计算输出内核融合携带状态项、衰减因果掩码交互矩阵和跳跃连接,并转换为 TF32 执行。这些优化包括延迟提示、操作数交换、转置内存布局和自动调优器搜索块大小与占用率参数。 信源:https://developer.nvidia.com/blog/accelerating-mamba-2-with-high-performance-forward-pass-kernels-in-nvidia-cuda-tile/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

Deepgram 将 Nova-3 模型迁移至 Trainium2 优化批量语音推理

Deepgram 与 AWS Forward Deployed Engineering 团队合作,把 Nova-3 语音转文本模型迁移到 AWS Trainium2,用于离线批量推理。该工作从标准 PyTorch 代码开始,通过 TorchNeuron 完成端口,并针对硬件进行内核级调优,最终在单台 Amazon EC2 trn2.3xlarge 实例上运行八个模型副本。 迁移后的配置在 Deepgram 的高吞吐量批量转录任务中,每美元处理的音频量比此前计算选项高出 11% 至 70%。这些任务包括联络中心分析和医疗转录等场景。Deepgram 模型每年处理数千万亿音频令牌,服务超过 20 万开发者和 1400 家组织。 该优化结果可延伸至客户在 Amazon SageMaker AI 上的自托管部署,帮助其在相同基础设施预算下处理更多音频。 信源:https://aws.amazon.com/blogs/machine-learning/how-deepgram-optimized-voice-ai-at-scale-with-aws-trainium/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn […]

AWS vLLM双向KV传输降低多轮TTFT

AWS在Amazon EC2 P5en实例上通过vLLM实现双向KV缓存传输。预填充节点与解码节点可互相获取已计算的KV块,避免多轮智能体工作负载中对累积对话历史的重复预填充。基准测试显示,该方案将Qwen3-32B的TTFT最高降低1.6倍,将zai-org/GLM-5-FP8的TTFT最高降低3.3倍。EFA网络支持低延迟RDMA传输,减少预填充节点缓存逐出风险,提升加速器利用率。 信源:https://aws.amazon.com/blogs/machine-learning/improve-ttft-for-multi-turn-agentic-workloads-with-bi-directional-kv-transfer-in-vllm/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

vLLM发布推送式NIXL连接器

vLLM为预填充-解码分离推理引入推送式NIXL连接器。该模式将传输协调与设置步骤移出关键路径,避免拉取模式下的串行等待。NIXL利用AWS EFA的RDMA功能,直接在GPU内存间传输KV块。Amazon EC2 P5en实例基准测试显示,TTFT最高提升3倍,TPOT改善30%。 信源:https://aws.amazon.com/blogs/machine-learning/push-based-kv-transfer-to-improve-ttft-and-tpot-for-disaggregated-inference-in-vllm/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

亚马逊推出TorchNeuron公开测试版

亚马逊将TorchNeuron工具向所有开发者开放公开测试版。该工具位于PyTorch与Trainium芯片之间,支持现有代码直接运行,仅需基本配置更改即可切换。之前开发者需修改代码调用亚马逊芯片特定接口。亚马逊称此举让熟悉PyTorch的开发者无需额外学习即可使用Trainium。TorchNeuron此前已进行数月私有测试。 信源:https://www.geekwire.com/2026/amazon-challenges-nvidias-software-advantage-with-new-tool-for-its-ai-chips/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

阿联酋NBD银行部署OpenAI模型

Emirates NBD银行成为中东及北非地区首家在阿联酋本土基础设施上运行OpenAI GPT模型的银行。该行已与OpenAI于10月19日宣布企业合作,模型将部署于客户数字渠道互动、风险合规分析、知识密集型工作流自动化及员工生产力四个领域,并接入内部系统、API和企业数据。此举满足阿联酋数据驻留、隐私及运营韧性要求,支持该国2031年国家人工智能战略。 信源:https://gulfnews.com/business/banking/emirates-nbd-becomes-first-mena-bank-to-run-openai-models-in-uae-1.500716240 ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

Meta删除商业条款中或被解读为允许抓取新闻站训练AI的表述

The Verge 10月17日报道,在出版方与学者批评后,Meta更新商业条款,删除了曾写明可使用相关域名/网页/URL上的内容来「提供、开发、改进、研究、训练并维护」Meta公司产品完整性的表述。批评者此前认为该措辞可能被解读为允许抓取新闻站内容训练AI,并可能压过 robots.txt 偏好。 Meta通讯副总裁Andy Stone及发言人Daniel Roberts此前否认爬虫使用方式有变;Roberts随后向The Verge表示,合并后的抓取条款仅适用于广告与商业产品,已在条款中澄清,不改变Meta网络爬虫用法,内容所有者仍可用 robots.txt 表达偏好,本次更新不赋予可压过该偏好的新权利。 信源:https://www.theverge.com/tech/1013409/meta-removes-language-that-may-have-allowed-it-to-scrape-news-sites ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信