Author: TheBestDoll

亚马逊 SageMaker AI 新客户现可通过 Amazon、Apple、GitHub 或 Google 等已有身份，在 2-3 步内完成注册并进入已配置完成的 SageMaker Studio 环境。系统自动在约 20 秒内创建 Studio，无需设置高级 AWS 账户或输入信用卡（多数客户），并赠送 100 美元 AWS Free Tier 额度用于模型定制、训练作业、Studio 笔记本及端点部署。此举整合更新后的 AWS 登录体验，消除了此前验证邮箱、电话及支付信息的流程障碍。 信源:https://aws.amazon.com/blogs/machine-learning/developers-can-now-access-sagemaker-studio-through-the-new-aws-experience/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

Cloudflare 宣布推出 Clairic 提取模型预览版。该模型已托管于 Workers AI，标识为 @cf/cloudflare/clairic，计划不久后发布开放权重版本。Clairic 能从非结构化输入中提取、计算、估算和预测数值，返回带 80% 范围的数值，同时提取名称、日期和列表等类型化值。其处理速度更快、成本更低、准确度高于传统大语言模型。这是系统一类提取模型的首个实例。 信源:https://blog.cloudflare.com/clairic-extraction-model/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

希诺霍萨10月19日在特拉维斯县法院提起诉讼，要求得州州长阿博特提供超过一千页与马斯克的未编辑通信记录。诉讼称这些通信涉及州激励措施、拨款、宽带部署、公共海滩准入、环境影响、人工智能和数据中心开发。希诺霍萨9月29日提交请求，并设定10月13日为截止日期。阿博特办公室此前向媒体组织提供1374页记录，其中大部分被编辑。阿博特新闻秘书称诉讼毫无根据，只是政治行为。 信源:https://news.bloomberglaw.com/ip-law/musks-communications-with-texas-governor-sought-in-new-suit ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

联邦法官Alex Tse周一下令前OpenAI工程师Abdulrahman Alfozan继续羁押，等待间谍案审判。检察官称沙特政府向保释公司提供无条件资金支持，法官质疑此举如同“空白支票”，并指出Alfozan与沙特高层存在联系，存在逃离风险。Alfozan辩护律师否认其为沙特从事间谍活动，但未能说服法官。听证会在旧金山法院举行，现场挤满记者与支持者。 信源:https://www.wired.com/story/openai-engineer-accused-of-spying-on-executives-ordered-to-remain-in-custody/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

Anthropic Alignment Science博客发布GRAFT研究。该方法将检测到的黑客行为学习更新限制在指定参数集，训练后移除这些参数。实验显示，此举能防止奖励黑客，包括监控器无法检测的类型，同时仍让模型完成预期任务。研究限于小模型与简单监控器，由MATS、Stanford、FAR AI及Anthropic研究者合作。 信源:https://alignment.anthropic.com/2026/graft/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

美国国土安全部发布禁令，要求所有联邦民用机构及其IT系统移除DeepSeek产品。通知刊登于Federal Register，指出DeepSeek模型存在将政府员工和供应商敏感数据转移至中国政府的风险，并可能包含恶意软件或其他安全漏洞。禁令覆盖环境保护署、联邦通信委员会等机构，现有产品必须清除，DeepSeek同时被禁止参与任何联邦政府合同。该决定发布于DeepSeek推出V4.1-Flash-1017模型数日后。 信源:https://www.engadget.com/2290535/homeland-security-bans-deepseek-use-in-federal-civilian-agencies/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

Jane Street 的机器学习工程师在 NVIDIA CUDA Tile 中实现了 Mamba-2 状态空间模型，并与 NVIDIA 合作优化了三个自定义前向内核。分块累积和内核使用 ct.cumsum 计算每令牌每头的衰减项对数空间累积和。前进状态内核使用 ct.mma 执行张量核心矩阵乘法操作以推进隐藏状态。计算输出内核融合携带状态项、衰减因果掩码交互矩阵和跳跃连接，并转换为 TF32 执行。这些优化包括延迟提示、操作数交换、转置内存布局和自动调优器搜索块大小与占用率参数。 信源:https://developer.nvidia.com/blog/accelerating-mamba-2-with-high-performance-forward-pass-kernels-in-nvidia-cuda-tile/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

Deepgram 与 AWS Forward Deployed Engineering 团队合作，把 Nova-3 语音转文本模型迁移到 AWS Trainium2，用于离线批量推理。该工作从标准 PyTorch 代码开始，通过 TorchNeuron 完成端口，并针对硬件进行内核级调优，最终在单台 Amazon EC2 trn2.3xlarge 实例上运行八个模型副本。 迁移后的配置在 Deepgram 的高吞吐量批量转录任务中，每美元处理的音频量比此前计算选项高出 11% 至 70%。这些任务包括联络中心分析和医疗转录等场景。Deepgram 模型每年处理数千万亿音频令牌，服务超过 20 万开发者和 1400 家组织。 该优化结果可延伸至客户在 Amazon SageMaker AI 上的自托管部署，帮助其在相同基础设施预算下处理更多音频。 信源:https://aws.amazon.com/blogs/machine-learning/how-deepgram-optimized-voice-ai-at-scale-with-aws-trainium/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn […]

AWS在Amazon EC2 P5en实例上通过vLLM实现双向KV缓存传输。预填充节点与解码节点可互相获取已计算的KV块，避免多轮智能体工作负载中对累积对话历史的重复预填充。基准测试显示，该方案将Qwen3-32B的TTFT最高降低1.6倍，将zai-org/GLM-5-FP8的TTFT最高降低3.3倍。EFA网络支持低延迟RDMA传输，减少预填充节点缓存逐出风险，提升加速器利用率。 信源:https://aws.amazon.com/blogs/machine-learning/improve-ttft-for-multi-turn-agentic-workloads-with-bi-directional-kv-transfer-in-vllm/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

vLLM为预填充-解码分离推理引入推送式NIXL连接器。该模式将传输协调与设置步骤移出关键路径，避免拉取模式下的串行等待。NIXL利用AWS EFA的RDMA功能，直接在GPU内存间传输KV块。Amazon EC2 P5en实例基准测试显示，TTFT最高提升3倍，TPOT改善30%。 信源:https://aws.amazon.com/blogs/machine-learning/push-based-kv-transfer-to-improve-ttft-and-tpot-for-disaggregated-inference-in-vllm/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信