Category: 伦理与政策

7月9日，网络安全认证机构CREST发布《AI安全宪章》，已有逾70家网络安全企业签署，承诺在AI系统开发、部署与监控中遵循透明、可验证的安全原则，重点覆盖漏洞披露、偏见审计与对抗攻击防护。这是48小时内行业层面最新动作，标志着AI安全治理从政府主导转向企业集体自愿框架。 这一事件发生在全球AI监管碎片化加剧的背景下。美国多州已通过AI法案，欧盟AI Act进入执法阶段，而中国则强化对前沿模型的出口与访问限制。相比之下，CREST宪章强调“自下而上”的行业标准，试图在正式法规落地前建立信任机制。签署企业多为传统网络安全服务商，它们希望通过统一准则，既降低自身合规风险，也为客户提供可采购的“负责任AI”标签。 与此前政府或学术推动的治理不同，此次行动更具商业动机。过去数月，AI代理与基础模型部署规模扩大，安全事件频发（包括自主漏洞利用案例），企业面临声誉与诉讼双重压力。70余家企业联合表态，规模已超此前类似倡议，显示行业对“监管真空”成本的担忧已达临界点。 然而，悬念在于效力：自愿框架能否真正约束头部实验室，还是仅成为营销工具？未来6-12个月，若更多模型提供商加入，或与CREST认证绑定采购，可能形成事实标准；反之，若缺乏第三方审计与处罚机制，则可能重蹈早期隐私框架的空洞结局。监管机构与投资者均将密切观察其后续落地。 信源：https://www.infosecurity-magazine.com/news/crest-ai-security-charter-cyber/ https://hammerspace.com/event/raise-summit-2026/（同期巴黎AI峰会讨论数据控制平面） ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

7月7日路透社独家报道，中国商务部近期与阿里巴巴、字节跳动及初创公司Z.ai等头部企业举行多轮会议，讨论限制海外用户访问中国最先进AI模型（含尚未发布的版本）。会议涉及闭源与开源权重模型，部分选项包括禁止公开对外发布或仅限国内使用，同时考虑将AI技术泄露升级为国家安全犯罪。[[1]](https://www.reuters.com/world/beijing-is-looking-curbing-overseas-access-chinas-top-ai-models-sources-say-2026-07-07/) 这一动向正值中美AI竞争白热化阶段。美国此前通过芯片出口管制与模型安全审查收紧对华技术流动，中国企业则依靠DeepSeek、Qwen等开源模型快速抢占全球开发者与企业市场份额。路透援引消息人士称，此举旨在将前沿模型视为“国家资产”，防止被美方用于反向工程或军事用途。 对比美国：OpenAI、Anthropic等公司已通过政府预览机制与身份验证收紧访问，而中国此举可能进一步割裂全球模型市场。过去一年，中文开源模型因免费、高性能迅速渗透美国企业（部分数据源显示占比达30%-46%），若限制落地，海外开发者将面临更高成本与合规壁垒，加速“模型民族化”趋势。 根本驱动力在于国家安全与技术主权博弈。中国此前放宽H200芯片采购，显示算力端仍有松动空间，但模型端收紧或标志政策从“追赶”转向“护城河”构建。短期内，DeepSeek等开源项目可能受限，长期则可能倒逼中国模型转向闭源商用或国内生态。 悬念在于：此政策是否会扩展至已广泛开源的权重，以及执行时间表。若落地，全球AI资本与人才流向或将加速重构，欧洲与新兴市场或成为新缓冲地带。 信源： https://www.reuters.com/world/beijing-is-looking-curbing-overseas-access-chinas-top-ai-models-sources-say-2026-07-07/ https://fortune.com/2026/07/08/china-mulls-limiting-foreign-access-advanced-ai-models/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

彭博社7月8日报道指出，中国顶级AI模型的快速迭代正加剧美国对网络安全的担忧。报道援引行业观察称，这些模型在代码生成、漏洞挖掘等能力上的提升，可能被用于自动化网络攻击或情报收集，尽管目前尚未出现大规模真实案例，但已促使美方重新评估出口管制与供应链风险。[[1]](https://www.bloomberg.com/news/newsletters/2026-07-08/chinese-ai-models-advance-causing-us-cybersecurity-anxiety) 这一动态发生在中美AI竞争进入“能力与安全并重”阶段的背景下。此前美方已通过芯片出口限制与调查行动试图减缓中国算力积累，但中国模型在特定垂直领域（如代码与代理）的进步速度超出部分预期。相比之下，美国实验室更侧重于对齐与可解释性，而中国团队则以工程效率和规模见长。 编辑观察：若焦虑持续发酵，短期内可能看到更严格的模型审查机制或国际合作框架，但长期将考验双方在“开源 vs 封闭”路径上的博弈。下一个值得跟踪的信号，是美方是否会针对中国模型的跨境部署提出新限制。 信源：https://www.bloomberg.com/news/newsletters/2026-07-08/chinese-ai-models-advance-causing-us-cybersecurity-anxiety ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

Meta 于 7 月 8 日推出名为 Muse Image 的 AI 图像生成器，允许用户基于公开 Instagram 照片生成图像，无需当事人明确同意。这一功能随新模型发布同步上线，迅速引发用户和监管关注。纽约时报报道指出，该工具可直接调用公开照片数据，相当于为深度伪造和未经授权的图像创作打开通道。 此举发生在 Meta 加速 AI 产品商业化的背景下。公司此前已调整隐私政策，将用户数据用于训练，但此次直接暴露照片生成能力，将隐私风险从后台推至前台。与此同时，Meta 也在推进其他 AI 功能（如编码对标模型），显示其在多模态领域的激进布局。 相比 OpenAI 和 Anthropic 更谨慎的数据使用策略，Meta 依赖海量社交图谱的做法短期内或带来竞争优势，但长期面临用户流失与合规压力。欧盟和美国州级监管可能加速跟进类似“数据用于 AI 训练”的审查。 下一步值得跟踪的是 Meta 是否会提供更细粒度的 opt-out 选项，以及该功能对平台用户活跃度的实际影响。[[1]](https://www.nytimes.com/2026/07/08/technology/meta-instagram-ai.html) 信源：https://www.nytimes.com/2026/07/08/technology/meta-instagram-ai.html ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ […]

美国国会两家委员会正启动调查，针对美国企业日益增加对中国AI模型的使用。调查源于OpenAI和Anthropic等美国前沿模型token价格持续上涨，企业转向DeepSeek、Z.ai等中国模型以控制成本。[[1]](https://www.cnbc.com/2026/07/08/chinese-ai-models-probe-us-lawmakers.html) 6月底以来，多家美国AI初创公司已将100%流量从Anthropic Claude转移至DeepSeek。中国模型在推理能力和性价比上已接近甚至超越部分美国前沿系统，而OpenAI最新模型因政府出口管制一度受限，进一步推高了企业使用门槛。[[2]](https://www.cnbc.com/2026/07/07/chinese-ai-models-costs-us-openai-anthropic.html) 这一趋势与地缘政治紧张同步升温。议员们担心数据安全、模型可解释性及供应链风险，计划通过听证和潜在立法限制中国模型在敏感领域的应用。与此同时，Anthropic和OpenAI正面临营收压力，企业客户转向更便宜的替代方案已成公开秘密。 相比之下，中国模型出海路径正从“低价”转向“性能-成本”双优，而美国实验室则更依赖政策护栏和资本密集型算力。短期内，企业将在效率与合规间权衡；长期看，这或加速全球AI供应链的区域化分裂。 下一步值得跟踪：调查结果是否会转化为具体出口管制或采购禁令，以及中国实验室是否会借此机会进一步扩大海外市场份额。 信源：https://www.cnbc.com/2026/07/08/chinese-ai-models-probe-us-lawmakers.html 信源：https://www.cnbc.com/2026/07/07/chinese-ai-models-costs-us-openai-anthropic.html ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

7月6日，英国AI内容工作室Particle 6宣布，其AI生成“演员”Tilly Norwood将主演首部剧情长片《Misaligned》，故事设定在“ Tillyverse”多元宇宙，讲述AI存在的存在主义混乱。这条消息迅速引发好莱坞工会强烈反弹，凸显AI从工具向内容生产者角色转变的现实压力。 这一事件并非孤立。过去一年，AI已在特效、配音和剧本辅助环节渗透，但直接以“演员”身份主导主演，首次将生成内容推向商业主舞台。Particle 6的混合制作模式与传统片场形成鲜明对比：前者依赖算法与海量训练数据，后者依赖真人表演与工会协议。类似SAG-AFTRA此前对AI克隆的抵制，如今面对完整虚拟主角，谈判筹码进一步削弱。 从格局看，这折射出内容产业与算力资本的深层错位。OpenAI、Anthropic等模型供应商正通过API降低生成成本，而好莱坞传统工作室在IP与人才上仍有护城河。Tilly Norwood的案例显示，AI正从“效率工具”升级为“替代主体”，成本优势可能加速独立制片与短视频平台的崛起，却加剧就业分化与版权归属争议。 未来6-12个月，关键悬念在于监管与工会是否能建立“AI演员”准入标准，或迫使 studios 披露生成比例。若无实质约束，虚拟角色商业化或将从实验走向常态。 信源：https://variety.com/2026/film/global/ai-actor-tilly-norwood-movie-debut-misaligned-1236802325/ https://www.cbsnews.com/news/tilly-norwood-ai-generated-actor-feature-film/ https://abcnews.com/video/134541227/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

7 月 8 日 Anthropic 更新的消费者隐私政策正式生效，允许公司基于“善意相信”主动向执法机构分享用户对话数据，无需法院命令，同时扩大身份验证和数据收集范围。这一调整正值全球 AI 监管加速之际，立即引发外界对用户信任与模型训练边界的讨论。 与 Google、Meta 等巨头此前类似政策相比，Anthropic 此举更为激进：前者多通过“用户同意”或“公开数据”灰色地带推进，而 Anthropic 直接将“内部判断”作为分享依据。同期欧盟 7 月 7 日发布的网络安全与人工智能行动计划，正强调对高风险 AI 系统的数据治理收紧，二者形成鲜明对比——欧洲侧重事前约束，美国实验室则依赖事后自证。 这一变化本质反映前沿实验室在算力与数据双重压力下的现实选择。模型性能迭代需要海量真实对话数据，订阅用户增长却放缓，隐私让步成为短期解法。然而，过去 OpenAI、Anthropic 均因数据争议面临用户流失与监管审查，此次政策或进一步放大信任裂痕。 未来六到十二个月，关键悬念在于：监管是否会要求所有前沿模型公开数据使用审计报告，还是实验室将通过差异化隐私工具抢夺企业用户？若后者胜出，消费者端信任可能持续流向开源或本地部署方案。 信源：https://www.medianama.com/2026/06/223-anthropic-widens-data-collection-id-verification-government-id-selfie-claude-users/ https://digital-strategy.ec.europa.eu/en/news/commission-presents-eu-action-plan-cybersecurity-and-artificial-intelligence https://techjacksolutions.com/ai-brief/anthropic-consumer-privacy-policy-takes-effect-july-8-what-t/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

日本政府7月7日宣布成立新委员会，全面 overhaul 现行法律框架以应对人工智能发展。该委员会由前首相岸田文雄时期的数字行政财政改革委员会改组而成，重点审视AI开发、使用及责任归属等法规。 此举正值全球AI治理加速之际。美国、欧盟已分别推进自愿标准和AI Act执法，日本此前相对滞后。此次改革旨在平衡创新激励与风险管控，涵盖数据隐私、算法透明度及跨境数据流动等议题。日本内阁官房长官木原实强调，需与产业界、学术界及公民社会协作，确保法规与技术演进同步。 与中美“先发展后规范”路径不同，日本选择同步立法，类似欧盟但更侧重产业友好。分析人士指出，这可能吸引外资同时限制高风险应用落地速度。下一步值得关注的是委员会首份报告发布时间及具体修订清单。 信源：https://www.japantimes.co.jp/news/2026/07/07/japan/ai-new-council/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

伊利诺伊州州长JB·普里茨克7月6日在芝加哥签署《人工智能安全措施法案》，要求前沿AI模型开发者公开安全实践、报告重大安全事件并建立内部合规程序。该法案将于2028年生效，被视为全美最具保护性的州级AI监管之一。 法案仿照加州和纽约模式，赋予州政府对最先进模型的审计权，并为员工提供举报渠道与保护。普里茨克表示，此举旨在“在AI重塑经济与社会前建立问责机制”。伊利诺伊州由此成为继加州、纽约之后第三个通过类似立法的州，标志州级监管正从碎片化走向系统化。 与联邦层面特朗普政府偏好“自愿标准”不同，州政府正通过具体合规要求填补空白。加州已率先要求模型安全测试，纽约侧重偏见审计，伊利诺伊则强调事件报告与 whistleblower 保护，三州形成互补。开发者若在这些州运营，将面临更高透明度门槛，可能加速行业合规成本上升。 此举凸显AI治理从“能力竞赛”转向“信任建设”。未来6-12个月，若更多州跟进，联邦层面或被迫协调，否则地方法规碎片化风险将迫使大模型公司调整部署策略。 信源：https://abc7chicago.com/post/illinois-governor-jb-pritzker-sign-ai-bill-law/19457902/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信

7月6日，Partnership on AI（PAI）在日内瓦宣布推出Global AI Progress Hub和《Global Responsible AI: Measures of Progress》报告，首次建立多利益相关方参与的公开记录机制，追踪AI治理实际进展。这与同期举行的联合国AI治理全球对话形成呼应，标志着治理讨论从原则宣示进入可量化阶段。[[1]](https://sg.finance.yahoo.com/news/partnership-ai-announces-global-initiatives-151700073.html) 这一动作发生在AI资本军备赛与监管碎片化并行的背景下。过去一年，OpenAI与Anthropic等实验室多次发布安全承诺，但外界缺乏独立验证渠道；欧盟AI Act强调合规，特朗普政府则偏好自愿标准。PAI新平台试图弥合这一鸿沟，通过独立报告和公开数据，让企业、政策制定者和公民社会共享同一套评估框架。 与公司自报数据相比，PAI的多方模式更具公信力，但也面临执行挑战。类似联合国框架的松散协调，容易陷入“承诺多、落地少”的困境。若Hub能吸引主流实验室定期提交可审计指标，或将推动行业从“能力竞赛”转向“信任竞赛”。 未来6-12个月，这一平台能否成为事实上的行业基准，仍取决于首批报告的透明度和采纳率。若数据缺口明显，治理或将重回区域性监管轨道。 信源： https://sg.finance.yahoo.com/news/partnership-ai-announces-global-initiatives-151700073.html https://partnershiponai.org/partner-forum-2026/ ✕ 📱 分享到微信 📤 分享图片 或长按图片 → Save to Photos → 发到微信 📤 分享这篇文章 💬 分享微信好友𝕏 X 分享in LinkedIn 点击”分享微信好友”→ 长按图片发到微信