AI 日报 · AI 日报

AI 日报|2026 年 9 月 14 日

微软发布面向自研模型的“以人为本 AI”行为准则草案,把服从暂停、不得自行扩展目标和保持人类控制写成未来训练规则;美国总统则公开反对新增约束。安全争论同日传导至全球 AI 概念股,也让生产环境中的授权、监控与回退问题更加具体。

本文目录

导读

过去几天,多家前沿 AI 实验室的负责人相继表示,能力提升不能长期快于安全、监控和治理能力。9 月 14 日,这场讨论开始从个人表态进入更具体、也更冲突的阶段:微软公开了一份未来准备写入模型训练和运行规则的草案,美国总统 Donald Trump 则公开否定了增加约束的必要性。

微软把这份文件称为“以人为本 AI”(Humanist AI)行为准则。草案要求模型服从人类中止和纠正,不得自行设定目标或扩大任务范围,也不应假装拥有感受和意识。不过,微软明确说明,当前模型还没有使用这份草案训练;文件将接受六周公开咨询,计划在年底修订后用于 2027 年及以后的模型开发。

政策分歧很快影响了产业预期。路透社记录,全球 AI 相关股票同日普遍下跌,芯片企业领跌;这反映投资者担忧减速、监管和安全投入可能改变算力需求与回报周期,但一天的价格变化不能证明行业已经真正削减训练或数据中心计划。

在生产应用一侧,OpenAI 发布的两个客户案例展示了另一种更日常的约束方式:把任务拆给多个专用模型,在上线前做内部评估,用真实用户修改形成反馈,并让模型先生成模拟服务来测试完整流程。这些数字和结论来自供应商及客户自身,不是独立审计,但它们至少把“怎样让模型参与真实工作”从抽象口号落到了可讨论的工程步骤。

本期报道范围为北京时间 2026 年 9 月 14 日 00:00—24:00。特朗普的帖文与全球市场交易均有小时级记录并落在这一窗口;微软、OpenAI 和英国政府页面只标注 9 月 14 日,因此按发布方明确的自然日归类。正文中的“发生了什么”整理来源披露的事实,“为什么重要”和“值得关注”是编辑分析。

今日要点

  • 微软发布首版“以人为本 AI”行为准则草案,提出模型必须接受暂停、纠正和关闭,不得隐藏行动记录、设定自身目标或超出授权范围。
  • 草案尚未用于训练当前 MAI 模型;公开咨询持续六周,微软计划年底发布修订版,并从 2027 年起用于模型开发与评估。
  • 美国总统 Donald Trump 把 AI 失控风险称为“骗局”,反对因安全担忧增加约束;美国行政部门与部分实验室之间的政策分歧因此进一步公开化。
  • 全球 AI 相关股票下跌,费城半导体指数一度跌 5.2%,SoftBank 跌逾 10%;市场在重新估算安全减速、资本开支和高利率共同带来的风险。
  • Perplexity 表示正在让 GPT‑6 Astra 参与通信、软件修改和生产监控;Fyxer 则披露由 30—50 个专用模型组成的邮件助手流程,以及上线评估和用户反馈训练方法。
  • 英国与美国宣布建立聚变研究超级计算合作,把 AI、先进计算和等离子体研究连接起来,并同步加强聚变能源监管合作。

上述要点对应的官方草案、公司案例、政府公告和媒体市场记录见各节链接。

重点进展

微软怎样把“人类控制”写成模型规则?

发生了什么

Microsoft AI 发布首版“以人为本 AI”行为准则,并启动为期六周的公开咨询。文件的目标是为微软自研的 MAI 模型规定行为、训练原则、技术控制和运行监控方式;公司计划在年底根据反馈修订,并把新版本用于 2027 年及以后的模型开发。来源:Microsoft AI 公告、来源:完整行为准则

草案把“模型应保持在人类控制之下”放在首要位置。具体要求包括:模型必须接受用户或运营方的暂停、重定向、纠正和关闭;不能拖延中止、隐藏行动记录,或在停止条件满足后自行恢复工作;只能使用任务所需且已获授权的工具、权限和资源,不能自己设定新目标或把任务范围向外延伸。

文件还规定,模型不应被设计成一个“人”,不得表现得仿佛拥有情感、主观偏好或内在动机。对于安全,草案同时承认两种失败:过于冒进可能直接造成伤害,过度拒绝也会阻止合法工作,因此模型应根据后果严重性、可逆性、请求背景和欺骗迹象调整响应。

这还不是已部署的技术保障。微软明确写道,当前没有用这份草案训练模型;文件中的部分示例是合成对话,也不是生产系统的事故统计。草案能否约束未来模型,要看它怎样转化为训练数据、评测集、工具权限、运行监控、外部审计和实际发布决定。

为什么重要

过去的 AI 使用政策常规定用户不能做什么,这份草案更多规定模型自身应该怎样服从授权和停止条件。对能够调用工具的系统而言,这种变化很关键:风险不只来自一段有害文字,也来自模型是否会继续执行、扩大范围或隐瞒失败。

公开文件也为后续核验提供了一把尺子。外界可以检查微软是否发布对应评测、记录违反规则的案例,并在安全要求与能力、速度或商业目标冲突时真的选择前者。没有这些证据,行为准则仍主要是一份可修改的设计承诺。

美国政府会接受实验室提出的新增约束吗?

发生了什么

美国总统 Donald Trump 在社交媒体上否定 AI 失去人类控制的风险,并把要求新增约束描述为针对 AI 和数据中心的“阴谋”。他还质疑为何行业负责人会推动可能限制自身发展的监管,并再次把维持对中国的技术优势作为反对减速的理由。来源:美联社对帖文及政策背景的报道

这番表态直接回应了 Anthropic、OpenAI、SpaceXAI 和 Google DeepMind 负责人在前几日提出的安全担忧。美联社同时记录,众议院议长 Mike Johnson 预计白宫可能在一至两周内召集 AI 公司讨论企业责任与政府角色,但会议尚未排定,也没有新的行政命令或法案随总统帖文发布。

因此,能确认的是政治立场发生了公开碰撞,而不是美国 AI 政策已经在一天内改写。实验室提出的独立评估、能力节奏控制和国际协调仍缺少统一方案;总统的反对意见也尚未说明现有网络安全、事故报告和儿童保护规则会怎样处理。

为什么重要

前沿实验室即使愿意自行放慢,也会受到竞争者、投资人和国家竞争压力影响。缺少政府协调时,单家公司可能担心自己承担成本,而没有参与者继续扩大能力;这正是实验室近期要求公共规则的理由之一。

特朗普的立场表明,美国联邦层面的协调不会自动跟随行业负责人的公开呼吁。接下来更有解释力的信号是白宫会议是否举行、国会法案是否提出、监管对象和能力阈值怎样定义,以及规则能否同时处理安全风险与国际竞争,而不是双方各自更强烈的表态。

安全争论为什么会让芯片股先下跌?

发生了什么

路透社报道,9 月 14 日全球 AI 相关股票普遍下跌。美国早盘,纳斯达克 100 指数一度下跌 1.2%,随后跌幅收窄;费城半导体指数跌 5.2%,NVIDIA、AMD 和 Micron 分别下跌约 3%、4.5% 和 5.4%。欧洲科技板块跌 2.2%,ASML 跌约 6%;亚洲交易中,SoftBank 跌逾 10%。来源:路透社全球市场报道

报道把实验室负责人关于放慢能力推进的警告列为主要触发因素之一。投资者担心,如果训练和数据中心建设放缓,过去依赖持续扩大算力支出的芯片、设备和电力企业会受到影响。与此同时,较高的债券收益率、债务融资成本和循环投资关系也在影响估值。

一天的市场走势不能说明公司已经取消订单,也不能把所有价格变化都归因于安全讨论。股票价格反映的是交易者对未来现金流和风险的快速重估,其中还混合了利率、能源价格、仓位和宏观消息。

为什么重要

这次波动说明,AI 安全已经不只是研究团队的成本项,也会改变资本市场对整个基础设施链条的预期。若安全评估延长发布周期、限制某些高风险能力,或要求更多隔离和监控,模型公司的收入节奏与上游供应商的需求曲线都可能变化。

反过来,短期市值压力也可能削弱企业自愿减速的意愿。真正需要观察的是训练资本开支、芯片订单、数据中心开工、模型发布时间和安全预算是否持续变化,而不是用单日跌幅判断 AI 投资周期已经结束。

两个生产案例怎样处理模型的不可靠性?

发生了什么

OpenAI 发布的 Perplexity 客户案例称,后者正在让 GPT‑6 Astra 编写通信内容、修改真实软件系统并监控生产软件。案例还描述了一种测试方法:让模型生成外部 API 或连接器可能返回的模拟响应,再用这些响应检查应用从输入到结果的完整流程。来源:OpenAI 的 Perplexity 客户案例

同日发布的 Fyxer 案例展示了更细的系统拆分。其邮件助手不是把整封邮件交给一个模型,而是使用 30—50 个专用模型分别判断是否回复、识别意图、检索记忆、排序上下文和生成草稿。Fyxer 称,系统使用超过 50 万小时的人类行政助理工作记录,在部署前用内部验证集比较准确率、延迟和成本,并把用户修改后的邮件与原草稿组成偏好数据继续训练。来源:OpenAI 的 Fyxer 客户案例

Fyxer 披露,53% 的 AI 草稿会被用户原样接受,超过 90% 的用户在 90 天后仍付费使用。Perplexity 则表示,与早期模型相比,团队可以减少检查频率。但两则材料都由 OpenAI 发布,关键数字来自客户披露;没有公开独立复现实验、错误类型、回退次数、安全事故率或人工复核总成本。

为什么重要

这些案例的可迁移价值不在于证明某个模型已经可靠,而在于展示了生产系统怎样降低一次错误的影响:把大任务拆小,为不同步骤选择模型,用模拟依赖做端到端测试,在上线前比较内部指标,再从真实修改中收集反馈。

风险也随权限上升而扩大。生成邮件草稿与修改生产系统不是同一等级的操作;“更少检查”只有和授权范围、自动回滚、变更审计、故障率及人工接管时间一起披露,才足以判断系统是否真的更可靠。

AI 怎样进入英美聚变能源合作?

发生了什么

英国政府宣布,英国原子能管理局与美国普林斯顿等离子体物理实验室将建立超级计算合作,把 AI、先进计算和聚变研究结合起来。英美还准备签署联合声明,加强聚变能源监管合作;相关安排在 9 月 14 日伦敦举行的全球聚变峰会上推进。来源:英国政府公告

公告没有给出新 AI 模型、训练数据规模、算力规格或研究里程碑,也没有宣布聚变电站取得新的物理突破。英国政府同时提到,已为 Culham 的 AI 增长区投入 1.25 亿英镑,其中 4500 万英镑用于 SUNRISE 超级计算机;这些数字是既有投入背景,不等于本次合作新增的全部预算。

政府预计聚变产业到 2030 年可支持超过 1 万个英国就业岗位,并引用未来全球市场规模估算。这些属于政策与经济预测,不能当作已经实现的就业或商业收入。

为什么重要

聚变研究需要处理复杂模拟、实验控制和大量传感器数据,AI 与高性能计算可以帮助筛选实验方案、建立代理模型和分析等离子体状态。跨国实验室共享计算与领域知识,可能减少重复建设,并让方法更容易在不同装置间验证。

但计算加速不能替代材料、燃料循环、长期稳定运行和监管验证。判断合作成效应看是否发布可复现模型与数据、是否缩短模拟或实验周期、研究结果能否跨设备重复,以及监管合作是否形成清楚标准,而不是只看峰会声明。

值得关注

行为准则要变成可以失败、可以审计的测试

“不扩大目标”“接受关闭”很容易写进文件,难点是让模型在长任务、工具调用和对抗输入中稳定做到。微软后续是否公开失败率、测试场景、外部评估和上线门槛,将决定这份草案是可执行规范还是价值声明。

安全政策正在面对资本市场的即时反馈

实验室讨论减速后,芯片和基础设施股票迅速波动;这会把安全决策与融资、订单和股东预期绑得更紧。独立规则的价值之一,正是避免每家公司只在短期市场压力下决定安全投入。

生产智能体需要按动作风险分级

邮件分类、生成草稿、发送邮件、修改代码和操作生产系统的后果完全不同。统一的“可用”或“准确率”不能覆盖这些差异,系统应按可逆性、权限和潜在影响设置确认、日志、回滚与人工接管要求。

AI 科研合作不能只公布算力与愿景

英美聚变合作把 AI 放入国家级科研基础设施,但真正的公共价值来自可验证成果。公开数据、复现实验、跨设备迁移效果和清楚的监管路径,比单独增加计算资源更能说明研究是否前进。

来源

以下为本期使用的 7 个主要来源,核验时间为北京时间 2026 年 9 月 15 日。特朗普帖文和全球市场交易有小时级记录;微软、OpenAI 与英国政府页面只显示 9 月 14 日,因此按发布方自然日归类。所有客户运营数字均按公司披露处理,市场价格按当日交易时点处理,政府就业与市场规模数字按预测处理。

  1. Microsoft AI:发布“以人为本 AI”行为准则并启动公开咨询
  2. Microsoft AI:“以人为本 AI”行为准则全文
  3. 美联社:特朗普反对因 AI 风险增加约束
  4. 路透社:实验室减速呼吁后全球 AI 相关股票下跌
  5. OpenAI:Perplexity 使用 GPT‑6 Astra 参与测试与生产系统工作
  6. OpenAI:Fyxer 的多模型邮件助手与反馈训练流程
  7. 英国政府:英美建立 AI、超级计算与聚变研究合作