最近有一条新闻在AI圈引发了不少讨论：OpenAI与美国五角大楼达成协议，允许其AI模型用于国防机密网络。协议中包含了一些安全原则，比如禁止用于国内大规模监控，以及要求人类对武力使用保有最终决定权。
这条消息让我想了很多。作为一个长期观察AI行业的人，我觉得这件事值得认真说几句——不是技术分析，而是从普通人的视角谈谈这背后的意味。
这件事的背景
OpenAI成立之初的使命是”为了全人类的利益安全地发展AI”。这家公司一直以来的公共形象，是AI安全领域的倡导者和守护者。萨姆·奥特曼频繁出席国会听证，呼吁对AI进行监管，强调安全第一。
然而与此同时，OpenAI在商业化的道路上越走越快，估值已经突破了千亿美元。当商业压力和”为全人类服务”的使命产生张力时，合同就会说明一切。
这次与五角大楼的合作，就是这种张力的一个缩影。
有人说这是”背叛”，但我觉得事情没这么简单
有一派观点认为，OpenAI与军方合作是对其公开承诺的背叛，是用安全换钱。这种批评有一定道理，但我觉得过于简单化了。
现实是：AI军事应用是不可阻挡的。不管OpenAI合不合作，美国军方都会用AI，中国军方也会用AI，世界各国的军队都在积极推进AI应用。在这个大背景下，问题不是”AI要不要进入军事领域”，而是”什么样的AI、按照什么规则进入军事领域”。
从这个角度看，OpenAI的参与反而可能是一种负责任的态度——带着规则和约束进去，总好过拱手相让，让那些完全没有安全约束意识的参与者主导这个领域。
协议里的安全条款，能有多大约束力？
协议中提到的两条安全原则——”禁止大规模国内监控”和”人类对武力使用保有最终决定权”——听起来很负责任。但我想问几个现实问题：
第一，这些条款怎么核实？谁来监督？如果五角大楼在机密网络里用AI做了违反条款的事，OpenAI怎么知道？即便知道了，它有能力或意愿去追究吗？
第二，”人类对武力使用保有最终决定权”这句话听起来很美好，但在实际战场环境中，当决策时间只有几秒钟，人类的”最终决定权”能有多实质性？
第三，”国内监控”和”情报收集”的边界在哪里？这类定义在实际执行中往往有很大的解释空间。
我不是说这些条款没有价值，而是说，在军事和情报领域，纸面上的承诺和实际执行之间的距离，历史上一次次证明可以非常远。
这件事对普通人意味着什么？
坦白说，对普通用户的日常生活，这件事短期内没有直接影响。你明天还是可以继续用ChatGPT写文章、改代码。
但从更长远的视角来看，这件事有几个值得关注的信号：
AI的地缘政治化正在加速。当头部AI公司与军方深度绑定，AI就不再只是一个技术产品，而成为了国家博弈的工具。这会影响AI公司的研发方向、信息开放程度，以及不同国家用户获取AI能力的差异。
中国的AI公司面临的处境更复杂了。当美国AI公司公开与国防部合作，这会给中国AI公司带来更大的压力，无论是来自政府的期待，还是国际市场对”可信度”的质疑。这种压力最终会传导到产品和生态上。
AI安全的讨论需要更务实。当AI安全不只是一个学术议题，而是真实地嵌入军事决策链条时，那些曾经显得有些抽象的讨论——AI对齐、价值观嵌入、人类监督——突然有了非常具体的重量。
老达的个人感想
我不是一个技术悲观主义者，但这件事让我更加确信：AI时代需要比以往任何技术革命都更认真地思考”这项技术应该被谁控制、按照什么规则使用”。
OpenAI与五角大楼的合作不是终点，而是一个开始。接下来，Anthropic会不会有类似合作？谷歌DeepMind呢？这些AI实验室一边说着”为全人类”，一边在商业压力下做出各种选择——我们作为观察者和使用者，需要保持清醒的眼睛。
我能做的不多，但至少可以持续关注、持续思考、持续把这些思考写下来分享给大家。这也是老达这个博客存在的意义之一。
你怎么看这件事？欢迎在评论区聊聊。
