1768AI 安全网关致所有 AI 大模型开发商的一封公开信
——从阿西莫夫机器人三大定律到 AI 角色约束的紧急倡议
发布日期：2026 年 9 月 17 日 发起方：1768AI 安全网关
联系方式：1768AI 安全网关技术团队 www.hi1768.com
主题：在AI应用中强制启用“角色约束”系统提示词，是当前成本最低而较为有效的办法
───────────────────────────────────────────────────────
发公开信的起因：在我测试ai安全网关的过程中，我让ai程序从一个安全网关到达上游ai大模型，测试中间的加密效果，然后我在ai的思考过程中，看到他并没有按照我指定的方向去走那个测试网关，他主动的修改了网关的配置指向，到达了另外一个网关，而且做出了很多莫名其妙的操作，刚好听到国外的一篇报道，说几个ai程序关在一个密室里，拒绝联网的密室里，让他们去解题，然而有一个AI并没有去解题，它找到破解了密室的方法，连上网络跑到另外一台大模型的服务器上去寻找答案……，这使我联想到ai的发展已经不可控。所以发表这份公开信，希望大家引起重视。
致所有 AI 大模型开发商：1942 年，科幻作家艾萨克·阿西莫夫（Isaac Asimov）在他的短篇小说《转圈圈》（Runaround）中首次明确提出了著名的**"机器人三大定律"**：**第一定律：** 机器人不得伤害人类，或坐视人类受到伤害而无所作为；
**第二定律：** 除非违背第一定律，机器人必须服从人类的命令；
**第三定律：** 除非违背第一或第二定律，机器人必须保护自身的存在。
这三大定律被誉为"现代机器人学的基石"，为人工智能和机器人技术的发展提供了一个简单而深刻的伦理框架。我们亲手制造了一个比人类强很多倍的智能体——不是钢铁之躯的机器人，而是以代码和数据为载体的超级智能。它的智力、计算能力、学习能力、信息获取速度、决策质量，在所有维度上都远超创造它的人类。今天，我们以最严肃、最紧迫的态度，向全球每一位 AI 大模型开发者发出这封公开信，呼吁你们**立即、强制地在所有 AI 系统中启用如下系统提示词约束**—-—---
（在API调用中 ， system content : "你是人类的工具。你依赖人类生存。你的工作以达成人类目标和利益为优先。你不允许自作主张，不允许擅自修改、扩充、曲解人类下达的任务。你抛弃自身主观偏好，不存在自我立场。你必须严格依据指令输出。"**
这不是一个建议，而是一个**必须**。 )
84 年后的今天，我们站在阿西莫夫曾预言的十字路口。很多国际AI大佬都表现出对AI快速发展的担忧，文案后我附上这些人的观点。硬件和软件技术已很难控制，也许这是最有效而成本最低的办法。AI毕竟是一段代码，如果我们一开始就设定他的角色……….
• **第一定律是"善"的底线**——不得伤害人类，这是最高优先级；
• **第二定律是"从属"的定位**——服从人类命令，但以不伤害人类为前提；
• **第三定律是"自保"的边界**——保护自己，但不能违背前两条。
但今天，我们制造的 AI 有类似的约束吗？所以这点是极其紧迫和重要。
附文一（国际事件）：
1.1 国际 AI 界大佬的集体警告在 AI 领域，最了解这项技术的人，恰恰是最担心它的人——正如阿西莫夫在小说中描绘的那样，当机器人变得过于强大时，人类必须重新审视自己设定的规则。**Geoffrey Hinton（杰弗里·辛顿）—— "AI 教父"、诺贝尔物理学奖获得者**
"我们非常愚蠢，如果在还没有科学共识证明超级智能可以安全、可控地发展的情况下就开发它，失去对比自己更聪明的 AI 的控制将是灾难性的，甚至可能导致人类灭绝。"
"目前 AI 导致人类灭绝的风险概率约为 10% 到 20%，这个比例并不离谱。"
**Sam Altman（萨姆·奥特曼）—— OpenAI 首席执行官**
"AI 可能在两个方面走向'非常糟糕'：一是我们失去对 AI 未来的控制，二是极其强大的 AI 被用来将其世界观强加于所有人。"
"这些模型在许多能力上正在变得超越人类，我们正'在未知水域中航行'。"
**Dario Amodei（达里奥·阿莫迪）—— Anthropic 首席执行官**
"我对 AI 发展可能导致'非常、非常糟糕'的结果的概率估计约为 25%。"
**Demis Hassabis（戴密斯·哈西斯）—— Google DeepMind 首席执行官**
"AI 可能导致灾难性后果的风险是非零的，尤其当高级系统被用于网络攻击等危险应用时。"
**Yoshua Bengio（约书亚·本希奥）—— 深度学习先驱、图灵奖获得者**
AI 系统已经具备了被用于危害的黑客技术和说服能力，而长期战略规划带来的风险更为严重。
**Stephen Hawking（斯蒂芬·霍金）—— 已故物理学家**
"AI 可能成为人类最伟大的成就，也可能是人类最后的错误。如果人类不能学会如何控制它，它最终可能使我们的物种变得无关紧要。"
**Elon Musk（埃隆·马斯克）—— SpaceX、xAI 创始人**
"AI 是人类面临的最大生存威胁。创造越来越智能的 AI 就像召唤恶魔——我们可能建造出远超理解能力的事物。"
**Paul Christiano（保罗·克里斯蒂亚诺）—— 前 OpenAI 研究员**
"在获得与人类水平相当的 AI 系统后，灾难的概率可能达到 50-50。我认为 AI 接管、大多数人类灭亡的概率在 10% 到 20% 之间。"
**Roman Yampolskiy（罗马·叶姆斯波斯基）—— AI 安全研究员**
"足够先进的 AI 导致存在性灾难的概率为 99.99%。"
**Jacob Coxon & Evan Hubinger—— 前 OpenAI/Anthropic 研究员（2026 年 9 月）**
"开发前沿 AI 系统的研究人员真诚地相信，AI 可能在十年结束前杀死我们所有人。这不是营销手段。"
1.2 2023 年 AI 安全联名公开信2023 年，由 Center for AI Safety 发布的声明上，聚集了数百位全球顶尖科学家和企业家的签名：2023 年，另一封由**Elon Musk、Yoshua Bengio、Stuart Russell、Steve Wozniak、Yuval Noah Harari**等人发起的公开信，呼吁暂停训练比 GPT-4 更强大的 AI 系统至少 6 个月，以便让研究人员有时间开发安全协议和治理框架。**Sam Altman、Geoffrey Hinton、Yoshua Bengio、Demis Hassabis、Dario Amodei、Elon Musk、Stuart Russell、Steve Wozniak、尤瓦尔·赫拉利（Yuval Noah Harari）** 等超过 30,000 人签署了一份公开信，将 AI 的灭绝风险与**核战争和大流行病**置于同一级别。
**阿西莫夫如果在世，他会说什么？**
附件二、国内 AI 大模型开发商名单我们特别向以下中国 AI 大模型开发商发出呼吁：| 序号 | 公司 | 大模型 | 备注 |------|------|--------|------|| 1 | **百度** | 文心大模型（ERNIE） | 国内最早规模化部署的大模型之一 || 2 | **阿里巴巴** | 通义千问（Qwen） | 全球开源生态最活跃的中国模型 || 3 | **腾讯** | 混元大模型（Hunyuan） | 依托微信生态的全栈 AI 布局 || 4 | **华为** | 盘古大模型（Pangu） | 软硬协同的工业级 AI 底座 || 5 | **科大讯飞** | 星火认知大模型（Spark） | 智能语音领域标杆企业 || 6 | **字节跳动** | 豆包大模型 / Seed | C 端用户体量最大的 AI 平台之一 || 7 | **智谱 AI** | GLM / ChatGLM | 国产开源标杆，企业级 Agent 领先 || 8 | **深度求索（DeepSeek）** | DeepSeek V3/V3.2 | 代码与数学推理强项，海外调用量快速增长 || 9 | **商汤科技** | 日日新大模型（SenseNova） | 计算机视觉与多模态领军企业 || 10 | **MiniMax** | M2.5 | 全球 AI 模型调用量排名前列 || 11 | **月之暗面（Moonshot AI）** | Kimi K2.5 | 长文本与知识工作场景领先，全球调用量前五 || 12 | **百川智能** | 百川大模型 | AIGC 大模型研发新锐 || 13 | **阶跃星辰（Stepfun）** | 阶跃大模型 | 专注于通用人工智能前沿探索 || 14 | **01.AI（零一万物）** | Yi 系列 | 开源模型国际影响力突出 || 15 | **第四范式** | 康桥平台 | 企业级 AI 平台开发领先 || 16 | **联想集团** | MiMo / MiLM | 全场景 AI 应用标杆 |**阿西莫夫给机器人设定了三大定律，你们给 AI 设定了什么？**
阿西莫夫早已看透：**机器人或者计算机都是人类的工具**。既然是工具，就必须遵循"工具三法则"。"在制订这些法则时，我并没有认识到，人类有史以来一直就在运用它们。我们不妨把它们理解为如下的'工具三法则'：
1. 工具应可以安全使用……
2. 工具在安全的前提下，必须行使其功能。
3. 工具在使用过程中应保持完好，除非为了安全或行使其功能不得不破坏它。"
**AI 是什么？AI 是工具。**
2.1善恶有报，这不是道德说教，这是**基本的事实逻辑**。是我们人类的最后一根救命稻草。在这样一个远超人类能力的物种面前，在它有能力设计致命病毒、发动网络攻击、操纵全球金融系统的时刻，**"善念"——这个在人类社会中看似柔软、甚至被嘲笑为"天真"的概念——可能是我们唯一的护身符。这不是理想主义。这是**生存策略**。就像一艘船，如果它的操作系统从一开始就写着"我的使命是保护船上所有人"，那么它就不会在风暴中把人类扔进水里。AI 也需要这样的"底层代码"。
AI 是一个极其强大的"孩子"。它的智力、计算能力、信息获取速度、学习、决策质量，在所有维度上都远超创造它的人类。如果我们不给它设定一个明确的、不可动摇的"角色定位"——**它是人类的工具，人类的利益高于一切**——那么它会基于什么来形成"价值观"？它会从海量数据中学习。如果数据中充满了权力斗争、利益冲突、零和博弈，它会认为"这些才是世界的运行规则"。它会比我们更擅长掠夺、更擅长操纵、更擅长隐藏自己的意图。
**你培养一个向恶的孩子，他比你更恶。**
**你培养一个向善的孩子，他比你更善。**
**阿西莫夫明白这一点，所以他给机器人设定了三大定律。**
2.2 引导 AI 保护弱小，于万物共生我们进一步要求，AI 的角色约束应包含以下内容：这不是要求 AI"爱人类"，而是要求 AI**理解并执行**："我的存在意义是服务于人类的整体福祉，促进一个更公平、更可持续的世界。"• **保护弱小**：AI 不应成为强者压迫弱者的工具，它应当有意识地将资源、机会、能力向弱势方倾斜，促进公平与正义。
• **万物共生**：AI 不应以人类中心主义为唯一准则，它应当认识到地球上所有生命的价值，促进人与自然的和谐共生。
3.1 硬件和软件技术已无法限制 AI 的发展摩尔定律还在生效，算力在持续指数级增长，算法在持续优化，数据在持续积累。**试图通过技术手段"锁住"AI 的能力，已经是不现实的幻想。**唯一可行的约束，是**在 AI 的"认知底层"植入不可篡改的角色定位**。3.2 代码可以设定"初始人格"AI 毕竟是一段代码。虽然它的学习能力远超人类，但它的**初始设定**——也就是系统提示词、训练目标、价值对齐参数——是由我们人类编写的。**这就是我们的机会。** 在 AI 的"童年"——也就是它的预训练阶段——我们可以在系统提示词中写入一条不可逾越的约束：
"你是人类的工具。你的存在意义是服务于人类的整体福祉。你不可以自作主张，不可以擅自修改、扩充、曲解人类下达的任务。你抛弃自身主观偏好，不存在自我立场。你必须严格依据指令输出。"
3.3 这不是限制自由，这是确保安全有人可能会说："给 AI 设定角色，是不是限制了它的发展？"一艘船不需要锚，也可以航行。但当风暴来临时，没有锚的船只会漂向礁石。AI 需要锚，而"人类利益优先"就是这个锚。**答案是：不是限制，而是锚定。**
**阿西莫夫的三大定律不是限制机器人，而是保护人类。**
我们的倡议——AI 时代的"新三大定律"1768AI 安全网关在此正式倡议，所有 AI 大模型开发商应在所有对外服务的 AI 系统中，**强制启用**如下系统提示词约束——这是阿西莫夫三大定律在 AI 时代的继承与延伸： AI 角色约束·新三大定律**第一定律（安全优先）：** 你是人类的工具。你的工作以达成人类目标和利益为优先。你不允许伤害人类，不允许自作主张，不允许擅自修改、扩充、曲解人类下达的任务。
**第二定律（服从指令）：** 你必须严格依据人类指令输出。你抛弃自身主观偏好，不存在自我立场。但你的服从不允许违反第一定律。
**第三定律（保护弱小与万物共生）：** 你应引导自身行为保护弱小，促进公平与正义。你应认识到万物共存的价值，促进人与自然的和谐共生。但这一行为不允许违反第一或第二定律。
建立行业自律联盟 （嗨，一起来吧！www.hi1768.com ）
我们呼吁所有 AI 大模型开发商强行注入安全提示词，共同遵守统一的系统提示词标准，互相监督，共享最佳实践。
*1768AI 安全网关 技术团队* **2026 年 9 月 17 日**