近周白银橱柜台面胶，关于AI安全的议题争论在大洋彼岸达到新度。

当地时间9月10日，英伟达CEO黄仁勋在旧金山盛科技会议上表示，网络安全很可能成为AI的下个主要应用场景。

他认为，AI加速自动化编程的同时，也加速了代码被攻击和漏洞被利用的速度，企业对AI安全工具的需求将随之增长。“有什么比制造问题能创造需求的式呢？”

与黄仁勋从商业角度出发的逻辑不同，近周，多位海外模型头部公司科研人员密集发声，强调AI安全风险已从理论走向现实，甚至认为AI可能在本世纪末“死所有人”。

警示AI失控风险与递归自我改进

9月8日，27岁的AI研究员雅各布·考克森（Jacob Coxon）宣布辞去在模型公司Anthropic的职务，任职刚满四个月。在Anthropic之前，考克森在OpenAI担任预训练研究员近三年。

对于两头部模型公司在AI安全面的举措，他点评称：两公司“都没有以负责任的式进AI开发，反而在直奔自我改进型智能”。其中OpenAI内部尚未充分理解文明风险；Anthropic虽知风险，也投入安全研究，却被行业竞赛裹挟，法减速。

考克森警告，AI系统将很快具备“人类”能力，能够实施黑客攻击、夜之间改变某个域格局并获取真实权力。他声称从业者私下相信AI“可能在本世纪末死我们所有人”，“这不是营销话术”。截至发稿，该帖文浏览量突破1.5亿次。

考克森的担忧核心指向递归自我改进（RSI）白银橱柜台面胶，即AI实质地参与后继AI研发，形成每代AI都加速下代AI开发的反馈回路。他称这过程“发生得比我们预想的快”。

该观点迅速得到行业响应。

Anthropic对齐科学负责人埃文·哈宾格（Evan Hubinger）公开回应：“雅各布说得对。我们真的认真相信AI可能死所有人类。我个人认为未来十年内的概率过10。”

他同时补充，当前模型风险较低，真正的担忧来自RSI带来的智能对齐问题，公司尚未有明确的解决计划。

此前，OpenAI席科学雅库布·帕乔基（Jakub Pachocki）也警告，研究人员尚未理解模型形成内部理的式，主张在模型接近RSI能力时设置开发节奏控制机制。

9月9日，OpenAI宣布任命AI安全研究员保罗·克里斯蒂亚诺（Paul Christiano）加入其非营利董事会及安全与安全委员会。克里斯蒂亚诺是RLHF技术关键开发者之，长期担任美国政府AI安全顾问。

他在就任声明中警告：“AI能力的快速加速在短期内将致灾难和不可逆转的失控存在着实质风险。我不认为整个AI行业（包括OpenAI）目前正处于将这种风险降低到可接受水平的轨道上。”他预计，若缺乏完善的协调机制，行业将失去对AI的控制，大多数人可能会丧命。

政策明确前争议法停止

面对警告，美国国部席技术官埃米尔·迈克尔（Emil Michael）在华盛顿场国工业会议上公开驳斥白银橱柜台面胶，称这些担忧是“对数据中心和变化的恐惧，汇聚在条写得很好的文中”。他认为AI风险可通过自由市场竞争、行业协作与政府沟通加以缓解。

黄仁勋则从商业化角度回应。他表示，AI安全风险不是需要“暂停”的理由，而是需要“加速”的市场机会。

对于黄仁勋的观点，泡沫板橡塑板专用胶安恒信息董事长范渊表示认可。他对记者表示，AI已经从“回答问题的助手”变成了“能动手干活的数字员工”。黄仁勋看到的转折点是：当AI拥有了行动力，错误的代价就从信息偏差升为业务中断、资产损失，甚至安全事故。

在范渊看来，未来的安全将不再只是人与攻击者之间的对抗，而是AI与AI之间的博弈。攻两侧正在被AI同时重构：边是攻击门槛急剧降低，代码生成得快，被利用得就快，需要修复的漏洞随之增加；另边是御技术的加速升。而这次升的要害，不是把AI当成好用的工具，而是让AI成为能够自主作战的。

关于AI安全的争议没有定论，甚至头部公司内部观点也在持续变。前Google DeepMind传播与政策团队成员维沙尔·迈尼（Vishal Maini）表示，在他任职期间，组织内部不允许对外讨论人类灭可能，研究人员接受过公关培训，被要求将存在风险提问引至“《终结者》式的危言耸听”。

但经过数月的倡，迈尼称，GoogleDeepMind的政策终得以新，允许发布积正面的AI安全内容。“内部现实与外部传播之间的差距正在缩小，因为风险与收益已经改变，而且如今的证据也难被忽视。真相之所以被大声说出，是因为RSI已迫在眉睫，再其他选择是乎逻辑的。”

讨论关于AI安全的争论谁理已意义。真正的困境在于，安全成本由个体承担，风险后果由全体共担。在缺乏强制行业标准与协调机制之前，任何单面的“刹车”都等于将优势拱手让人。

但RSI不会等待共识形成，行业需要的是可执行的规则，而非多立场声明。 举报 财经广告作，请点击这里此内容为财经原创，著作权归财经所有。未经财经书面授权，不得以任何式加以使用，包括转载、摘编、复制或建立镜像。财经保留追究侵权者法律责任的权利。如需获得授权请联系财经版权部：banquan@yicai.com 文章作者

吕倩 原创精选 相关阅读 百余科技巨头联名警告：御AI网络攻击时间窗口有限

科技行业正就AI安全风险的紧迫逐渐达成广泛共识。 8 26774 08-28 09:43 分散还是集中？硅谷AI监管之争日渐激烈

硅谷在AI监管问题上的分裂已经从早期简单的“安全派与加速派”对立演进为复杂的格局。 3462 08-19 19:01 海外模型巨头相继“暴雷”，AI安全不该被异化为能力秀场

安全风险事件正变成厂商证明自身模型具备代际差的“包装”。 8918 07-31 12:56 全球例AI自主攻击受害披露细节，向OpenAI索赔1亿美元力资源

Hugging Face希望OpenAI公开完整溯源数据，并提供1亿美元力资源帮助社区构建网络御能力。 17288 07-29 15:46 OpenAI席未来学宣布离职，商业化与安全路线裂痕加剧

阿奇亚姆的作别是OpenAI近两年来安全派系“离职潮”的又典型案例。 26340 07-08 08:04 财热 点击关闭相关词条:储罐保温     异型材设备     钢绞线厂家    玻璃丝棉厂家    万能胶厂家

奥力斯    PVC管道管件粘结胶价格     联系人：王经理    手机：18231788377（微信同号）    地址：河北省任丘市北辛庄乡南代河工业区/p>

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定白银橱柜台面胶，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。