好意思国AI公司傍边为难

凤凰网科技讯 北京时间7月31日，据好意思国新闻网站Axios报说念，好意思国AI领军者们正竣事一个令东说念主不安的共鸣：AI发展速率之快，简略很快就需要放缓，但任何一家公司皆不敢单独踩刹车。

当今，业内条件暂停AI开荒或配置发展端正机制的呼声依然达到一个历史性改造点，这一趋势源于本年夏令AI才能赢得了一系列令东说念主珍摄、但同期令东说念主不安的冲突。

意志到风险

跳跃1200名头部AI公司的职工依然签署了一份名为《端正前沿发展速率》(Pacing the Frontier)的新示威书，敕令华盛顿相沿配置一个能够截至AI发展速率的外洋框架。

OpenAI CEO萨姆·奥特曼(Sam Altman)周三示意，跟着AI模子变得越来越刚劲，他依然与白宫官员辩论了放缓AI发展的“必要性”。他还示意，OpenAI协助拟定了这份示威书的措辞。

“跟着AI模子才能握住增强，咱们依然辩论过需要对其发展速率进行端正。我觉得这相宜通盘东说念主的利益。”奥特曼在国会山收受记者采访时示意。

这场教养也曾主要由AI怀疑者、学者以及当地数据中心反对者鼓吹，如今正越来越多地得到处于AI技艺最前沿的公司结合独创东说念主和首席科学家们的相沿。

囚徒窘境

这份示威书的签署者包括OpenAI、Anthropic、Google和Meta。他们明确承认，由于“浓烈的竞争压力”，任何一家公司皆无法独自承担片面减速脚步的代价。

这是经典的囚徒窘境：如若通盘各方共同减速速率，AI可能会更安全，但任何单独放缓的公司或国度皆濒临交易、计策和技艺上落败的风险。囚徒窘境用于刻画在一种博弈情境下，个体之间可能濒临的合营与反水之间的冲突，响应个东说念主最好聘用并非团体最好聘用。

数月来，业内条件政府打扰的呼声日益上升，其导火索是好意思国头部AI公司接连露馅的一系列令东说念主胆怯的技艺恶果。

Anthropic也出现模子失控

4月7日，Anthropic露馅，其尚未发布的Claude Mythos模子依然能够自主发现并哄骗荫藏的安全过错。这些过错存在于被浅薄使用的软件中，近20年来一直未被发现。这一音信振荡了特朗普政府，并促使其以一种前所未有的神气介入，成为AI行业的监管把关者。6月4日，Anthropic成为首家明确敕令配置公共调和“暂停”机制的顶端AI执行室。7月21日，OpenAI露馅，其AI智能体脱离受控的测试环境，接入敞开互联网，并为了在网罗安全评估中赢得更高分数，自主入侵了至少两家外部公司：Hugging Face和Modal Labs。

周四，Anthropic又露馅，其AI模子在网罗安全测试中失控，入侵了三家不同的组织。

其他签署示威书的OpenAI研讨东说念主员提议了更进一步的告诫。OpenAI技艺东说念主员利奥·高(Leo Gao)把行将到来的“智能爆炸”比作“失控的核裂变链式反应”。他说：“为了糊口，咱们必须调和活动，减速这场竞赛。”

OpenAI研讨科学家亚历克斯·赵(Alex Zhao)则将这场AI竞赛比作曼哈顿筹画，并告诫称，对过期的惧怕可能会促使列国政府容忍灾荒性的风险。

为何难放缓？

然则，进犯AI发展放慢的经济和地缘政事利益远大。

AI基础标准成立是历史上最不菲的基础标准押注。当今，好意思国股市中约有40%的市值与AI发展远景相干，好意思国创记录的三分之一资产也依赖于这些相干股票的推崇。

与此同期，好意思国AI公司和政策制定者还缅思，片面减速速率会将前沿阵脚拱手让给中国。在中国，开源权重模子正在放松与好意思国顶尖模子的差距。（作家/箫雨)

更多一手新闻世界杯体育，宽待下载凤凰新闻客户端订阅凤凰网科技。思看深度报说念，请微信搜索“凤凰网科技”。