【新智元导读】刚刚，Anthropic CEO发布重磅檄文《指数级AI政策》：AI的「指数级爆炸」已无法拒抗，必须强制第三方测试+政府叫停！为此，Anthropic砸出3.5亿真金白银。
就在刚刚，Anthropic 的创举东说念主兼 CEO Dario Amode发表显明一篇万字檄文——《指数级AI政策》！
这是一篇足以载入AI发展汗青的重磅著述。
在文中，Amodei作念出了萧索的举动：算作内行顶尖AI实验室的掌门东说念主，他主动条件政府对我方和同业实施严厉监管。
他成见，计算量跳动10²⁵ FLOPs不详AI有关营收跳动5亿好意思元/AI研发参加跳动10亿好意思元的头部AI企业，必须摄取政府强制监管。
一朝发现模子存在生物、集合安全或自主失控等不幸性风险，政府不错奏凯「封杀」！
同步发布的，还有Anthropic的两份认真政策提案：一份针对前沿AI模子的强制监管框架，一份针对AI激发的奇迹冲击的经济赔偿决策。
为了暗意来竟然，Anthropic同意为这两份提案提供了真金白银——2亿好意思元用于筹商，1.5亿好意思元用于奖学金。
今天，Anthropic的这一举动，绝对突破了硅谷巨头弥远以来抵拒监管的默契。
它向内行开释了这样一个信号：温暖的自律期间也曾宣告闭幕，AI指数级爆炸的速率，收敛咱们必须在不幸发生前，给大模子套上实在的「紧箍咒」！
树东说念主醒觉了！
托尔金在《指环王》里写过，树东说念主是丛林的督察者，陈旧、贤明、强盛。但他有一个致命的流弊：太慢了。跟另一棵树打个呼唤，要花整整一天。
当半兽东说念主的戎行也曾在砍伐他的家园，他还在慢悠悠地想考要不要行径。
当今，AI正在以闪电速率恣意进化，而列国政府，恰是那棵慢吞吞的树东说念主。
Amodei为什么短暂这样急？奏凯原因，等于Mythos。
Claude Mythos Preview能自主发现了通盘主流操作系统和浏览器中的数千个高危间隙。
用Amodei的话说：
Mythos Preview 绝对改变了内行集合安全的疆土。它扼制置疑地评释了，前沿AI模子如今已成为具有内行和国度政策后果的强力器具。何况，这毫不会是咱们面对的终末一次危机。
Scaling Laws也曾有跳动十年的实证救济。淌若它再捏续两年，咱们就会取得Amodei所说的「数据中心里的一个天才国度」——至极于一亿个顶尖科学家同期在线职责。
但是，国和会过一部进攻法律，平均需要数年。
树东说念主般的速率，压根无法拒抗化身为「天才国度」的指数级AI！
昔日几年，Anthropic一直在鼓吹所谓的「透明度立法」，这等于其时能作念到的沿路。
因为在2023到2024年，AI的风险还不够具体。你无法精准姿色一个尚未出现的风险，也就无法针对它立法。
但当今，Mythos让一切都不同了！
集合安全风险不再是假定，它也曾是实际，生物刀兵风险和AI失控风险也在快速靠近。
FAA模式：AI系统上天之前，先作念适航认证
Amodei给出的监管模板，是好意思国联邦航空料理局（FAA）。
飞机密上天，必须通过严格的第三方测试，拿到适航文凭。不管是波音照旧空客，只好审查通不外，就要停飞。
Amodei认为，前沿AI模子应该摄取同等对待。
他提议的具体门槛是：
-计算量跳动10²⁵ FLOPs（这约莫是现时最顶尖模子的锻练限度）
-不详：AI有关营收跳动5亿好意思元，或AI研发参加跳动10亿好意思元
达到这个量级的公司和模子，必须摄取强制性的第三方测试，遮掩四个中枢风险边界：
一、集合安全风险。 AI是否能被用于发现间隙、毛病基础门径、瘫痪金融系统？
二、生物刀兵风险。 AI是否会匡助镌汰开发危机病原体的门槛？
三、失控风险。 AI系统是否可能在开发者无法限制的情况下自主行径？
四、自动化研发加快风险。 AI是否在加快自身才气的升迁，从而放大上述三类风险？
测试必须由及格的沉寂第三方完成，不错是相似FAA的政府机构，也不错是经政府授权和监管的私东说念主评估机构。
淌若你的模子测出来有弗成摄取的风险，政府领有一票否决权，让模子不准上线！
淌若第三方评估斥逐标明该模子存在弗成摄取的不幸性安全隐患，政府必须领有正当的、强有劲的拒抗、延长或取销该模子部署的权力。
这是Amodei提案中，2026世界杯体彩官网最具突破性、也最激发争议的少量。
同期，Amodei还提议，前沿AI模子的「模子权重」是极具政策价值的钞票，极易成为黑客的窃取目的。
一朝权重袒露，通盘的安全对王人限制都可能在几小时内被饱和剥离。
因此，开发商必须诱骗极高安全圭臬，保护其开发环境和模子权重，如期摄取红队测试，并诱骗向政府通报模子蒸馏毛病的通说念。
一朝发生安全事故，开发商必须向监管机构主动请问，不得瞒报。
防AI奇迹冲击：Anthropic要给休闲者发钱
这篇长文的第二个要点，等于奇迹政策。
Amodei讨论了一个内行痛点：宏不雅经济与捏久性休闲。
他的判断是：AI驱动的休闲，可能比历史上任何一次时刻翻新都更深切、更捏久。
工业翻新、互联网翻新，都形成了阶段性休闲，但最终创造了更多新职责。这背后有两个缓冲机制：杰文斯悖论和相比上风旨趣。
但Amodei认为，AI可能会同期击穿这两个缓冲机制！因为AI不仅仅替代某个具体的任务，它在替代东说念主类的通用融会才气。
一朝AI能在险些通盘融会边界卓绝东说念主类，相比上风就会隐没。因此，必须有备无患，筹备特意派遣AI休闲的政策器具。
Anthropic制定了三个脉络的经济框架。
第一层：数据测量与跟踪。政府应该大幅彭胀对AI奇迹影响的数据汇集和跟踪。Anthropic也曾有一个经济指数。
第二层：促进奇迹激励。包括工资保障、老板留工税收激励、奇迹培训补贴。
第三层：弥远宏不雅经济救济。淌若仍不够，可能需要某种款式的全民基本收入，通过对AI公司纳税或提高本钱利得税来筹资。
为了救济这个框架，Anthropic晓示：2亿好意思元用于政策筹商，1.5亿好意思元用于手段培训奖学金。
科学与职权：被AI重构的行业疆土
此外，Amodei还敕令：别让旧体制成为「科学加快」的绊脚石。
Amodei指出，在AI自身的监管上，咱们应该极其审慎、致使从严管控；但关于AI所加快的卑劣讹诈科学（如生物医药、能源、材料学），咱们的监管想路应该松捆。
以生物医药为例，传统的药物研发历程面对着 FDA或 EMA极其漫长的审查。从靶点发现到最终获批上市，频繁需要资格7到8年的漫长周期。
但是，AI的介入将颠覆这一常态。
AI不仅能以几何倍数增多候选药物数目，还能大幅提高新药的成果和安全性。
淌若不进行轨制改革，高大的AI产出将绝对瘫痪现存的药监审批系统。
为此，阿莫代敕令监管机构适合潮水，开发全新的AI扶持评估圭臬，包括：
-摄取AI生成的药效学与药代能源学模拟模子。
-扩充AI算计毒理学，减少繁琐、清静的多物种动物毒性考试。 扩充东说念主工智能
-在临床考试中引入合成限制组，大幅减少东说念主类受试者的招募时期。
-允许针对癌症、阿尔茨海默病等病症开发创新的快速通说念。
这样，东说念主类会最快地享受到AI带来的健康福祉。
在「树东说念主」醒来之后
在著述斥逐，Amodei乐不雅地说：「树东说念主们和他们的丛林，正在逐渐睁开眼睛。」
当今内行公众和政策制定者眼前，有一个珍稀却又稍纵则逝的窗口期。
在硅谷圈子里，许多东说念主合计，公众褊狭AI仅仅个「公关问题」，AI行业需要的是「更好的营销」。
Amodei奏凯怼了且归：
东说念主们驰念AI，不是因为咱们这些CEO不够乐不雅、不会画大饼，而是因为他们真剖释切地看到了AI的风险。
算作AI行业的负责东说念主，我的株连等于把风险摊在桌面上说显明。公众的驰念和抗议，碰巧证实民主监督在往常职责。
这一次，Anthropic砸了几个亿的真金白银，标明了魄力。
咱们究竟是要不息在暗澹中蒙眼决骤，撞向峭壁；照旧应该停驻无礼的脚步，与东说念主类的社会解决机制，实现一次史诗级的息争？
树东说念主也曾醒了。
而霍比特东说念主的死活竞速世界杯(中国)，才刚刚开动。