您的位置: > 比特币行情> 正文

打印本文             

加州州长否决备受争议的人工智能安全法案

作者:Tom Mitchelhill,CoinTelegraph;编译:陶朱,金色财经

加州州长加文·纽瑟姆否决了一项备受争议的人工智能 (AI) 法案,认为该法案会阻碍创新,无法保护公众免受技术带来的“真正”威胁。

9 月 30 日,纽瑟姆否决了 SB 1047(即《前沿人工智能模型安全创新法案》),该法案遭到了硅谷的强烈反对。

法案提议对人工智能模型和其他护栏进行强制性安全测试,科技公司担心这会扼杀创新。

纽瑟姆在 9 月 29 日的一份声明中表示,该法案过于注重监管现有的顶级人工智能公司,而没有保护公众免受新技术带来的“真正”威胁。

“相反,该法案对最基本的功能都采用了严格的标准——只要大型系统部署了它。我不认为这是保护公众免受技术带来的真正威胁的最佳方法。”

SB 1047 由旧金山民主党参议员 Scott Wiener 起草,还要求加州的开发者(包括 ChatGPT 制造商 OpenAI、Meta 和 Google 等大牌)为他们的 AI 模型实施“终止开关”,并发布缓解极端风险的计划。

如果该法案得以实施,AI 开发者在受到 AI 电网接管等模型的持续威胁的情况下,也有可能被州检察长起诉。

纽森表示,他已要求世界领先的 AI 安全专家帮助加州“制定可行的护栏”,重点是创建“基于科学的轨迹分析”。他补充说,他已下令州政府机构扩大对 AI 发展可能引发的灾难性事件风险的评估。

尽管纽森否决了 SB 1047,但他表示必须为人工智能制定足够的安全协议,并补充说监管机构不能“等到重大灾难发生后才采取行动保护公众”。

纽森补充说,他的政府在过去 30 天内签署了 18 多项有关人工智能监管的法案。

政客和大型科技公司反对人工智能安全法案

在纽森做出决定之前,该法案在立法者、顾问和大型科技公司中并不受欢迎。

众议院议长南希·佩洛西和 OpenAI 等公司表示,这将严重阻碍人工智能的发展。

Abundance Institute 的人工智能政策负责人 Neil Chilson 警告说,虽然该法案主要针对具有一定成本和规模的模型(成本超过 1 亿美元的模型),但其范围很容易扩大,以打击规模较小的开发商。

但有些人对该法案持开放态度。亿万富翁埃隆·马斯克正在开发自己的人工智能模型“Grok”,他是少数支持该法案并更广泛地制定人工智能法规的科技领袖之一。

在 8 月 26 日发给 X 的帖子中,马斯克表示“加州应该通过 SB 1047 人工智能安全法案”,但他承认支持该法案是一个“艰难的决定”。

查看更多

特朗普泡沫:比特币下一步会怎么走?

上周总统选举最令人震惊的事之一是,许多人似乎对特朗普的胜利感到异常兴奋,而一些人对某种未来愿景的极度兴奋,恰恰是泡沫开始形成的标志。

周末,我读了 Byrne Hobart 和 Tobias Huber 的《Boom: Bubbles and the End of Stagnation》(《繁荣:泡沫与停滞的终结》)。书中核心观点是,某些类型的泡沫在推动世界向前发展上具有巨大作用。他们认为,泡沫是解决停滞问题的良方。

在阅读这本书时,我注意到选举后的反应与书中描述的那些富有生产力的泡沫惊人相似:曼哈顿计划、阿波罗计划、摩尔定律、公司研发的黄金时代、页岩气革命和比特币。

Byrne 和 Tobias 总结了他们研究的所有技术和顶级项目的五个共同特征:

  • 明显的乐观主义和专注

  • 怕错过(FOMO)和活在当下(YOLO)的心态

  • 过度风险承担和过度投资

  • 并行化和协调

  • 反身性和超信念(hyperstition)

捍卫泡沫

「特朗普泡沫」可能听起来让人担忧。一般人听到「泡沫」这个词时,通常会联想到「被过度膨胀、注定破裂的东西」,这个词常常带有负面含义,特别是当它源于一些糟糕的泡沫时。但泡沫并非只有这种类型,在《Boom》一书中,Byrne 和 Tobias 描述了两种泡沫:

1)均值回归泡沫:「基本的赌注是未来将沿着当前的趋势继续。」比如次贷危机。如果你赌未来将大致保持不变,就可以通过加杠杆来增加赌注。

2)转折泡沫:「投资者认为未来将与过去有显著不同。」比如互联网泡沫。如果你认为未来将发生显著变化,就会购买那些能从这种变化中获益的资产。

他们认为,转折泡沫推动了进步。这个观点与我在《Infinity Missions》一书中提到的类似:转折泡沫通过将大量资源引导到那些在正常成本效益分析下无法执行的重要项目,从而推动了进步。

以阿波罗计划为例:

1961 年 5 月,约翰·F·肯尼迪总统宣布,「这个国家应该承诺在本十年结束之前将人类送上月球」,那时没人知道如何实现这一目标。火箭、发射台、宇航服、硬件、软件、零重力食品——这些都不存在,相关领域也没有专家。不仅仅是太空计划缺乏实现登月所需的条件——当时的科学家们甚至不确定这是否可能。

转折泡沫通过集中巨大的资金和人力资本于非常具体的未来愿景上,推动了未来的进步,并允许在追求这一目标的过程中进行通常情况下不会进行的浪费性探索和并行化。

如果没有泡沫,一些事情可能永远不会发生。Byrne 和 Tobias 指出,摩尔定律本身就是一个典型的泡沫现象:「这个行业展现了经典的泡沫行为:对未来的预测——尤其是大胆且几乎无法辩驳的预测——最终驱动了那些让这些预测成真的行为。」比如对芯片不断改进的预期促使人们设计出能够利用更好芯片的产品,而这又让芯片制造商意识到需求的存在,从而刺激了对芯片不断改进的投资。

换句话说,一个足够有说服力的愿景可以使其变为现实。正如 Stripe Press 在《Boom》网站上所写,「乐观主义可以成就自我实现的预言。」

特朗普泡沫:比特币下一步会怎么走?

特朗普泡沫:比特币下一步会怎么走?

特朗普泡沫:比特币下一步会怎么走? 原文作者:@packyM...

关于我们

币安下载官方app|币安iOS版|币安安卓版|币安电脑网页版

  • 用户支持
  • 帮助中心
  • 服务条款
微信二维码
币安官网渠道 数字区块链交易平台 Powered by binance
QR code