萨克拉门托——引文汇编中充满了对立法者的抨击，因为深刻的思想家抱怨政客们的懦弱、贪财和机会主义。记者H.L.门肯抱怨说:“一个好的政治家就像一个诚实的窃贼一样难以想象。”拿破仑·波拿巴曾打趣说:“在政治上，愚蠢不是一种劣势。”我认识优秀、诚实、聪明的政治家。我的主要不满是他们总体上缺乏谦逊。
这并不是个人的谦逊，而是一种政府能力有限的意识。加州在这方面是出了名的荒谬，因为我们的高层政客经常发表浮夸的声明。他们最新的禁令将改变地球气候模式的轨迹!他们将奋起反抗贪婪和其他邪恶势力!他们每个人都渴望听起来像约翰·f·肯尼迪。
当然，政府偶尔可以完成一些有价值的事情，但那些做出最详尽承诺的政府似乎最无法提供基本服务。我们当地的公用事业公司只承诺维持供电，而且几乎每天都能成功地完成这项任务。相比之下，政府发誓要消除贫困，但却无法在不向骗子送去数十亿美元的情况下发放失业救济金。
正是在这样的背景下，我提出了最新的傲慢:参议院1047号法案，该法案正放在州长的办公桌上。这是立法机构在电影《终结者》(Terminator)中人工智能获得自我意识之前控制人工智能的“全国首创”、“开创性”、“里程碑式”的努力。我永远记得州长候选人阿诺德·施瓦辛格在拍摄2003年续集的间隙访问奥兰治县纪事报，但好莱坞通常不是萨克拉门托的榜样。
根据参议院的分析，该法案“要求强大的人工智能模型的开发者和提供计算能力的人训练这些模型，以实施适当的保障措施和政策，以防止严重危害”，并“建立一个国家实体来监督这些模型的发展”。
有一次，我在另一个州就一项对电子烟设备征税和监管的法案作证时，看到议员们传着电子烟的例子，看着它们，显然很困惑。他们对这些相对简单的设备是如何运作的知之甚少。
人工智能是目前最复杂(也发展最快)的技术之一，有多少加州议员真正了解人工智能模型的本质?“我承认我对人工智能了解不多……事实上知之甚少……我喜欢我可能做错的方式，总比没有人做任何事情要好，”来自希尔兹堡的众议员吉姆·伍德在投票表决该法案之前说。
你认为立法者会以我们尚未理解的方式保护我们免受一种几乎不为人知的复杂技术带来的不可预见的“严重危害”吗?政府有时能有效地利用新的监管工具来滥用我们的权利，但很少能保护我们。
一些科技集团(包括我的雇主R Street Institute)致信加文·纽森(Gavin Newsom)，敦促否决该法案。“sb1047旨在限制潜在的‘严重危害’，其中包括‘以导致大规模伤亡的方式制造或使用化学、生物、放射性或核武器’，”它辩称。“这些危害都是理论上的。现实世界中没有第三方滥用基础模型造成大规模伤亡事件的例子。”
然而，加州的立法者们认为，他们必须有足够的悟性，才能阻止他们在反乌托邦电影中看到的一些虚构的灾难，他们需要实施法规，比如需要一个“死亡开关”(就像一个简单的按钮!)他们将创建另一个官僚机构，在那里，监管者可能会在其设计者的层面上理解这项技术。如果他们有那么高的技能，他们早就是住在山景城的创业亿万富翁了，而不是住在奥兰治维尔的政府工作人员。
尽管很难想象这种模糊监管的好处，但缺点是显而易见的——尤其是在一个如此依赖科技产业的州。加州一直在从湾区流失科技公司，但人工智能是一个日益增长的热点。把它赶走明智吗?这并不是说人工智能设计师不能轻易地在拥有大量技术人员的其他社区建立自己的业务。
立法者修改了该法案，删除了令人不安的条款，这些条款可能使人工智能公司面临总检察长的诉讼，甚至潜在的刑事指控，但它仍将使该行业陷入混乱，并面临无法估量的处罚。这是一个刚刚起步的重工业，但这些规定将给那些缺乏合规和法律资源的公司带来特别的负担，这些公司无法在政府规定的繁文缛节中穿行。
美国企业研究所(American Enterprise Institute)的威尔·莱因哈特(will Rinehart)写道:“整个框架是建立在这些先进模型将构成威胁的前提之上的，这是一个备受争议的假设。”“最重要的是，如果这些人工智能模型真的很危险……那么加州无论如何都不应该监管它们——这应该是联邦政府的职权范围。”这种分析是有道理的，但谁相信纽森会谦卑地听从这种分析呢?
史蒂文·格林胡特(Steven Greenhut)是R街研究所西部地区主任，也是南加州新闻集团编辑部成员。给他写信:sgreenhut@rstreet.org。
