加州州长加文·纽森否决了一项本将成为美国最全面的人工智能安全管理政策之一的法案
该法案将是首批要求人工智能开发人员对其技术造成的任何严重损害负责的法案之一。它引起了一些知名民主党人和主要科技公司的激烈批评，包括ChatGPT的创造者OpenAI和风险投资公司安德森·霍洛维茨(Andreessen Horowitz)，他们警告说，这可能会阻碍该州的创新。
纽森称这项立法是“善意的”，但在一份声明中表示，它将“对最基本的功能实施严格的标准”。他说，监管应该基于“经验证据和科学”，并指出他自己关于人工智能的行政命令和他签署的其他法案，这些法案围绕已知风险(如深度造假)对技术进行监管。
围绕加州SB 1047法案的辩论突显出，世界各地的立法者在控制人工智能风险的同时，也在支持这项新兴技术方面面临着挑战。自两年前ChatGPT的发布引发全球生成式人工智能热潮以来，美国的政策制定者尚未就这项技术通过任何全面的立法。
提出该法案的加州民主党参议员斯科特·维纳称，纽森的否决“对所有相信监管大公司的人来说都是一个挫折”。在X上发布的一份声明中，维纳说:“结果我们都不那么安全了。”
的原因纳夫莱保健”
SB 1047法案将要求开发强大人工智能模型的公司采取合理的措施，确保他们的技术不会造成“严重伤害”，比如大规模伤亡或5亿美元以上的财产损失。公司将不得不采取具体的预防措施，包括维护一个可以关闭其技术的死亡开关。人工智能模型也将接受第三方测试，以确保它们将严重风险降至最低。
该法案还将为希望分享安全担忧的人工智能公司的员工提供举报人保护。不遵守该法案的公司可能会被加州司法部长起诉。
该立法的支持者表示，它将创造常识性的法律标准。但风险投资者、初创企业领袖和OpenAI等公司警告称，这将减缓创新，并将人工智能公司赶出该州。
“人工智能革命才刚刚开始，加州作为全球人工智能领导者的独特地位正在推动该州的经济活力，”OpenAI首席战略官詹森·权(Jason Kwon)上个月在一封反对该立法的信中写道。“sb1047法案将威胁到这种增长，减缓创新的步伐，并导致加州世界级的工程师和企业家离开加州，到其他地方寻找更大的机会。”
议员反对
包括前众议院议长南希·佩洛西(Nancy Pelosi)、众议员罗·卡纳(Ro Khanna)和旧金山市长伦敦·布里德(London Breed)在内的议员也表达了反对意见，呼应了科技行业的担忧，即该法案可能会阻碍加州在人工智能创新方面的领导地位。纽森最近表示，他担心该法案可能会对人工智能发展产生“寒蝉效应”。
上月底，在加州立法机构通过该法案之前的几天里，该法案获得了科技界一些知名人士的支持。埃隆·马斯克出人意料地表达了他的支持，尽管他说这是一个“艰难的决定，会让一些人感到不安”。OpenAI的竞争对手Anthropic以安全为导向而闻名，该公司表示，该法案的“收益可能大于成本”，尽管该公司表示，有些方面“对我们来说仍然令人担忧或模棱两可”。
维纳为该法案辩护，强调其条款仅适用于花费超过1亿美元用于训练大型模型或1000万美元微调模型的公司，这些限制将免除大多数较小的初创公司。这位议员还指出，国会在监管科技本身方面一直行动迟缓。
纽森在宣布否决时表示，他将咨询包括人工智能学者和企业家李飞飞在内的外部专家，为这项技术“制定可行的护栏”，并继续与州立法机构就这一主题进行合作。
本文来自作者[svs]投稿，不代表立场，如若转载，请注明出处：http://cathieandrew.com/post/3502.html
评论列表（4条）
我是的签约作者“svs”！
希望本篇文章《加文·纽森成功阻止了加州有争议的人工智能安全法案》能对你有所帮助！
本站[]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 加州州长加文·纽森否决了一项本将成为美国最全面的人工智能安全管理政策之一的法案 该法案将是首批要求人工智能开发人员对其技术造成的任何严重损...