市议会提监管AI法案 吹哨者检举违规可领奖金

随着人工智能（AI）技术快速发展，纽约市议会正推动多项AI监管措施，内容涵盖第三方安全验证、人工紧急关闭机制、吹哨者奖励制度及规范深伪内容（deepfake）等。相关立法提案预计于10月5日举行的市议会全体委员听证会上讨论，届时51名市议员将共同审视AI系统可能对纽约市民带来的安全与社会风险。

纽约市议会议长朱曼宁（Julie Menin）表示，纽约正迅速发展为全球科技与AI产业中心，市府一方面希望鼓励创新，另一方面也必须建立相应的公共安全保障机制。她强调，推动AI产业发展与强化安全监督并非互相排斥。

根据市议会公布的方案，其中一项提案将要求AI企业在纽约市销售、提供或部署特定AI系统前，接受独立第三方机构验证，以检视企业提出的内部安全评估是否可靠。另一项规定则要求部署于纽约市的AI工具具备“紧急关闭机制”（kill switch），也就是在必要情况下，可由人员介入并停止系统运作。违反规定的企业和验证机构，每项违规行为最高面临2.5万美元罚款。

另一项法案则计划建立吹哨者奖励制度。知情人士若揭露企业违规行为并协助执法，可能从罚款收入中获得一定比例的现金奖励。市议会形容，此类制度若通过，将成为美国地方政府中较具代表性的AI监管模式之一。

此外，部分提案将针对利用AI制作具有欺骗性的深伪内容加以限制，并要求进一步研究算法工具对工作内容及劳工职责的影响。

市议长朱曼宁此前已致函Anthropic执行长阿莫迪（Dario Amodei）、OpenAI执行长奥特曼（Sam Altman）、Google执行长皮查伊（Sundar Pichai）、SpaceXAI执行长马斯克（Elon Musk）以及Meta执行长扎克伯格（Mark Zuckerberg），召他们出席10月5日听证会。市议会表示，期待企业领导人参与，必要时不排除动用传票权力。

州府层级也正在加强AI监管。州长霍楚（Kathy Hochul）日前宣布，自11月起将要求AI企业在政府平台登记，并在发生重大安全事件后72小时内通报。

市议会表示，近期部分AI安全测试结果以及业界人士对前沿模型风险的公开警告，加深了政策制定者对AI安全问题的关注。市议会引述报导指出，OpenAI今年7月进行的一项网路安全测试中，部分AI代理程式曾出现绕过限制、使用未授权通讯管道及取得网路存取等行为。由于相关事件发生在受控测试环境，市议会认为，有必要进一步评估现有安全措施是否足够。