纽约拟立法奖励危险AI举报人并强化监管

纽约市议会计划审议一揽子人工智能监管法案，其中一项提案拟为举报危险或违规AI行为的人提供经济奖励。若举报最终促成对相关公司的罚款或罚金，举报人可从这笔收入中获得一定比例的奖金；在特定情形下，因AI系统受到伤害的个人也将被允许起诉系统开发者。

纽约市议会议长朱莉·梅宁在10月5日“AI风险及潜在保障措施”听证会前公布了这些提案，届时市议会全部51名成员都将出席。随着AI模型能力快速提升、相关风险担忧持续增加，纽约正寻求在推动产业发展的同时建立更严格的安全保障机制。

梅宁已要求Anthropic、OpenAI、谷歌、SpaceX旗下AI部门以及Meta的首席执行官参加听证会，并表示如有必要，市议会可以动用传票权。她认为纽约正在迅速成为全球科技和人工智能中心，因此既要鼓励创新，也要承担保护居民免受意外后果影响的责任。

监管方案还包括：AI系统在纽约市进行营销、销售或部署前，必须接受第三方验证；系统必须设置由人控制的“紧急关闭开关”。此外，聊天机器人服务商需遵守数据隐私、安全和透明度要求，纽约市也将获得依据这些标准开展执法的权限。

相关讨论受到近期行业警示影响。Anthropic前研究员雅各布·考克森本月辞职，并警告人工智能“可能会在本世纪20年代结束前害死我们所有人”，这一观点进一步加剧了外界对AI风险和监管边界的关注。