美国未能通过AI监管法规纽约市正在加紧行动
纽约市积极推进AI监管法规，美国立法尚有待完善
随着美国联邦政府在意义上对人工智能进行监管–甚至能否正常运作–纽约市正在填补这一管理空白。
本周，纽约市引入了一项被市长埃里克·亚当斯称之为全国首创的AI行动计划。这套大约40项政策举措旨在保护居民免受人工智能带来的偏见或歧视等伤害。其中包括为市政府购买的人工智能制定标准，以及通过新的机制评估市政部门使用的人工智能的风险。
纽约的人工智能监管可能很快会进一步扩大。市议员詹妮弗·古铁雷斯，技术委员会主席，今天提出了一项立法，将成立一个算法数据完整性办公室来监督纽约的人工智能。
如果成立，该办公室将为市民提供一个地方，让他们投诉公共机构使用的自动决策系统，类似于五个行政区域的ombudsman机构。它还将评估市政府部署的人工智能系统是否存在偏见和歧视。
几位美国参议员今年早些时候提出了建立一个新的联邦机构监管人工智能的建议，但古铁雷斯表示，她已经了解到在华盛顿特区等待行动没有意义。她说：“我们有一个特殊的责任，因为这里有很多创新。”“我们承担起领导的重要责任。”
纽约市议员詹妮弗·古铁雷斯希望市政府建立一个监管人工智能的办公室。
摄影师：William Alatriste
古铁雷斯支持市政府使用算法的测试要求，因为她表示人工智能开始被广泛使用。市政部门有兴趣使用人工智能软件进行行政任务，例如评估儿童遭受虐待的风险或学生的学习水平。她还对市长埃里克·亚当斯喜欢使用机器狗和用于讲他不会说的语言的人工智能进行电话推销持警惕态度。纽约市作为监控技术的试验场拥有声誉，从最近无人机使用的增加到在住房、体育场馆和警察部门中有争议的人脸识别的使用。
甚至在本周之前，纽约就在人工智能监管方面领先于联邦政府。该市于2018年成立了一个任务组，评估其对该技术的使用情况。今年初生效的一项法律要求企业使用的招聘算法必须经过审查以排除偏见。但一些保护措施已经被削弱。2022年1月，亚当斯取消了前任比尔·德布拉西奥签署的一项行政命令，该命令建立了一个算法管理和政策官员，以确保市政府以公平方式部署人工智能。该官员于2020年发布的报告称，市政府机构使用了16种可能对人们权利产生重大影响的算法，但并未调查纽约市警察部门使用的每一种人工智能模型。
古铁雷斯表示，她仍然不全面了解市政府机构使用的算法。纽约州总监发布的一份二月份的审计报告指出，该市在人工智能治理方面采取了临时和不完整的方法。该报告警告称，这意味着该市无法“确保所使用的人工智能透明、准确、无偏差，并避免造成不均衡影响。”
纽约大学负责AI研究和负责AI责任的中心的AI研究员和主任朱莉娅·斯托扬诺维奇参与了该报告的编写，她表示支持古铁雷斯提出的立法，前提是所产生的机构能够作为一个独立的外部机构工作。这将取决于该法案在市议会获得赞助并向批准迈进的情况。
Stoyanovich对纽约市选择在本周发布AI行动计划的同时，扩大了一个名为MyCity的聊天机器人并不太赞同。这个聊天机器人是为小型企业回答他们关于许可证和执照等事项的问题而设计的。她认为有问题的是该项目没有受到AI行动计划的规定的约束，比如公众意见征集。纽约市长办公室发言人Jonah Allon表示，聊天机器人和行动计划同时发布是为了对计划中规定的评估过程进行压力测试，该过程将涉及现有和未来的AI使用。
Stoyanovich说，纽约市也许是早期规范AI的城市，但一直没有保持一致。“特别是考虑到我们是第一个开始的，五六年过去后，我很心痛地看到我们在市政府内部没有明确的AI治理原则。”
在美国的一些州、城市和官员采取AI监管措施的少数地方，要求在部署之前对系统进行评估以评估潜在危害成为常见做法。加利福尼亚州州长加文·纽森上个月签署的一项行政命令和乔·拜登总统在7月与主要AI公司达成的一项自愿协议中都有提到这一点。争议的一个普遍观点是是否可以由内部进行此类评估，还是由独立的第三方进行。据知情人士告诉ENBLE，白宫预计将在未来几周发布一项关于AI监管的行政命令。由于众议院在本周继续难以选出新的议长，国会似乎不大可能就AI立法进行辩论或通过。
