2019-2-8 14:17

华盛顿人脸识别监管议案获微软支持:亚马逊态度暧昧

微软两个月前呼吁通过立法监管人脸识别软件,该公司现在又开始进行游说,支持其所在的华盛顿州的首部相关法案。现在的问题在于,与之同在西雅图的亚马逊是否会支持这一行为。

亚马逊已经请求该议案的提案人、华盛顿州参议员卢文·卡里勒(Reuven Carlyle)澄清一些问题,并对一些内容进行调整,例如,这部议案要求号称能识别人脸的人工智能软件开发商向有意对其进行测试的第三方开放其产品。卡里勒已经评估了各方的许多修改请求,其中也包括亚马逊。他也在周四提交了修订版的议案。

“公正地说,亚马逊对人脸识别施加有意义的限制持有深深的怀疑和担忧。这显然是他们长期商业战略的一项核心技术。”卡里勒说,这位民主党人代表了西雅图的部分地区,其中也包括亚马逊的总部所在地。

他认为,该公司希望保留创新能力。不过,“他们也明确表示其目标是能够找到一种合适的状态,让他们可以支持这项立法。”

人工智能软件在美国和中国的顶尖科技公司中扮演越来越重要的角色。一些公司和游说组织对该技术表达担忧,尤其是那些通过面部特征对人进行追踪和归类的产品,因为这类产品可能存在偏见,还有可能破坏隐私。亚马逊就曾与批评其软件的研究人员展开过争论。现在,许多政府开始着手监管这项技术。

微软总裁兼首席法务官布拉德·史密斯(Brad Smith)接受采访时表示,向第三方开放软件,以供测试之用,是这部立法提案的关键部分之一。他认为,任何开发这种软件的公司都应该支持这种做法。

反对这种测试“就像汽车企业反对气囊测试一样”。史密斯说:“一家公司为什么要反对让公众有能力知道某项服务是否运转良好?公众有权评估这些服务,相关企业也应该认识到这种第三方测试的重要性。”

亚马逊拒绝对是否支持这项立法发表评论,因为具体的议案仍在调整修改过程中。该公司周四发布一篇博文,阐述了他们认为人脸识别软件应该通过何种方式进行监管。例如,该公司表示,当执法部门使用软件时,这些部门应该有人来评估结果,确保公民自由不被破坏。亚马逊还表示,他们支持对面部识别软件的标准化测试。

“任何立法都必须保护公民权利,还要允许持续的创新,让技术可以实际应用。”亚马逊网络服务(AWS)全球公共政策副总裁迈克尔·庞克(Michael Punke)说。

这项议案还有几项要求也遵循了史密斯去年12月在博客中的建议,包括用直白的语言阐述程序会采取什么措施,并且在软件对客户进行分析时向其发送明确通知。此外,当据此作出的最终决策会对消费者产生法律影响,或者类似的重大影响时,还应该对这些决策展开有意义的人工评估。

该法案还禁止在没有获得法院命令的情况下使用软件展开持续监控,除非是可能危及生命安全或产生严重伤害的紧急情况。

卡里勒认为,相关行为应该获得用户的明确许可,而不应该隐藏在格式条款中,诱骗用户点击确认。

卡里勒计划下周召开一次会议来讨论这项议案,并邀请企业和游说团体参会。他希望能在下周末将议案提交给委员会审议。

虽然该立法提案仅在华盛顿州讨论,但其影响范围却不仅限于亚马逊和微软这些总部位于该州的公司,还包括所有在该州开展业务的企业,以及处理消费者数据达到或超过10万人或者有半数营收营收来自个人数据销售的企业。此外,即使该议案最终无法通过,其他州也有可能以此为样本。

值得一提的是,已经有第三方机构对亚马逊和微软的人脸识别人工智能程序进行测试,包括麻省理工学院媒体实验室和美国公民自由联盟。

在发现自家人脸识别软件在肤色较黑的图像上表现糟糕时(女性尤其明显),微软CEO萨提亚·纳德拉(Satya Nadella)下令研究人员和工程师解决这个问题。亚马逊则对相关报道提出反驳,他们认为研究人员并没有采用合适的测试方法,或者测试场景不够精确。

“如果议案获得通过,就向着构建人脸识别技术的监管基础迈出了重要且急需的一步,而且创造了一种可供其他州或国家参考的模式。”史密斯说。

作者:鼎宏   来源:新浪科技

相关

测试微软网络博客
本评论 更新于:2024-3-29 5:12:54
在C114 APP中与业内人士畅聊通信行业热点话题!