新西兰政府将如何监管人工智能

新西兰政府计划在现有法规和立法不断修改和更新时，逐步将人工智能控制纳入其中，以规范人工智能（AI）算法的使用，而不是制定任何特定的法规来控制人工智能的使用。

上个月，代表新西兰人工智能生态系统各组织的新西兰人工智能论坛发布了一份旨在帮助建立公众信任的一系列原则在新西兰人工智能的发展和使用方面。这标志着新西兰长期以来关于人工智能监管的争论有了新的进展。

在回答 Computerworld 关于这一最新进展的问题时，内政部发言人表示：“人工智能影响着许多政府服务和流程，并受到众多现有法规或立法的约束。随着法案的更新和修订，人工智能和算法的使用将被纳入这些法案中。目前，政府尚未做出任何明确规范人工智能使用的决定。”

新西兰政府的人工智能战略

这些举措将成为新西兰政府数字公共服务战略于 2019 年 11 月发布，被描述为“呼吁公共服务以更现代、更高效的方式在数字世界中运作——实现新西兰需要的成果。”

发言人表示：“数字公共服务战略明确了建立强大的数字基础的必要性，这些基础可以在整个公共部门使用。例如，这包括为人工智能等新兴技术确定适当的政策和监管要求。这将确保新技术的采用合法、安全、透明，并得到公众的持续支持。

“该战略……确认我们的政府将确保线下适用的人权在数字环境中继续得到承认和保护。”

当前围绕控制人工智能算法使用的活动始于 2018 年 4 月，当时奥塔哥大学呼吁政府对人工智能分析的使用将受到监管2019 年 5 月，新西兰法律基金会警告称政府对人工智能算法的不受监管的用户。为此，政府于 2019 年 11 月宣布将研究人工智能的监管与世界经济论坛（WEF）合作。

世界经济论坛在人工智能方面的合作

该发言人表示，新西兰政府已受邀与世界经济论坛位于旧金山的第四次工业革命中心合作，共同制定新的、灵活的人工智能监管方法。

“新西兰是一个小国，世界经济论坛认为它是这种敏捷思维的理想试验台，”该发言人说。“我们有一个小型、稳定的民主国家，政府行动迅速。我们与国内、政府和社会都有着良好的联系，我们与其他国家的关系也很密切。我们被视为领先的数字国家。”

WEF 人工智能项目负责人 Lofred Madzou 告诉 Computerworld：“项目团队已经为政策制定者制定了一份路线图草案，以帮助他们在监管人工智能时形成思维。该路线图包括工具和方法部分，建议政策制定者研究一系列软硬监管工具和杠杆。新西兰政府正在努力确定监管政府算法的选项。这项工作虽然是新西兰政府的一项工作，但它将为该项目提供一个有用的案例研究，因为它将测试这个高级路线图的元素。自路线图创建以来，与全球社区的合作进一步完善了范围，重点已从高级路线图转移到收集证据和开发工具。项目团队举办的社区研讨会建议创新方法和工具应集中在有关人工智能伦理和价值观、评估和卓越中心选项的国家对话领域。”

算法宪章即将推出

在另一项政府人工智能发展中，新西兰统计局发布了一份算法宪章草案，其中表示，“承诺政府机构以公平、道德和透明的方式使用算法”。

该章程将适用于新西兰统计局定义的“操作算法”。算法评估报告，于 2018 年 10 月发布：“这些对个人或团体产生重大影响。……[他们]解释或评估信息（通常使用大型或复杂的数据集），从而做出或实质上为对个人或团体产生重大影响的决策提供信息……[并且]可能会使用有关个人或团体的个人信息，但不必专门这样做。”

该宪章预计将于 2020 年下半年完成。草案的公众意见征集已于 2019 年 12 月 31 日结束；新西兰统计局已发表了摘要这些并提供项目进展更新在其网站上。

关于私营部门使用人工智能的问题

法律基金会对人工智能的警告包含在奥塔哥大学新西兰人工智能与法律项目（AILNZP）编写的一份报告中。

报告的共同作者、副教授阿里斯泰尔诺特 (Alistair Knott) 告诉《计算机世界》，私营部门也存在同样的问题，但报告选择只关注政府的使用，因为在这种较窄的背景下，监管问题更容易回答。

“私营部门在使用决策系统或分类器时也存在同样的问题。它们有多准确？它们对社会上所有不同群体的表现是否相同？换句话说，是否存在偏见？还有其他有趣的问题。使用这些机器的人真的在掌控一切吗？或者这些机器是否处于某种形式的自动驾驶状态？你可能会产生一种错觉，认为一个人在掌控一切，而实际上他们只是在听从系统的建议，尤其是当系统变得足够好的时候。那么，是否有协议来确保人们意识到系统会犯错误呢？”

该大学目前正致力于法学基础项目的第二阶段，预计 2020 年晚些时候公布结果。

诺特表示，该研究将重点关注人工智能带来的就业问题。“人类的工作将发生哪些变化？哪些工作可能会消失？新的工作岗位将如何产生？人工智能的广泛应用可能对整个行业产生什么影响？如果自动化广泛应用，这些行业的哪些方面可能会消失？”