面部识别技术的进步可能会加重对少数族裔的迫害

AI人工智能技术的快速发展。专家表示，如果缺乏监管，那么世界各地的有色人种和其他少数族裔将面临更多的迫害。

Source: Getty

《华盛顿邮报》近日披露，中国通信巨头华为公司研究出一套面部识别系统正在监控和追踪中国维吾尔族少数民族。该报道转门提到了华为网站上公开发布的文件。

华为与中国人工智能公司Megvii合作，在该公司的视频云基础设施上测试了该软件，目的是为了了解华为的硬件是否与Megvii的面部识别软件兼容。

据报道，此次试验测试了一项“维吾尔族警报”功能，该功能可以确定一个人的“种族”，并将这些细节转发给中国当局。

少数民族维吾尔族是一个受压迫的穆斯林群体，一直面临中国政府的迫害。

长期以来，中国政府被指责强迫100多万维吾尔族和其他主要是穆斯林的少数民族进入偏远的新疆地区再教育营。但北京方面不断否认这些说法。

AI的精度有多高？

新南威尔士大学人工智能领域的主要研究人员托比·沃尔什（Toby Walsh）教授表示，这种技术的质量将是“可变的”，主要是考虑到环境的因素。

“这取决于我们惯常的人脸识别条件。当你在机场安检时，它能轻松识别出你的脸，因为那是一个非常受控的环境。但同样，如果你把场景放在野外，那么准确度就不那么确定了。"

他指出，世界各地都有一些例子，面部识别技术被执法部门使用，但绝大多数情况下都不能准确地实现其目的。

例如2018年，据报道，英国警方测试了类似的软件，在大型活动中使用时，识别正确概率只有2%。

外界担忧人工智能会进一步针对受迫害的少数族裔

为“数字权利观察”机构（ Digital Rights Watch）工作的数字权利倡导者克拉霍尔科娃（Lucie Krahulcova）指出，虽然面部识别技术在识别有色人种和其他少数族裔方面仍有更多困难，但它正在快速发展。

“它会在更多的少数族裔脸上得到实践，这是一个不愉快的循环。”她告诉SBS新闻。

“尽管这些高科技本身不是为了针对少数族裔而开发的。但除非有保障措施，否则它会被用来进一步针对他们。”

克拉霍尔科娃女士说，在全球范围内最大的问题之一是，该技术被作为抓捕恐怖分子和其他强硬罪犯的基本工具出售，随后就可以被用来侵犯个人隐私，并且在极端情况下，它们会被用来主动针对少数群体。

“最大的问题是，这项技术经常被作为执法的基本工具出售，但实际上你看到的在中国上演的是最坏的情况，它没有被用来抓罪犯。”她说。

“很多民主国家认为这项技术将被用来抓捕罪犯。但现实实施中却没有任何保障措施。”

“所以，我们在中国看到的是最坏的情况，这项技术被明确地用于对付某个人群。”

她警告说，随着技术的改进，世界各地受迫害的少数民族将进一步成为被迫害的目标。

基本权利机构（The Fundamental Rights Agency）周一发布了一份报告认为，人们需要更有力的保护，以免受到人工智能的影响。

报告称，人们对人工智能发展的关注大多“集中在其支持经济增长的潜力上”。

但它补充说：“不同的技术如何影响人的基本权利，受到的关注较少。”

“技术的发展比法律更快。”FRA主任奥弗莱蒂（Michael O'Flaherty在）报告中说。

“我们现在需要抓住机会，确保未来欧盟对人工智能的监管框架牢固地建立在尊重人权和基本权利的基础上。”

该机构补充说，需要更多的研究资金来研究“人工智能的潜在歧视性影响”。

该机构在报告所附的一份声明中说，“任何未来的人工智能立法都必须考虑”可能的歧视性影响和对司法的阻碍“并建立有效的保障措施”。

“我们正在变成伪君子”

数字权利倡导者克拉霍尔科娃（Lucie Krahulcova）说，国际社会必须“绝对”谴责中国使用人工智能来针对少数族裔。

然而，这里的一个关键问题是，其他西方国家政府自己也在接受这些技术，并将它投入日常使用。

“最令人担忧的是，这些技术原本被创造出来是为了打击一些大规模的犯罪，比如恐怖主义......但它们却被用于日常行动。”她说。

“如果你要用这种技术来处理日常犯罪，你会在议会中进行非常不同的辩论，这就是为什么它会被附加到一些可怕的东西，比如恐怖主义——这是澳大利亚内政部使用的语言。”

“我认为最大的担忧是它被匆匆忙忙地说出来，只是因为存在紧急的、假设性的状况，然后它们就被过度使用了，用来警戒各种事情。而对于这些日常的使用，系统中并没有建立足够的保障措施或问责制度。"

克拉霍尔科娃说，像澳大利亚这样的国家需要“认真审视我们正在做出的先例”，并质问自己，我们是否有可能在谴责其他国家时让自己也成为伪君子。

澳大利亚如何带头推动

新南威尔士大学人工智能领域的主要研究人员托比·沃尔什（Toby Walsh）教授指出，澳大利亚在某些方面正在引领全球围绕监管人工智能工具的对话。

“我们肯定要进行监管。我认为这是我们在过去几年中意识到的事情之一，就是完全有可能对这个领域进行监管。看看欧洲的《通用数据保护条例》。”

《通用数据保护条例》（General Data Protection Regulation），即GDPR，是一项要求企业在欧盟成员国境内进行交易时，保护欧盟公民的个人数据和隐私的法规。

沃尔什教授说，澳大利亚在规范数字空间方面也是全球领先的。

“我们已经知道，我们澳大利亚是地球上第二个有Google税的国家。再看看我们对基督城事件的回应，那就是我们将追究你对攻击性内容的责任，攻击性内容会诱发恐怖行为的实施。”

他还提到了“科技税”，澳大利亚提出的利用竞争法转移Facebook和Google的利润以支持新闻业的建议——现在欧洲也在考虑这个问题。

“英国现在也在进行同样的辩论，像我们这样的小国家经常也可以成为海外发生的事情的领导者。”

Professor Walsh expressed concerns about Huawei and privacy. Source: AP Photo/Ng Han Guan

“如果你与任何大型中国公司合作，那么你基本上是在与中国国家合作。”他补充道。

“相比苹果公司，这些公司和国家之间的界限是非常模糊的。苹果公司一直在非常努力地保护人们的隐私，这一点他们要比华为好得多，像华为这样的公司就不会是这样的。”

“现在在政府高层，他们考虑的是主权和关键技术，我们需要保持我们的主权。”

“否则我们会发现我们所有的交换设备都是华为的，谁知道他们会怎么处理我们的信息。”

关注更多澳洲新闻，请在Facebook上关注SBS Mandarin，或在微博上关注澳大利亚SBS广播公司。