“种族主义者”的面部检测算法被集成到反作弊程序中

Proctorio确保学生不会在考试中作弊，在一半的情况下，Proctorio不会检测到皮肤黑皮肤的用户的脸。 这是亲自遇到算法偏差的学生Akash Satisan得出的结论。

Satisan决定研究Proctorio的面部识别技术，并发现它们与开源计算机视觉算法OpenCV的工作原理相同。

他使用OpenCV和旨在评估不同国籍个人的机器视觉算法准确性的数据集进行了几次测试。

使用OpenCV计算机视觉模型的照片中人脸检测的准确性。 资料：阿卡什·萨蒂桑（Akash Satisan）。

事实证明，该算法不仅在超过一半的情况下都无法识别黑人的面孔，而且在识别任何国籍的人时显示出较低的准确性-最高的命中率低于75％。

Proctorio没有透露其面部检测算法如何工作的详细信息。 但是，该站点在带有许可的部分中提到了OpenCV，这间接证实了该算法的使用。

应记者的要求，公司代表表示，Satisan的测试证明他们的软件仅搜索面部，但无法识别与面部相关的身份。

https://forklog.com/raspoznavanie-lits-rasizm-i-politsiya-istoriya-odnogo-startapa/

回想一下，4月初，剑桥大学的研究人员创建了一个在线游戏Emojify，该游戏演示了识别人类情感的技术的功能和缺点。

2021年1月，人权组织大赦国际呼吁禁止在公共场所进行面部识别。 该组织认为，使用街道监控摄像头对人进行生物特征识别是对公民隐私的严重干扰。

2019年初，一名黑人美国人因面部识别错误而入狱十天。 该男子打算起诉当地警察，进行无根据的逮捕。

—-

原文链接：https://forklog.com/v-programmu-dlya-borby-so-spisyvaniem-integrirovali-rasistskij-algoritm-opredeleniya-lits/

原文作者：Богдан Каминский

编译者/作者：wanbizu AI

玩币族申明：玩币族作为开放的资讯翻译/分享平台，所提供的所有资讯仅代表作者个人观点，与玩币族平台立场无关，且不构成任何投资理财建议。文章版权归原作者所有。