MIT 和斯坦褔大学合组的研究团队针对三种不同的面部辨识技术研究，发现它们都会因为对象的性别和肤色而有着不同的效果，报告全文将会在本月稍后举行的 Conference on Fairness, Accountability, and Transparency 发布。

报告中特别把面孔辨识技术对于不同性别和种族对象的准确度划分，发现由美国主流科技公司开发，声称具有超过 97% 准确度的面部辨识系统，其资料库是由超过 77% 男性和超过 83% 白人的面孔资料组成。所以面部辨识系统对于白人或男性以外的面孔，AI 的错误率会急升。

为了测试 AI 面部辨识系统，MIT 研究员 Joy Buolamwini 收集了超过 1,200 张相片，里面的女性比例大幅增加；同时也按照 Fitzpatrick 等级及咨询皮肤医生的意见后，把不同肤色的面部分类。

结果发现三个面部辨识系统对于深肤色的女性错误率，分别达 20.8%、34.5% 和 34.7%。其中两个系统对于分类为最深肤色的女性面孔，错误率更高达 46.5% 和 46.8%。所以从本质上，和系统丢硬币随机选择没两样了

对于 AI 科技的算法存有肤色和性别偏差的说法，业界里已经讨论很久了，而且面部辨识系统对深色皮肤的辨识效果不佳也时有所闻。但即使在有着如此前提之下翻阅报告，看到这高错误率的结果也同样会被吓倒。在全球化、地球村概念盛行的今天，科技发展也必需要同时考量到不同肤色人种和性别的影响，不然的话，再高的科技也未能让所有人平等受惠。