- 人工智能可能参差不齐
- 此事实可能导致的问题的示例
- 人工智能如何具有包容性
- 人工智能作为社会发展的手段
*文章作者：Rafael Lourenço，ClearSale USA 执行副总裁
想象一下这样一个场景，您需要汽车的语音命令系统来拨打紧急电话，但您无法快速方便地做到这一点。或者，例如，由于机场安检扫描仪无法识别您的面部而导致您错过国际航班。
这些场景可能会非常令人沮丧。最近的事实和研究表明，这些服务背后的人工智能本应让人们的生活变得更轻松，但事实证明，这些服务并不均衡，而且对某些人的作用也不同。
主要问题
如果技术能够识别并正确分类各种声音和面孔，那么个人尊严、旅行安全 阿根廷电话数据 和求职只是可以通过算法改善生活的一些方面。然而，纽约大学人工智能中心四月报告称，该领域公司的企业环境缺乏多样性，导致生成带有偏见的工具，从而在现实世界中造成伤害。这一事实与技术在现代生活许多领域所带来的好处形成了令人担忧的对比。
相当多的例子
不幸的是，动力生物识别技术可能存在偏差：多项研究表明，面部和语音识别算法对男性的识别往往比女性更准确。面部识别程序也很难正确识别跨性别者和非二元性别者。图像识别算法对于肤色较浅的人通常比肤色较深的人更准确。这些差异可能会给用户带来问题，从轻微的不便到可能危及生命的问题。
汽车安全
美国佐治亚理工学院的研究人员发现，汽车安全技术无法识别黑人行人。研究作者表示，用于校准机器的数据集很少强调肤色较深的人，从而使物体检测模型能够更好地识别白人行人。自动驾驶汽车开发商需要纠正这种差异，以防止他们的汽车因为不承认黑人是行人而简单地碾压黑人。
面部生物识别
在美国机场，国土安全部正在测试面部识别生物识别技术的安全流程，特别是国际旅行。问题在于，人工智能无法正确识别的面部轮廓将导致流程更长，并且可能对受众造成更具侵入性的程序。一些面部识别技术很难识别黑人和女性，尤其是黑人女性。
语音识别
语音识别技术据说可以促进许多日常任务，例如驾驶时的听写、互联网搜索和导航。
然而，至少自 2002 年以来，研究人员和媒体已经记录了女性语音识别能力明显低于男性的案例，因为算法经过训练，可以将典型的男性声音识别为“人类语音”。
而这个问题还没有得到解决——《卫报》的一位作家四月份描述了她母亲在车里尝试拨打简单电话时所经历的反复困难，直到她选择刻意模仿更深沉的声音，听起来像个男人。