自动驾驶汽车行人检测软件存在种族和年龄歧视(自动驾驶识别准确吗)-封面网

随着无人驾驶技术的快速发展,自动驾驶汽车也越来越接近商业化应用,但仍存在一些隐患。最近,英国和中国的研究团队进行了一项关于自动驾驶汽车行人检测软件的研究,结果发现这些软件存在对不同肤色和年龄群体的识别偏差,可能会导致种族和年龄歧视,危及有色人种和儿童的安全。

研究团队测试了8款主流的自动驾驶汽车行人检测软件,检查它们在不同肤色、性别和年龄情况下的识别准确率。结果发现,软件对不同性别的识别效果差异不大,但对肤色深浅和成人与儿童存在显著的识别偏差。

具体来说,相较于浅色肤色人群,深色肤色人群被正确识别的概率降低了7.52%;儿童被正确识别的概率比成人低19.67%,存在很大的安全隐患。

研究团队分析认为,这种识别偏差源于训练这些软件所用的数据集自身存在的偏见。许多公司使用的是公开的机器学习数据集,而这些数据集无法充分代表人群多样性,导致软件对特定群体效果较差。

这项研究结果对自动驾驶技术的监管提出了新要求。行人检测系统作为自动驾驶汽车的关键部件之一,其算法中的偏见可能导致对弱势群体的不公平甚至生命威胁。相关部门需要加强监管,建立检测标准,确保不同人群获得公平对待。

同时,自动驾驶企业也须注意选择合适的训练数据,增加数据样本的多样性代表性,通过技术手段消除算法中的偏见,提升系统的公平性和安全性。消除自动驾驶技术中的歧视,是实现真正人性化、智能化出行的必经之路。