小编发现不少朋友对于 种族偏见如何影响人工智能算法的有效性 这方面的信息都比较感兴趣，小编就针对 种族偏见如何影响人工智能算法的有效性 整理了一些相关方面的信息 在这里分享给大家。

研究人员发现了常用的卫生系统，使有关病人护理决定的算法种族偏见，根据一项新的研究发表在科学。

该研究的作者解释说，该算法已在各地部署，以评估患者的需求。

加利福尼亚大学伯克利分校公共卫生学院的医学博士Ziad Obermeyer和同事写道：“大型卫生系统和付款人依靠此算法将患者定位为’高风险护理管理’计划。” “这些计划旨在通过提供更多资源(包括训练有素的医务人员的更多关注)来改善具有复杂健康需求的患者的护理，以帮助确保护理得到良好的协调。大多数卫生系统将这些计划用作人口健康管理工作的基石，被广泛认为可以有效提高结果和满意度，同时降低成本。”

在研究算法时(Obermeyer等人在研究该算法时并未专门跟踪种族)。发现其预测集中在医疗费用(例如保险索赔)上，而不是医疗需求上。黑人患者产生“较少的医疗费用，即使我们考虑特定的合并症，也要以健康为条件”，这意味着对费用的准确预测将自动包含一定程度的种族偏见。

这组作者指出，纠正这一无意的问题可能会使通过该算法获得更多帮助的黑人患者的比例从17.7%增加到46.5%。因此，他们努力寻找解决方案。通过对算法进行重新训练，使其专注于健康和成本的结合，而不仅仅是未来的成本，研究人员将偏差减少了84%。他们将这项工作延续到未来，“建立正在进行的(无偿的)协作”以使算法更加有效。

作者写道：“这些结果表明，标签偏差是可以解决的。” “不需要更改我们适合算法的程序(例如，通过使用新的统计技术来将预测变量与种族或其他类似解决方案解相关)。相反，我们必须更改我们为算法提供的数据，特别是我们给它提供的标签。”