MIT和哈佛科学家发现人工智能可以通过 X 射线识别种族

【中美创新时报5月13日讯】（记者温友平）医生无法仅通过查看 X 光片来判断某人是黑人、亚洲人还是白人。但是，根据包括麻省理工学院（MIT）和哈佛医学院的研究人员在内的国际科学家团队的一篇令人惊讶的新论文，计算机可以做到。研究发现，受过训练以读取 X 射线和 CT 扫描的人工智能程序可以以 90% 的准确率预测一个人的种族。但进行这项研究的科学家表示，他们不知道计算机是如何计算出来的。对此，《波士顿环球报》进行了报道。

“当我的研究生向我展示这篇论文中的一些结果时，我实际上认为这一定是一个错误，”麻省理工学院电气工程和计算机科学助理教授、该论文的合著者 Marzyeh Ghassemi 说。该论文周三（5月11日）发表在医学杂志《柳叶刀数字健康》上。 “当他们告诉我的时候，我真的以为我的学生疯了。”

报道称，在人工智能软件越来越多地用于帮助医生做出诊断决定的时候，这项研究提出了一个令人不安的前景，即基于人工智能的诊断系统可能会无意中产生带有种族偏见的结果。例如，人工智能（可以使用 X 射线）可以自动为所有黑人患者推荐特定的治疗方案，无论它是否最适合特定的人。同时，病人的人类医生不会知道人工智能的诊断是基于种族数据的。

当科学家们注意到用于检查胸部 X 光片的人工智能程序更有可能错过黑人患者的疾病迹象时，这项研究工作就诞生了。 “我们问自己，如果计算机不能分辨一个人的种族，那怎么可能？”另一位合著者、哈佛医学院副教授 Leo Anthony Celi 说。

据报道，该研究团队包括来自美国、加拿大、澳大利亚和台湾的科学家，他们首先使用 X 射线和 CT 扫描的标准数据集训练了一个人工智能系统，其中每张图像都标有人的种族。这些图像来自身体的不同部位，包括胸部、手部和脊柱。计算机检查的诊断图像不包含明显的种族标记，如肤色或头发质地。

一旦软件显示了大量带有种族标记的图像，它就会显示不同的未标记图像集。该程序能够以惊人的准确率识别图像中的人的种族，通常远高于 90%。即使对来自相同大小、年龄或性别的人的图像进行分析，人工智能也能准确地区分黑人和白人患者。

但是怎么做？ Ghassemi 和她的同事们仍然感到困惑，但她怀疑这与黑色素有关，黑色素是决定肤色的色素。也许 X 射线和 CT 扫描仪检测到深色皮肤中较高的黑色素含量，并以人类用户以前从未注意到的某种方式将这些信息嵌入数字图像中。这需要更多的研究才能确定。

报道指出，测试结果能否证明不同种族之间的先天差异？汉普郡学院生物人类学教授、《种族主义不是种族》一书的合著者艾伦·古德曼（Alan Goodman）不这么认为。古德曼对论文的结论表示怀疑，并表示他怀疑其他研究人员能否重现这些结果。但即使他们这样做了，他认为这一切都与地理有关，而不是种族。

古德曼说，遗传学家没有发现人类基因组存在重大种族差异的证据。但他们确实根据祖先居住的地方发现了人与人之间的重大差异。“如果他们不使用种族，如果他们查看某人的地理坐标，机器也会这样做吗？”古德曼问道。 “我的感觉是机器也能做到。”

换句话说，人工智能可能能够通过 X 射线确定一个人的祖先来自北欧，另一个人来自中非，第三个人来自日本。古德曼说： “你称这场比赛。我称之为地理差异。” 即便如此，他承认目前尚不清楚人工智能如何仅通过 X 射线检测到这种地理差异。

无论如何，Celi 说医生应该不愿意使用可能会自动产生有偏见结果的人工智能诊断工具。他说：“我们需要暂停一下。在我们确定他们没有做出种族主义决定或性别歧视决定之前，我们不能急于将算法带到医院和诊所。”

图片：麻省理工学院和哈佛大学的研究发现，经过训练可以读取 X 射线和 CT 扫描的人工智能程序可以以 90% 的准确率预测一个人的种族。（GETTY IMAGES/FILE ）