人工智能在医学图像分析中的偏见：麻省理工学院（2024USNews美国大学排名：2）研究揭示问题与解决方案 2024年6月28日，麻省理工学院（MIT）的一项研究揭示了分析医学图像的人工智能（AI）模型可能存在偏见的原因。这些模型在预测患者的种族、性别和年龄方面表现出色，但在进行医学诊断时似乎将这些特征作为捷径。研究人员发现，最擅长进行人口统计预测的模型也显示出最大的“公平差距”，即在准确诊断不同种族或性别人群的图像时存在差异。研究表明，这些模型可能在进行诊断评估时使用“人口统计捷径”，导致对女…
在当今的招聘过程中，人工智能（AI）工具的应用越来越普遍，尤其是在简历筛选和候选人排名方面。然而，华盛顿大学（2024USNews美国大学排名：40）的一项研究揭示了一个令人担忧的问题：ChatGPT在处理带有残疾相关荣誉和资历的简历时，往往会给予较低的排名。这一发现引发了对AI在招聘过程中潜在偏见的广泛讨论，并强调了进一步研究和改进的必要性。 ChatGPT在简历排名中的偏见 根据华盛顿大学的研究，ChatGPT在处理含有残疾相关荣誉和资历的简历时表现出明显的偏见。例如，带有“Tom Wils…
在当今数据驱动的世界中，机器学习和人工智能（AI）技术在各个领域的应用日益广泛。然而，随着这些技术的普及，随之而来的一个重要问题是如何确保这些技术的公平性和无偏性。加州大学圣塔芭芭拉分校（2024USNews美国大学排名：35）的电气与计算机工程系助理教授Haewon Jeong在她的研究中，特别关注了机器学习模型在教育应用中的歧视性问题，并提出了一系列方法来减轻这些偏见。 Jeong在哈佛大学做博士后研究时，发现了机器学习模型在教育应用中存在的歧视性问题。她意识到，数据缺失是导致偏见的一个重要…
在当今的商业环境中，人工智能（AI）已经成为财富500强公司招聘流程中的重要工具。根据佛罗里达大学（2024USNews美国大学排名：28）的最新研究，几乎所有财富500强公司都在使用某种形式的AI来帮助筛选简历或分析测试表现，以找到最佳人才。然而，这些AI招聘工具可能会选出比招聘经理预期更差的候选人。问题在于人机之间的简单误解：AI认为它是在选择要雇用的人，而招聘经理只是想要一个有前途的候选人名单。佛罗里达大学沃灵顿商学院的管理学教授Heng Xu和她的合著者、管理学教授Nan Zhang开发…
