智客 ZICQ
EN 登录 / 注册
智客前沿 前沿论文 #AI偏见 #性别偏见 #公平性 #词嵌入 #大模型

The Gradient 深度综述:AI 中的性别偏见——从词嵌入到大模型的系统性审视

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 2 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:The Gradient 发表深度综述文章,系统梳理了 AI 领域性别偏见研究的关键进展。文章从词嵌入中的性别刻板印象(如“程序员”关联男性、“家庭主妇”关联女性)出发,回顾了 Gender Shades 中面部识别的交叉性偏见、共指消解中的职业性别偏向、BBQ 基准揭示的大模型偏见,以及扩散模型中的社会表征失衡。作者 Yennie Jun 还指出了现有研究的空白,如文化地理偏见的缺失,并探讨了“修复”偏见的哲学困境。本文为理解 AI 公平性提供了重要参考。


引言

AI 模型不仅反映现实世界中的性别偏见,往往还会将其放大。量化这些偏见是有效缓解的前提。本文精选了该领域的重要研究,并探讨其影响与不足。

偏见是什么?

“AI”、“性别”、“偏见”等术语常被滥用且含义模糊。本文中,“AI”指基于人类数据训练的机器学习系统,包括词嵌入和 Transformer 模型;“性别”通常指二元男女(因易于量化);“偏见”指对某一群体的不公平对待。

性别偏见研究简史

词嵌入中的性别偏见(Bolukbasi et al., 2016)

经典论文《Man is to Computer Programmer as Woman is to Homemaker?》发现,词嵌入中存在性别刻板印象,如“男性是程序员,女性是家庭主妇”。这些偏见源于训练数据(如 Google News)。作者提出了基于性别中性词的去偏方法,但该方法仅适用于词嵌入,对现代 LLM 效果有限。

面部识别中的交叉性偏见(Buolamwini & Gebru, 2018)

Gender Shades 研究评估了商业性别分类器,发现深肤色女性的错误率高达 34.7%,而浅肤色男性仅为 0.8%。该研究促使微软和 IBM 改进训练数据,并催生了纪录片《Coded Bias》。

共指消解中的性别偏见(Rudinger et al., 2018)

共指消解模型倾向于将“外科医生”等职业与男性代词关联。作者构建了性别中立的数据集,但模型仍表现出偏见,例如“经理”在数据中从未被预测为女性。

BBQ 基准:大模型的偏见(Parrish et al., 2021)

BBQ 数据集包含九类社会偏见的问答,在模糊语境下,模型 77% 的时间强化了刻板印象。该基准可自动化评估生成模型的偏见,并已催生中文(CBBQ)和韩文(KoBBQ)版本。

扩散模型中的社会表征(Luccioni et al., 2023)

Stable Bias 研究显示,图像生成模型(如 DALL-E 2)在生成“CEO”等权威职位时,97% 为白人男性。作者提供了 HuggingFace 工具用于审计模型。

讨论

研究空白

现有基准多聚焦于英语和西方文化,忽视了文化地理偏见。例如,Open Images 和 ImageNet 数据集中,美国和英国图片占比过高,导致 AI 生成图像呈现西方中心化。

如何“修复”偏见?

技术去偏方法随模型复杂度增加而愈发困难。作者强调,需要提高数据与模型的透明度(如 Datasheets for Datasets、Model Cards),并指出“修复”偏见本身是一个哲学问题:模型应反映现实还是理想世界?

结论

评估 AI 中的社会偏见是改进模型的第一步。AI 模型最终由人类数据训练而成,反映并放大偏见,但我们可以通过持续测量和讨论,推动更公平的 AI 发展。


原文出处:The Gradient, 2024-04-08, https://thegradient.pub/gender-bias-in-ai/

—— 完 ——

主题标签: #AI偏见 #性别偏见 #公平性 #词嵌入 #大模型

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…