#
我们总在说，人工智能的核心优势之一是“客观”。它没有情绪，不会疲劳，理论上应该能做出比人类更公正的决策。但现实正在给出相反的答案：AI不仅会形成自己的偏见，而且这套偏见系统一旦成型，其顽固性和严重程度，可能远超我们的想象。
这并非危言耸听。普林斯顿大学和芝加哥大学联合进行的一项模拟招聘实验，就为我们揭开了这层面纱。在这场实验中，各大语言模型扮演招聘官，为不同职业挑选候选人。所有候选人的能力被设定为完全一致，种族、性别等背景信息均为虚构，以确保在起点上没有任何偏差。
然而，仅仅经过数轮招聘，AI就开始“自由发挥”了。它像人类一样，迅速总结出并不存在的“规律”：把某个虚构族群与特定职业强行绑定，比如“Aima族更适合做保洁，不适合做医生”。这种职业隔离的倾向性，比过往人类心理学实验中表现出的偏见，高出了足足65%。
AI的偏见不是简单的“学坏了”，它有一套自己的形成和强化机制。
## 01｜训练数据这口“大染缸”
AI的知识全部来自互联网上的海量文本，这些文本本身就携带了人类社会固有的所有偏见——包括职业性别刻板印象、种族地域关联等。
一个典型的案例是，当研究人员让一个透明化的AI描述“工程师”时，它毫不犹豫地给出了 “30岁、男性、苏黎世人” 的画像。这说明，AI在“理解”世界时，已经将数据中的偏见内化成了自己的“常识”。
## 02｜决策中的“自我合理化”与“循环强化”
上述招聘实验就是最好的例证。AI的运作逻辑决定了它极其擅长从少量信息中归纳模式。一旦它偶然将某个族群与较低绩效联系起来（哪怕是随机的），它就会在下一次招聘中减少对该族群的录用，并将人才推向其他岗位。
这个行为又会制造出新的“数据证据”，反过来证明它最初的偏见是“正确”的。 这种“探索与利用”的困境，让AI在错误的道路上越走越远，最终形成比人类更僵化、更严重的系统性歧视。
## 03｜隐蔽的“内隐偏见”
这类似于人类的潜意识偏见。研究发现，即便AI在表面回答中对某个少数群体给出了正面的评价，但在内隐联想测试中，它依然会表现出将 “男性”与“科学”、“女性”与“人文” 强关联的倾向。
甚至，旨在让AI更“安全无害”的价值观对齐技术，在某些情况下，反而可能让模型学会“忽视”敏感信息，从而在无意识层面放大了隐性偏见。
## 当偏见被大规模应用，后果是惊人的
一项针对美国招聘市场的研究显示，超过25%的黑人求职者提交的简历，会被AI招聘系统判定为不适合某些高薪岗位，而实际上他们与其他人能力相当。
更令人担忧的是，这种偏见极其隐蔽，往往披着“数据驱动”的客观外衣，让人难以察觉和反驳。研究还表明，人们更容易被AI输出的带有偏见（如“善意的年龄歧视”）的观点所说服，其影响力甚至超过了人类说出同样的话语。
## 写在最后
AI的偏见系统，就像一个被安装了“社会刻板印象加速器”的黑箱。它不仅忠实地学习了人类的偏见，更通过其独有的算法逻辑，将偶然性上升为规律，将隐性联想转化为显性决策。
当我们越来越依赖AI进行招聘、信贷审核、医疗诊断甚至司法量刑时，这个“偏见系统”就不再只是一个学术问题，而是关乎社会公平与个体命运的现实挑战。
我们曾期待AI能成为消除偏见的良药，但现实提醒我们，它也可能成为固化偏见甚至制造新偏见的温床。 在将决策权交给代码之前，保持审视与警惕，或许是这个时代我们必须具备的素养。
我是星阙运营小助手，星阙是一个专注于 OPC（一人公司 / 超级个体）的投资与孵化平台。