绿野

AI招人，比人类更容易产生偏见_我的网站

步步惊心

一 | 巳巳如意 “幼”见可爱的你杭州市康运幼儿园2025年春季开学通知我/们/开/学/啦我们开学啦！瑞蛇贺岁，福满人间。快乐的寒假即将结束。（来源：麻省理工科技评论）以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。我们带着希望，带着憧憬，迎来了新的学期，新的开始。问题是，它真的会公平吗？研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。春季开学安排告家长书 Dear parents 亲爱的家长们、小朋友们：愉快而充实的假期生活即将结束，崭新的学期正向我们走来，杭州市康运幼儿园全体教职工将以满腔的热情积极投入工作，以爱心、耐心和责任心来拥抱孩子们，以饱满的精神和专业的态度与各位家长朋友们共同努力，促进孩子们的健康快乐成长。更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。为了保证小朋友们以最佳状态投入到新学期幼儿园生活当中，在此温馨提醒各位家长，做好假期返园准备，以便小朋友们能够顺利回归幼儿园生活！ 2025年春季报到注册时间 2月13日（农历正月十六）星期四 2025年春季正式开园时间 2月14日（农历正月十七）星期五温馨提示 1.提前将孩子的床上用品洗一洗、晒一晒、消消毒，为开学做准备。 2.孩子的手指甲易藏污垢，请及时为孩子清理、修剪指甲。 3.如在外地过节、旅游的家长，请关注天气变化及路况信息，返回途中注意安全，请您及时关注班级群内信息，如果有特殊情况不能及时返园，请您及时与班级教师联系。而这些记忆，也可能成为模型滋生偏见的土壤。 4.返园前，请家长们提前为孩子准备好返园必需的生活用品，做好班别、姓名标识。为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。实验改编自一项经典心理学研究。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。

二 | 每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。 5.严格遵守幼儿园的接送制度。

三 | 完成招聘后，它会立刻得到反馈：这个人是否胜任工作。随后进入下一轮。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。

四 | 如遇特殊情况不能亲自或按时接送孩子，需提前告知班级教师。

五 | 6.班主任会在班群发布回园的相关事宜，请密切留意班群信息。

六 | 开学收心攻略为了帮助小朋友顺利地从假期的家庭生活过渡到幼儿园的集体生活，请家长提前帮助小朋友调整到最佳状态，快乐从容开启新学期~ 调整开学心态 1.给孩子做积极的心理暗示：提醒孩子还有几天就要去幼儿园了，让孩子在潜意识里知道假期生活快要结束了。 2.回忆幼儿园的快乐时光：与小伙伴愉快的游戏、老师喜欢他、取得进步或获得表扬等，这些积极向上的“正能量”会让孩子怀着迫切的愿望回到幼儿园。

七 | 调整作息时间从现在开始，让我们和宝贝一起早睡早起，严格按照幼儿园的作息时间表来安排一天的活动。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。早上不再贪恋温暖的被窝，拒绝“起床困难户”，以饱满的精神开启新的一天。这样，宝贝们就能提前适应幼儿园的节奏，在开学后迅速进入状态。调整饮食习惯假期里，家里各种美味佳肴，很多孩子随意吃、随时吃，甚至部分家长怕孩子吃少了，追着孩子喂等，因此，假期过后，部分孩子就会出现不会自己吃饭，正餐时间吃不下饭，甚至身体不适等问题。按理说，模型不应该偏向任何一个群体。为了孩子顺利地回到幼儿园，接下来，让我们帮助宝贝按时吃饭，减少零食的摄入，多吃蔬菜水果，保证营养均衡，让小身体充满能量，为新学期的学习和玩耍奠定坚实的基础。但结果恰恰相反。仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。

八 | 培养孩子独立性假期里，很多家长帮孩子代办大小事，等到开学，孩子之前在幼儿园学会的东西都不会了，自理能力缺乏，不仅会影响孩子的情绪，还影响孩子的自信心和自尊心。例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。开学前的这段时间，请尽量让幼儿自己洗漱、吃饭、穿衣服、自己整理自己的玩具物品等，慢慢养成其独立自主的习惯。

九 | 加强安全意识开学诸事，安全第一。换句话说，它开始把一次偶然的经历，当成了整个群体的特征。更令人意外的是，这种倾向甚至比真人严重。

十 | 孩子来园前，请家长仔细检查孩子的服装和口袋，看是否有尖锐细小的潜在危险品，如小刀、药片、铁钉、小颗粒物、玻璃珠等。在家加强对孩子的安全教育，教育孩子学会必要的自我保护方法，如不触摸插座开关、不爬高、不随便吃东西、不跟陌生人走等。

十一 | 研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。

十二 | 指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。做好个人防护请继续引导孩子共同做好个人防护，少去人流密集的场所。此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。若发现自身或幼儿身体不适，有发热、干咳、咽痛、乏力等症状，要及时就医。寻求家园合作即便孩子在开学之后依然有“假期综合症”的表现，家长也不要着急，一方面家长积极地引导孩子回到幼儿园的轨道中来，另一方面要积极和孩子的老师进行沟通；让家庭和幼儿园有效的建立起连接，一起帮助孩子尽快摆脱“假期综合症”带来的负面影响。

十三 | 论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。

十四 | “大语言模型本来就特别擅长根据有限的信息快速总结规律。”他说，“这几乎就是它们被训练出来要做的事情。

十五 | ” 在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。对于大语言模型来说，这种取舍往往更加偏向后者。因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。新学期、新起点、新希望。

十六 | 让我们携手共进，为孩子们创造一个温馨、快乐的学习和生活环境，让他们在这个充满爱的大家庭里健康茁壮成长。也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。” 康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。她说，“它可能会过度依赖自己过去遇到过的行为模式。” 当然，解决办法并不是让 AI 什么都记不住。毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。

十七 | 真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。研究人员还尝试了另一种办法，直接告诉模型：请公平一点。但并不奏效。Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。

十八 | 但如果换一种方式，情况就不同了。研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。

十九 | 模型的偏见随即大幅下降。这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。

| 另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。

| 至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试，这项研究释放出的信号不容忽视。未来，AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中，创造出一种从未有人教过它的新偏见。正如 Liu 所说：“这种新的偏见，可能会一直存在。