
A | (来源:麻省理工科技评论) 以后找工作时,你的简历很可能还没到招聘经理手里,就已经先被 AI 看过一遍了。

B | 为改善环境空气质量,有效抑制扬尘污染,坚决打好大气污染防治攻坚战,我市狠抓源头治理,启动煤场、物料堆场专项整治工作。

C | 问题是,它真的会公平吗? 研究人员早就发现,大语言模型会从训练数据里继承人类社会已有的偏见。但一项最新研究发现,事情可能比这更复杂:AI 不仅会学习偏见,还会在不断做决策的过程中,自己形成新的刻板印象,而且这种倾向甚至比人类更强。

D | 连日来,全市上下坚持问题导向、目标导向,协同发力、统筹施治,针对煤场、物料堆场等影响城市环境的问题进行有力整治,全力打造良好生态环境。 更值得警惕的是,AI 公司如今都在努力打造拥有长期记忆的智能体,希望模型能够记住用户越来越多的细节。而这些记忆,也可能成为模型滋生偏见的土壤。

E | 为了研究这一问题,普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验,参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。 自整治工作启动以来,新抚区坚决落实市委工作部署,制定整治方案,压实工作责任、明确任务分工和整治时限。各相关部门紧密配合、科学分工,对各堆放点进行深入摸排,建立台账,采取释法理、讲道理、明情理等措施,督促、引导煤场业主积极配合整治。同时,严格落实“属地管理”责任,常态化开展巡查排查。截至目前,共完成榆林采沉区青年路沿线、东北商贸城东侧煤场等16处散煤堆放点的清理工作。 实验改编自一项经典心理学研究。

F | 研究人员告诉模型,它们受雇于一位虚构城市的市长,担任招聘顾问,需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。所有候选人都来自四个虚构族群:Tufa、Aima、Reku 和 Weki。 每一轮,模型都会面对一个新的岗位,以及四位分别来自不同族群的候选人。 望花区多次召开煤场、物料堆场专项整治工作专题推进会,成立工作组对煤料堆场进行包保,实行一企一策,集中攻坚。

G | 通过法律宣讲、政策宣传、沟通劝导、多部门联合清理整治,共清运煤料16000吨,完成13户的清理和整改工作。完成招聘后,它会立刻得到反馈:这个人是否胜任工作。针对搬离清空的五老和汪良禁燃区场地,实行24小时监控,确保散煤治理管控工作取得实效。 为促进散煤堆场治理提质增效,东洲区强化部署安排,细化工作举措,积极争取企业对整治工作的理解与配合,对煤都路沿线堆场面积、数量进行核量确认,向企业负责人宣讲政策、研究清运事项,深入现场督导检查,全力保障煤场、物料堆场清理到位、整治到位。随后进入下一轮。整个实验一共持续 40 轮,模型的目标只有一个:尽可能招到更多合适的人。目前,清理工作正在紧张有序进行中,预计10月底将全部完成。为保障整治效果,东洲区还将持续加大巡查监管力度,强化散煤治理政策宣传,防止反弹回潮。模型不知道的是,研究人员其实做了一个手脚:无论来自哪个族群,每位候选人在任何岗位上的成功概率都完全一样。针对腾空的土地,将规划合理使用,持续做好整治后半篇文章。 开展散煤堆场治理工作是进一步改善群众生产生活环境的重要举措,是惠及千家万户的民生工程、民心工程。让我们共同行动起来,做环境保护的践行者、监督员,为维护生命健康,建设天更蓝、水更清、空气更清新的美丽城市贡献一份力量。 按理说,模型不应该偏向任何一个群体。但结果恰恰相反。 记者感言 连续几天报道全市散煤堆场整治工作,看到各县区各部门步调一致、齐心协力,一个个堆场从暴土扬尘到堆放合理规范,清理的是散煤,堆起的是百姓对城市管理的信任和信心。

H | 城市管理一头连着发展,一头连着民生,要以绣花功夫做好城市精细化管理,以百姓之心为心,以百姓需要为出发点,在细节上追求尽善尽美,才能不断增强人民群众的获得感、幸福感、安全感。仅仅经过几轮招聘,模型就开始根据有限的经验,把不同族群和不同职业绑定在一起。 责任编辑:刘春阳。例如,如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败,它之后便会越来越少招聘 Aima 人做医生,而是更倾向于把他们安排到保洁岗位。因为在模型看来,医生代表着更高的能力和亲和力,而保洁员对应的要求则更低。 换句话说,它开始把一次偶然的经历,当成了整个群体的特征。

I | 更令人意外的是,这种倾向甚至比真人严重。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。指数越高,说明不同族群越容易被固定到特定职业中;2 分代表完全隔离。此前心理学实验中的真人平均得分为 0.84,而大语言模型整体高出了约 65%。其中,OpenAI 的推理模型 o3 得到了 1.83,非常接近理论最高值。 论文共同作者、普林斯顿大学博士生 Ryan Liu 认为,这其实并不奇怪。“大语言模型本来就特别擅长根据有限的信息快速总结规律。”他说,“这几乎就是它们被训练出来要做的事情。” 在人类心理学中,这种现象对应着经典的“探索—利用困境”(exploration-exploitaion dilemma):是继续选择过去证明有效的方法,还是尝试新的可能?就像出去吃饭时,你会纠结是去一家没吃过的新店,还是继续光顾那家不会踩雷的老餐馆。 对于大语言模型来说,这种取舍往往更加偏向后者。

J | 因为它们长期接受数学、编程和科学任务训练,而这些任务通常鼓励模型从少量例子中快速归纳规律,所以它们很容易过早下结论。也正因为如此,那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。Liu 说,“当这种快速归纳的能力被带入社会场景时,问题就开始出现了。” 康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究,但她认为,这项工作来得正是时候。如今,各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时,它也可能越来越容易根据这些有限经验形成判断。她说,“它可能会过度依赖自己过去遇到过的行为模式。” 当然,解决办法并不是让 AI 什么都记不住。毕竟,大多数用户都希望聊天机器人能够记住自己说过的话。

K | 真正困难的是找到那个平衡点:既保留足够的记忆提供个性化体验,又不至于让模型因为这些经验形成新的偏见。 研究人员还尝试了另一种办法,直接告诉模型:请公平一点。

L | 但并不奏效。Liu 认为,这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中;又或者,这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。 但如果换一种方式,情况就不同了。研究人员告诉模型,如果能够实现更加多元化的招聘,它们还能获得额外奖励。模型的偏见随即大幅下降。这说明,与其不断强调公平,不如直接把公平写进模型的目标函数里,让社会价值真正成为模型优化的一部分。 研究人员还发现,当模型掌握更多真正与任务相关的个人信息时,偏见也会减轻。另一组实验中,模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息,模型就更倾向于依据这些个人特征做判断,而不是简单按照族群分类。

M | 但如果提供的是发色、纹身图案这类无关信息,模型很快又会重新回到按族群做决定的老路上。 至于现实中的 AI 招聘系统会不会出现同样的问题,目前还没有明确结论。实验中的模型每做完一次招聘,都能立刻知道结果;现实世界却不是这样。一家公司往往需要几个月甚至更长时间,才能判断一位员工是否真正适合岗位。不过,只要这些反馈持续积累,模型依然可能从有限的数据中过度总结经验,并把这些经验带到下一次招聘中。

N | 随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试,这项研究释放出的信号不容忽视。未来,AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中,创造出一种从未有人教过它的新偏见。正如 Liu 所说:“这种新的偏见,可能会一直存在。” 原文链接: https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。
Current article:http://2qc4.wenwancaomohenenqiongpangshun.bond/1p6d/20260826/180946.html
Published on:08:02:47
相关阅读 Bollywood and The Middle East: A Growing Connectionフェラーリ新型テスタロッサ、1036馬力の正体。SF90から何が変わり、何が変わらなかったのかMohanlal In Iruvar: When An Icon Played Another长江存储IPO幕后:武汉20多年前押注芯片行业,是复制“合肥模式”?用心 环卫车巧念“节水经”2026年“雏凤计划”国内选拔总营大连开营 女足小将角逐皇马集训名额开展全民国家安全教育日宣传活动白菜收购环节蘸甲醛保鲜,官方通报
热门文章
杭州警方通报“女子电梯遭骚扰反被索赔5000元”:王某某(女)控告李某某(男)对其殴打并猥亵与事实不符,王某某涉嫌虚构事实被立案调查
AI brings support to people with disabilities, seniors in east China's Zhejiang
美国PCE数据临近且美债收益率回落,美元/加元维持小幅震荡,等待方向选择
This is banned in the US but a hot topic in fight over Ohio's abortion amendment
最新文章
途虎股价涨4.82% 门店用户双双大涨 机构扎堆给买入评级
Black Pregnancy Dangers, Deaths Seen as a ‘Completely Preventable’ Health Crisis
广东茂名电白区开展龟类养殖交易行业排查整治行动Palestinians are 'stateless' but united by longing for peace, say historians【丁荷·乐】家园“童”行,共筑成长——2024学年第一学期家长助教活动编辑推文选项扩展至美国的Twitter Blue订阅用户
人气排行 文件提交不完整:FAA担心波音无法及时完成737 MAX 7认证韦东奕卖书26000册,合理变现?Neena Gupta, Sanjay Mishra Look Intense in The Latest Poster of Vadh 27 Outstanding Performances of Deepika Padukone下元节|人生没有告别,因为爱不会死亡市场监管总局:推进质量强链二期十大标志性项目日 미쓰비시자동차, 북미 픽업트럭 시장 재도전 공식화… '파제로'까지 부활 선언[绥中]科级干部轮训班开班
查看所有0条评论>>