双色球

AI招人，比人类更容易产生偏见_我的网站

A |     （来源：麻省理工科技评论）          以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。问题是，它真的会公平吗？          研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。

B |          更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。而这些记忆，也可能成为模型滋生偏见的土壤。      8月21日，由中国互联网协会指导，互联网域名系统国家地方联合工程研究中心（ZDNS）主办的“强网筑基 智赋千业”——数智网络创新应用工作会在北京举行。

C | 互联网域名系统国家地方联合工程研究中心（ZDNS）总经理邢志杰在会上致辞，围绕DNS基础设施的关键价值、互联网基础资源的重要性、建设韧性DNS的必要性等展开深度解读。         为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。

D |          实验改编自一项经典心理学研究。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。  邢志杰指出，“十五五”规划提出要深入推进数字中国建设，把握数字化、网络化、智能化发展机遇。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。随着新一代算力网、信息通信网络等新型基础设施加快布局，从经济运行到社会治理，从能源交通到医疗教育，越来越多关系国计民生的重要业务运行在网络之上，对网络连续、稳定、安全运行提出了更高要求。

E |          每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。  邢志杰强调，新型基础设施发展越快，承载的业务越重要，对DNS等互联网基础资源的依赖就越深。过去，互联网基础资源更多解决域名能不能解析、IP能不能联网的问题；如今，DNS已经成为基础设施的关键基础设施，承担人与应用、智能体与资源互联互通的重要职责。

F | 一旦DNS出现问题，影响的不只是一台设备、一个系统，甚至可能波及整个业务的连续运行。完成招聘后，它会立刻得到反馈：这个人是否胜任工作。

G | 随后进入下一轮。  他以全球典型网络事故为例。2025年10月，全球最大的云计算服务商AWS（亚马逊云科技）发生核心服务中断，全球数千个平台受到影响。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。事故最终确认源于其自建DNS系统故障，一个局部故障持续扩散，最终演变为长达15个小时的全球性业务中断。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。         按理说，模型不应该偏向任何一个群体。这一事件再次为行业敲响警钟，即使在DNS设计中已经充分考虑可靠性、可扩展性和冗余机制，如果缺少体系化的韧性能力，小故障最终也会演变为全球性的事故。

H |   邢志杰表示，数智化发展越深入，互联网基础资源的重要性越关键。“十五五”规划纲要提出，“深入推进数字中国建设，提升数智化发展水平”。

I | 在数智化发展要求下，人工智能深入行业应用，智能体、算力、数据与业务加速融合，网络连接的对象更多，应用系统、基础设施之间的关系也更复杂。但结果恰恰相反。

J | 这种变化正在千行百业中发生。

K | 仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。尤其是与国计民生相关的关键领域、重要系统，都在加快数智化转型。

L | 例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。         换句话说，它开始把一次偶然的经历，当成了整个群体的特征。行业数智化程度的提升，更需要稳定、高效的底层连接和基础资源能力作为支撑。  邢志杰强调，DNS支撑着上层大量应用、服务和资源的发现与连接，是筑牢AI网络基础设施、保障数字空间稳定运行的核心基石。  面向行业未来发展，邢志杰表示，DNS自身也要不断升级，从满足基本需要的“有用”，走向稳定、安全、易管理的“好用”，再进一步走向面向未来、具有创新引领能力的“领先”。

M | 更令人意外的是，这种倾向甚至比真人严重。

N | 既要保障今天关键业务连续运行，也要适应不断演进的网络架构和业务形态，为人工智能和行业数智化发展筑牢连接根基。  “业务系统越复杂，建设韧性DNS越有必要。

o | 研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。”邢志杰强调，数智化发展的另一面，是系统之间的依赖越来越深，风险传导也越来越快。近年来，全球发生的多起重大网络和云服务中断事件，都说明了这一点。新型风险并不只来自网络攻击，也可能来自关键资源缺失、传统能力不足、智能化自动化水平较低甚至人员操作失误。

p | 指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。在高度复杂的数字基础设施中，传统单点可靠、被动响应的建设方式已经越来越难以满足关键业务要求。  邢志杰表示，面向数智时代，保障业务连续性，已经不仅是一项技术要求，更是关系数字社会正常运转的重要基础能力。此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。这也是ZDNS提出“AI赋能，体系化构建韧性DNS”的重要出发点：归根结底，韧性DNS追求的不是一套系统自身的稳定，而是关键系统的稳定；在面对复杂风险时，能够提前感知、有效承受、快速恢复，不让局部故障演变为全局故障，不让技术风险演变为业务风险。

q |   今年7月，工业和信息化部、中央网信办、国家发展改革委、国家数据局联合印发《关于推动互联网基础资源高质量发展的指导意见》，对未来5到10年互联网基础资源发展作出系统部署，明确提出，到2035年，我国成为全球互联网基础设施领域重要创新策源地和引领者。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。         论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。“大语言模型本来就特别擅长根据有限的信息快速总结规律。  “新的发展目标对互联网基础技术创新提出了更高要求。

r | ”他说，“这几乎就是它们被训练出来要做的事情。”          在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。”邢志杰表示，从国内互联网基础技术的“无人区”出发，十多年来，ZDNS始终专注于域名系统核心技术研发。基础技术突破没有一蹴而就，需要长期投入。“坚持自主技术攻关，因为我们始终相信，基础技术要走得更稳，必须把核心能力掌握在自己手中；要走得更远，则需要与客户和产业伙伴共同创新。         对于大语言模型来说，这种取舍往往更加偏向后者。因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。

s | 也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。

t | ”          康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。”  邢志杰认为，“筑基”是ZDNS长期坚持的方向：为中国互联网基础技术筑牢自主创新之基，为行业发展筑牢网络创新发展根基。如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。她说，“它可能会过度依赖自己过去遇到过的行为模式。”          当然，解决办法并不是让 AI 什么都记不住。

u | 毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。

v | 真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。         研究人员还尝试了另一种办法，直接告诉模型：请公平一点。但并不奏效。

w | Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。

x |          但如果换一种方式，情况就不同了。研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。模型的偏见随即大幅下降。这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。

y |          研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。

z | 如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。

|          至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。

| 实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。

|          随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试，这项研究释放出的信号不容忽视。未来，AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中，创造出一种从未有人教过它的新偏见。正如 Liu 所说：“这种新的偏见，可能会一直存在。”          原文链接：          https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。

Current article:http://90h.cibianpangjujiusu.cyou/news/20260826_39794.html

Published on:10:58:24