宋海涛谈算法偏见：同一平台为何看到不同价格与不同机会
同一件商品，两个人打开同一个平台，看到的价格可能不同；刷过一条视频，首页就开始接连出现相似内容；投出一份简历，收到的回复只有一句“与岗位要求不匹配”……这些看似不相关的经历，背后可能都有算法参与。算法帮助我们从海量信息中找到所需，也在决定：什么排在前面，什么被我们看见，什么机会先到谁手里。近日，联合...
同一样商品，两个人打开同一个平台，刷出来的价格却可能不一样；刚看完一条视频，首页便接连推送相似的内容；一份简历投出去，等来的回复只有一句“与岗位要求不匹配”……
这些经历看着彼此不搭边，背后大概都少不了算法的身影。
算法能帮人从海量信息里捞出想要的东西，同时也在替我们做决定：哪些内容排在前面，哪些能被看见，哪些机会先落到谁手上。
近日，联合国人工智能独立国际科学小组成员、上海人工智能研究院院长宋海涛在 2026 科普中国说“安而不忘危，AI时代的智慧与安全”专场活动上发表演讲，题目是《看不见的偏见：算法如何影响我们的生活》。
隐蔽的风险——算法偏见
说到“算法偏见”，大家在平台在上网浏览、点击、搜索以及购物时，每一步都在保留这些数据会被算法拿来预测、筛选和排序，最后把结果呈现在我们眼前。算法偏见说到底，是数据本身有偏差、规则本身有毛病，于是一套规则在做选择时，会持续把某些人放在吃亏的位置上。比如谁被排在前面，谁就更容易拿到机会。
算法偏见虽然看不见摸不着，但落到头上都是一个个具体的人。这事儿也不分国界——算法能跨国运行，偏见同样能。
图片由AI生成
问题一：同一件商品、同一趟航班、同一段打车，两个人同时打开同一个APP，价格会一样吗？
答案是不一定。
平台可能给不同用户发不一样的优惠券，也可能按会员等级、渠道、库存和供求定出不同价格——这些差异不一定都算偏见。真正要警惕的是另一种情况：平台根据浏览记录、消费频次、设备型号、地理位置，推断你愿意掏多少钱、有多大概率不换平台，然后给出一个别人看不到的价格。某类商品买得越勤，优惠反倒可能越少；总在固定时间打车，同一路段价格反倒可能越高。你以为自己在货比三家，其实算法可能在“人比三家”。
风险在于，这种做法建立在对支付意愿的推断上，而用户看不到定价依据，不知道自己有没有被差别对待，也很难选择或申诉。偶尔的差异可能只是运营，但长期、系统地落在同一群人身上，让他们在不知情、也无从纠正的情况下吃亏，就滑向了算法偏见风险。
问题二：一个人看了一条视频后，首页会变成什么样？
答案是：接下来刷到的，很可能越来越像刚才那一条。
眼下内容平台普遍采用同一套推荐逻辑，行内称作“千人千面”：同一个应用，不同用户点开，呈现的内容完全两样。你连搜索都不用做，光是看完、多停留几秒，系统就记下了。两个人各看各的、各取所需，这本身谈不上偏见，说到底属于推荐算法的产品本事。
真正要警惕的是：算法根据人们的点击和停留判断兴趣，不断投喂相似内容，看到的信息越来越贴合原有的情绪和观点，其他信息慢慢退出视野。相似信息反复出现，人们就容易把算法筛选后的局部信息，当成外部世界的全部。这就是“信息茧房”。
当这种收窄出现在健康、公共安全、投资、公共政策这些需要全面判断的领域，它便不再是产品能力的问题，而滑向了偏见风险。
算法推荐正在影响一个人怎样理解现实。问题三：算法偏见进入招聘领域，会发生什么？
一家国际科技企业曾做过一套实验性智能招聘工具，训练材料是过去十年的简历，用来给新求职者打分。过去应聘技术岗的以男性居多，系统就把男性求职者常见的特征认成了优势。研发人员后来发现：简历里只要出现与女性有关的词语，评分就会被压低。这个招聘工具的研发项目最终被终止。
开发人员从未设过优先录用男性的规则。问题出在训练数据上：过去男性录用得多，算法便把这个历史结果当成了选人的依据。
现实中的招聘系统还可能拿年龄、学校、工作年限、职业空档期来筛简历，求职者最后收到的，往往只有一句“与岗位要求不匹配”。一旦过去的用人偏好进入训练数据，刻板印象就可能以评分和排名的形式延续下去。
算法没有意图，但它会继承历史的偏见。
机器本身没有情绪，那偏见到底打哪儿来？
第一，偏见来自“数据”。
偏见还有第二个来源。“算法目标”。
第三，偏见还跟人的成见有关。“标签和分类”。
第四，偏见还会在运行过程中自我强化被放大
算法偏见
这种循环最终会把我们引向何方？
面对算法，
普通人能主动做哪几步？
要减少算法偏见，开发者、平台、治理者都得出力。普通用户这边，同样有些事可以自己动手做。
购物时多走一步，横向比比价。
自己的信息食谱，要主动管起来。
一旦遇到影响重要权益的自动决策，可以就要求人工介入。
策划制作
演讲人丨宋海涛 联合国人工智能独立国际科学小组成员、上海人工智能研究院院长
