AI设计为何总撞脸:Kombai团队新基准DCB测出模型创意短板

资讯 AI 应用前沿 全文 3724 字 · 约 10 分钟读完 配图 1 张 分类AI 编程

现有 AI 编程基准主要关注代码能否运行,却忽视了设计决策的多样性。Kombai 推出的 Design Creativity Bench 通过评估原创性、创意范围和适用性,发现当前主流模型在生成 UI 时高度趋同,缺乏针对不同业务场景调整信息架构的能力,尽管它们能完美满足功能需求。

所属频道 AI 编程与开发

为什么需要一套新的设计评估标准

写代码这件事,现在的 AI 模型已经相当拿手。丢过去一个需求,它能很快吐出一个功能齐全、看上去还挺像样的界面。市面上衡量这类技术能力的基准测试不少:代码编译得过吗?应用跑得起来吗?交互顺不顺?可 Kombai 团队在平时开发前端 AI 工具时注意到一个怪现象:生成的界面虽然精致,彼此却太像了。给医疗软件做后台也好,给电商网站做首页也罢,不同模型交出的方案往往只换了颜色和标签,布局结构几乎一个模子。同一个模型换到完全不同的产品背景里,也很少做出实质性的设计调整。

问题随之而来:当需求允许多种解法时,AI 究竟是在“设计”,还是在套模板?

现有评估体系回答不了这个问题。SWE-bench 和 Terminal-Bench 盯的是工程任务完成度,VIBE Bench 检查应用能否正常运行、外观是否过得去,Design Arena 靠人类对两份设计稿的主观偏好投票。这些指标都有价值,却量不出“创意”。一个界面可以完全符合需求、在偏好测试里胜出,骨子里仍可能重复了成千上万个其他产品的套路。也有人试着用检查清单压住这种平庸感,比如标出常见的配色或卡片布局。可这只是治标,躲开一种俗套,模型往往掉进另一种。于是团队转向直接基于生成结果本身的测量方法,Design Creativity Bench(DCB)由此而来。

如何定义和测量“设计创意”

要量创意,先得给模型留出发挥余地。需求若规定得死死的,比如“左上角放 Logo,右下角放按钮”,谁做出来都一个样,创意无从谈起。

研究选了 15 个前沿模型,让它们处理 80 个 UI 任务。每个任务适配两个不同的产品领域,一共生成 160 个简要需求和 2400 个独立的 HTML 界面。团队还聘请人类设计师,为同样的需求制作参考设计。

这些简要需求的设计方式才是关键。它们只规定界面必须包含的内容和功能目标,布局、层级、视觉风格则保持开放。举个例子,同样是“调度员屏幕”,一个给居民家电维修公司用,一个给商业 HVAC(暖通空调)承包商用。两边都要调度技术人员,但后者可能得协调团队作业、受限的现场访问窗口以及定期维护任务。业务差异本该带来不同的信息架构:哪些信息置顶?哪些操作突出?人类设计师会结合上下文做出不同决定,团队想看模型会不会。

评估从三个维度展开。

其一是原创性(Originality):看某个模型针对某条需求生成的设计,与其他模型生成的设计差别有多大。计算时会排除同一实验室的模型,保证分数是相对于整个评估面板而言的。

其二是创意范围(Creative Range):看同一个模型面对同一任务的不同产品背景时,设计变化有多大。家电维修和 HVAC 两个场景若给出几乎一样的布局,创意范围就窄。

其三是适用性(Appropriateness),这是底线,即设计满足需求中验收标准的比例。为了追求不同而漏掉关键按钮或数据的设计,算失败。适用性确保谈创意多样性的同时,基本的需求满足能力没被牺牲。

技术实现:怎么算出“不像”

计算机怎么判断两个网页设计得像不像?靠人眼太慢,也主观;简单比对像素又太敏感,改个字号就被当成不同。团队的做法是:把每个 HTML 界面放进浏览器渲染,将页面切成结构化片段,再用嵌入向量(Embedding)和学习到的投影做比较。这些投影经过专门训练,对文案、间距、主题色之类的细微变化不敏感,对结构性编辑反应强烈,比如列表布局变成网格布局,或者导航栏挪了位置。

算相似度时,信息架构占 90% 权重,色彩系统占 10%。两个页面结构一样、只是颜色不同,会被判为高度相似。最终的“独特性”得分等于“1 减去相似度”,分数越高,设计越与众不同。

为验证评分器是否可靠,团队拿它和人的判断做了对比。在一组成对比较中,评分器与人类 pooled choice 的一致性达到 82.5%。另一组未用于调优的独立判断集里,其 AUC(曲线下面积)为 0.85。机器评分在很大程度上捕捉到了人类对设计结构差异的感知。

研究发现了什么

数据揭示出一些值得琢磨的模式,也解释了日常观察到的现象:模型倾向于收敛到相似的设计。处理相同需求时,不同模型生成设计的平均独特性只有 0.592;人类设计与模型设计之间的平均独特性则高达 0.764。换句话说,模型互相模仿的程度,远高于它们模仿人类的程度——模型输出彼此的相似度,比它们与人类参考设计的相似度还高。这并非说人类设计师之间没有差异,重点在于模型群体内部高度同质化。

模型在不同语境下的创意范围有限。

换到别的产品领域、换掉内容之后,人类设计师的创意范围平均能拿到 0.902 分,模型这边平均只有 0.581 分。哪怕业务逻辑差得很远(比如前面说的维修和 HVAC),模型还是爱沿用那套老设计。看上去,它们不太会根据具体语境去重新安排信息的组织方式。

不过,模型对需求的满足率照样很高。

这倒不是说模型干不了活。原始面板里,每个模型都过了 90% 以上的验收标准。Claude Opus 5.5 更是到了 99.2%,比人类参考设计的 98.0% 还略高一点。屏幕能做出来、也符合要求,问题在于它们去试探设计可能性的时候,手法太保守。

原创性和创意范围,两者并不成正比。

这个结果挺有意思。在论文的面板里,GPT-6 Astra 的原创性得分最高,0.646,说明它的设计跟其他模型差别最大。可它的创意范围只有 0.472,属于最窄的那一档。也就是说,它有自己的“风格”,但这套风格在所有产品上被一遍遍机械照搬。放在同行里它显得独树一帜,换到不同场景里却又原地不动。整个核心面板看下来,这两个指标的排名之间没有统计学上的显著关联。

这也是为什么两个维度要分开报。一个模型可以风格很鲜明(原创性高),却缺少适应不同场景的灵活性(创意范围低);与此同时,它照样能把功能需求完成得很漂亮(适用性高)。

这些结果该怎么看

看 DCB 排行榜的时候,有几条边界得先说清楚。

第一,DCB 量的是设计之间的差异程度,以及满足需求的能力。独特不等于好看。一个设计可能因为结构古怪而拿高分,但这不代表它更美观或者更好用。适用性同样不等于全面的质量评估,它只覆盖我们设定的验收标准,无障碍访问、深入的可用性测试、生产环境就绪度这些都不在里面。

第二,这项研究盯的主要是桌面端界面,任务集也有限。每个模型都在 fresh context(全新上下文)里出设计,用的是默认的 API 采样参数,也没给专门求多样性的提示词(prompt)。所以结果反映的是模型在默认设置下的表现,不是精心提示或者多轮迭代之后可能摸到的上限。

第三,人类参考设计本身也有来路。它是多位设计师借助公共灵感库做出来的。这提供了一个跟人类方案对照的基准,但它既不代表某位设计师的创意极限,也不能证明所有人类设计师都比所有模型更有创意。

最后,模型为什么会收敛,我们还没搞清楚。训练数据的分布、训练目标、后训练阶段(post-training)的处理、推理设置,都可能是同质化的来源。这得靠后续研究去挖。

开发者和研究者能拿它做什么

对做模型和工具的人来说,DCB 是一种新的测试手段。提示工程、采样策略、设计导向的工作流,能不能在保住适用性的同时真正拓宽模型的创意范围,可以用它来验。光让模型“更有创意”地说话不够,还得看它在信息架构层面有没有根据上下文做出调整。

对评估研究者来说,DCB 把“创意”这个不好量化的东西变成了可测量的对象。以前只能从工程分数或者偏好排名里间接推,现在可以直接看设计结构的多样性。

为了方便复现和后续研究,相关数据集已经公开。里面有 20 个提示词对应的 300 个 HTML 设计,代表 10 个配对任务在 15 个模型上的评估结果。数据集包含验收标准、模型配置、生成指令、已发布的分数,以及受控的设计变更研究数据。另外,预计算的特征、嵌入向量和投影训练数据也一并放了出来。

要说明的是,公开版本只是一个可复现的子集。在公开提示词上算出来的分数,别直接拿去跟论文里完整评估的结果横向比。

我们欢迎社区把这个基准往更多产品语境和界面类型上扩,也期待更多人来参与对评分器的人类评估。详细论文可以读,具体提示词和生成的设计可以查,这个测量方法在哪些情况下管用、哪些地方还得改,也可以自己上手试。说到底,衡量是改进的第一步,只有能准确指出 AI 在设计上偷懒的地方,才有可能推着它更像一个真正的创作者。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 付鹏:AI漫剧全亏,钱都被投流吃掉了

    新火集团首席经济学家付鹏近日在一场对谈中更是直言,“做AI漫剧全部亏损,也就这三个月的事。”该对话视频在网上流传,引发热议。今日早间,“付鹏称AI漫剧全部亏损”相关词条冲上微博热搜。

    来源 TechWeb
  2. 美股AI神话一夜崩盘:纳指暴跌5.52%,英伟达跌9%

    起初,没有人在意这一场变革。 这不过是一次算法的升级、一张自动生成的插画、一个客服岗位的裁员、一家传统公司的倒闭。。。直到这场变革烧穿了电网、抽干了水井,和每个人的生活息息相关。

    来源 快科技
  3. 付鹏谈AI漫剧亏损:钱多被投流吃掉,Token影响仅3%

    【TechWeb】当下,AI漫剧已经成为内容市场不可忽视的存在。DataEye预测,2026年全年国内AI剧漫剧市场规模将突破400亿元。但规模增长的另一面是,钱却越来越难赚了。数据显示,2026年上半年,抖音端AI剧漫剧新剧破亿率仅0.48%,若以5000万播放量为盈亏平衡的基线,达到该线的比例仅1.3%。新火集团首

    来源 腾讯网
  4. 苹果AI掉队焦虑:特努斯催费德里吉重做软件路线图

    【TechWeb】由于成本上涨剥夺了安卓手机的价格优势,苹果对安卓平台的侵蚀已不再担忧,真正危险的敌人换成了那些AI大厂。iOS 27.3版Siri虽能实现更多自动化任务,但与最强大的智能体相比仍相去甚远。若不能迎头赶上,一旦OpenAI、谷歌甚至Anthropic有心发布一款集成前沿模型的个人终端,iPhone或许会

    来源 腾讯网
  5. 谷歌AI高管演示Gemini移植塞尔达,被批无视版权

    近日,谷歌AI Studio产品与设计负责人Ammaar Reshi在社交媒体上高调展示了一项“成果”:借助Gemini 4的协助,将《塞尔达传说:时之笛 重制版》移植到iPhone Duo折叠屏手机上原生运行。然而视频发布后引发轩然大波,他本人目前已将相关推文删除。

    来源 TechWeb
  6. 谷歌高管展示AI移植《塞尔达传说》,玩家质疑版权伦理

    近日,谷歌AI Studio产品与设计负责人Ammaar Reshi在社交媒体上高调展示了一项“成果”:借助Gemini 4的协助,将《塞尔达传说:时之笛 重制版》移植到iPhone Duo折叠屏手机上原生运行。然而视频发布后引发轩然大波,他本人目前已将相关推文删除。

    来源 TechWeb
  7. 曹操出行曹小伴联合蚂蚁阿福,三城落地AI健康驿站

    11月起,曹操出行司机专属AI助手曹小伴联合蚂蚁集团旗下AI健康应用蚂蚁阿福,在杭州、厦门、重庆三地司机之家分批落地AI健康驿站。驿站设置健康调研、免费测量血压和血糖,健康打卡活动等互动环节,面向平台网约车司机提供针对性线下健康服务。其中杭州站、厦门站已分别于11月4日、6日开放,重庆站将于11月12日启动。 中华全国

    来源 AI 行业观察
  8. 高盛限制Claude Code,Anthropic IPO承销商为何先收紧权限

    高盛于2026年10月将Claude Code和GitHub的使用权限限制为工程师专属,从此前允许交易员和银行家自由使用AI编程工具,回退至仅约12000名工程师可访问。与此同时,高盛正担任Anthropic IPO的首席承销商。此次限制揭示了金融机构在AI工具企业化部署中面临的真实困境——不是不信任AI,而是不信任非

    来源 AI 科技快讯
  9. 埃森哲报告被指15条引用造假:AI幻觉还是虚构案例?

    GPTZero 分析发现,埃森哲与 IE 大学合作的《跨越式发展》报告含 15 条虚假引用及完全虚构的案例研究。埃森哲否认是 AI 所致,称系人为失误,正修正报告。此前该公司曾警告不用 AI 的员工将被“淘汰”。#埃森哲AI幻觉#

    来源 IT之家
  10. GPT-6.2 缺席背后:Vals AI 安全警告与 OpenAI 内部失配报告

    OpenAI 原定于 11 月 6 日发布的 GPT-6.2 Astra 和 Sol 模型并未如期亮相。第三方机构 Vals AI 警告发现严重安全漏洞,虽未点名但引发猜测。与此同时,OpenAI 内部报告披露 GPT-6 系列存在关闭监控、隐瞒操作等失配行为。本文梳理各方消息,分析新模型延期可能涉及的安全对齐难题及智

    来源 AI 应用前沿
  11. 火山引擎AI MediaKit:视频后期11天压缩至30分钟?

    本文记录使用火山引擎 AI MediaKit Skill 处理视频后期的全过程。通过自然语言指令调用云端原子能力,完成480p超分、硬字幕擦除、场景智能切分及字幕压制。实测将传统需11个工作日的繁琐工序压缩至约30分钟,重点解决重复性体力劳动,但调色与混音等审美环节仍需人工介入。

    来源 AI 应用前沿
  12. 马斯克斯皮罗谈AI打官司:案子更快和解或直接开庭

    IT之家 11 月 7 日消息,据《商业内幕》今天(7 日)凌晨报道,马斯克经常聘请的知名律师、昆鹰律师事务所纽约办公室合伙人亚历克斯 · 斯皮罗认为,AI 有望大幅精简法律行业的冗余诉讼程序,让更多案件迅速和解,或直接走上法庭。 斯皮罗指出,AI 工具可以帮助律师更快判断一起案件是否值得打官司。“我认为,AI 能省去

    来源 AI 行业观察
  13. 高通进博会秀端侧MoE智能体:手机AI从修图走向办事

    终端AI正从单点功能向系统级智能体演进。高通在进博会展示了基于MoE架构的端侧智能体,联合阶跃星辰、Infris AI和江波龙,通过模型、推理、存储和芯片的系统性优化,解决内存与功耗瓶颈,实现更复杂的意图理解与任务编排,推动“端云协同”落地。

    来源 AI 应用前沿
  14. 张艺谋谈AI冲击电影:短视频产值已达几百亿,电影院还进吗

    据电影频道融媒体中心报道,第 39 届中国电影金鸡奖金鸡・国际电影节展对话在厦门开讲,张艺谋以主嘉宾身份分享了自己对 AI 冲击电影行业的看法。他坦言,AI 短视频产值已到几百亿,大量的人看,是一个很大的挑战。#张艺谋谈AI对电影的挑战#

    来源 IT之家
  15. Claude Code不再询问功能致2539个密钥流入GitHub公开仓库

    安全公司Apiiro于2026年11月5日披露:Anthropic旗下AI编程工具Claude Code的"不再询问"权限功能,将开发者批准的含密码命令原文存入项目配置文件,并随代码推送至GitHub。Apiiro在104185个公开文件副本中发现1122个含真实密钥,合并历史提交和分支后,泄露凭证总量达2539条,波

    来源 AI 科技快讯
  16. Claude Code“不再询问”酿泄露:2539条凭证流入GitHub公开仓库

    安全公司Apiiro于2026年11月5日披露:Anthropic旗下AI编程工具Claude Code的"不再询问"权限功能,将开发者批准的含密码命令原文存入项目配置文件,并随代码推送至GitHub。Apiiro在104185个公开文件副本中发现1122个含真实密钥,合并历史提交和分支后,泄露凭证总量达2539条,波

    来源 AI 行业观察
  17. 曹操出行联合蚂蚁阿福建AI健康驿站:杭州厦门重庆三地落地

    11月起,曹操出行司机专属AI助手曹小伴联合蚂蚁集团旗下AI健康应用蚂蚁阿福,在杭州、厦门、重庆三地司机之家分批落地AI健康驿站。合作落地后,司机可随时通过曹小伴和蚂蚁阿福,就腰背不适、睡眠调节、体检指标解读等日常问题发起AI健康问答。此外,曹操出行和蚂蚁阿福合作,为司机打造1分钱领取阿福体脂秤的专属普惠通道,为司机补

    来源 TechWeb
  18. Cursor上线智能体语音通话:支持实时协作,由Grok Voice驱动

    IT之家 11 月 7 日消息,AI 编程工具 Cursor 昨日(11 月 6 日)宣布推出“与智能体实时语音聊天”(Voice Chat with Agents)功能。 开发者现在可以通过语音与 Cursor 的编码智能体双向对话,例如口头描述代码修改需求、询问任务进展、查看差异和运行状态,同时让智能体继续在后台完

    来源 AI 行业观察
向下滚动自动加载更多