位置条件生成
用户为每个想出现的物体指定一个矩形框,并配上对应短语,模型据此把物体生成在指定区域,而不是让画面构图完全随机。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
GLIGEN 是一个研究性质的开放域图像生成模型,核心思路是把「框」和文字提示一起喂给生成网络,让用户指定物体出现在画面的哪个位置,而不是只用一句提示词碰运气。它建立在冻结的预训练扩散模型之上,通过新增的门控注意力层注入位置与文本条件,因此不需要重训整个底座就能获得布局控制能力。对研究者和想验证「布局可控生成」这条路线的人来说,它提供的是可复现的方法与代码,而不是一个即开即用的在线产品。
GLIGEN 是一个面向开放域图像生成的学术研究项目,全称与「Grounded-Language-to-Image Generation」相关,思路是把语言和空间位置一起作为生成条件。它要解决的问题是:传统文生图只给一句提示,物体出现在哪、有几个、谁压着谁,全由模型自己决定,用户没法指挥。
它的做法是在一个已经训练好的扩散模型基础上,冻结原有权重,另外插入可训练的门控注意力层,用来接收文本框(bounding box)和对应的文本短语。这样一来,底座的画质能力被保留,而新增的少量参数专门学习「把某个词放到某个框里」。训练时使用带框标注的图像数据,因此它能处理训练时没见过的类别组合,也就是所谓开放域。
不同的人用法不同:研究者通常直接看论文与代码仓库,复现实验或在此基础上改结构;做应用的人会把它当作一种「布局可控」的组件,验证值不值得集成到自己的生成流程里;普通用户则不太容易直接上手,因为它面向的是命令行与代码环境,而非网页界面。
用户为每个想出现的物体指定一个矩形框,并配上对应短语,模型据此把物体生成在指定区域,而不是让画面构图完全随机。
在冻结的预训练扩散模型上插入可训练的门控注意力层,用于接收框与文本条件,底座权重不动,只训练这层新参数。
条件来自文本与框的配对,而不是固定的类别列表,因此可以尝试训练数据里没有直接出现过的物体组合与场景。
由于采用冻结底座加外挂条件的结构,方法本身不绑定某一种扩散模型,换底座时可以沿用同一套条件注入思路。
产出以论文和可复现的实现为主,适合作为布局可控生成方向的基线,或作为二次开发与改结构的起点。
想比较不同条件注入方式、或需要一个开放域布局基线做对照实验的人,能直接读代码改结构。
评估「让用户画框控制构图」这条路线是否值得集成进自家生成流程,可先用它跑小规模实验。
有 Python 与深度学习框架基础、能自己配环境和加载权重的人上手较顺;不熟环境配置会卡在跑通这一步。
它面向代码和研究流程,不是网页端作图工具,没有现成界面,日常出图需求用它反而绕远。
作为研究项目,稳定服务、并发、授权与长期维护都不是它的目标,直接拿来做线上产品要自行承担工程化成本。
普通文生图只吃一句提示词,物体出现在哪、有几个由模型自己决定。GLIGEN 额外接受矩形框和对应短语,把「什么东西」和「出现在哪」分开描述,因此构图可以被指定,而不是靠反复改提示词碰运气。
不需要。它的做法是冻结已经训练好的扩散模型权重,另外插入可训练的门控注意力层来接收框与文本条件,训练集中在这部分新参数上,底座画质能力被保留下来。
不太合适。它以论文和代码形式发布,需要自己配环境、加载权重并写调用脚本,没有面向普通用户的作图界面。如果只是想按提示词出图,用现成的在线生成工具更直接。
条件不是从固定类别清单里选,而是文本短语加坐标框的组合,所以可以尝试训练数据中没有直接出现过的物体与场景搭配。这让它比只支持预设类别的布局方法适用范围更宽。
条件注入的思路可以沿用,但不能直接照搬权重。因为门控注意力层学到的分布是和底座绑定的,更换底层模型后需要重新训练这部分,否则框与文本的条件对不上底座的生成分布。
它定位是研究项目,重点在方法验证而非稳定服务。线上产品需要的并发、容错、长期维护和授权确认,都需要团队在它之上自行补齐,工程化成本要提前算进去。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| GLIGEN本工具 | 4.3 | 未标价 | 位置条件生成;门控注意力注入;开放域组合;兼容现有底座 | — |
| ProAI | — | 完全免费 | AI 驱动的图像生成工具 | Web |
| Stable Diffusion 3.5 Medium 2.6B | — | 未标价 | 基于人工智能的图像生成模型 | Web |
| Stable Diffusion 3.5 | — | 按 Stability AI Community License 免费开放商用与 | 强大的图像生成模型 | Hugging Face / GitHub |
| Nano Banana AI Image Generator & Editor | — | 按积分扣费, 5 折优惠 | 用于文本或图像提示的 AI 图像编辑器 | Web |
| AINanoBanana | — | 未标价 | 基于 AI 的图像生成和编辑平台 | Web |