老柯修机铺

通讯行老师傅的手机软件笔记——每款 App 装过、用过,才敢写下来

PixAI 为什么能听懂人话画动漫——DiT 架构下的生成原理拆解

项目内容
软件PixAI
版本3.26.5
平台Android APK
体积20.95M
分类摄影图像
开发商METANOMALY PTE. LTD.
包名io.mewtant.pixaiart
官网PixAI 官网
下载一PixAI 下载,PixAI 下载
下载二PixAI 下载,PixAI 下载
文档PixAI 文档
介绍从 SDXL 到 Tsubaki 系列,PixAI 用 Diffusion Transformer 重写了提示词的理解方式。拆解自然语言出图、多角色稳定、风格预设背后的技术逻辑,以及这套设计的代价与边界。

PixAI 是什么,以及一个关键问题

PixAI 是 METANOMALY 开发的一款动漫方向 AI 绘画平台,手机端是一个 20MB 出头的 Android APK,网页端浏览器直接打开就能用。核心能力覆盖三条线:从零生成插画、对已有图片做后制处理、以及把静态图变成 5 到 10 秒的小视频。平台每日给 10,000 点免费额度,不充钱也能长期用。

PixAI 工具箱入口,集成了局部重绘、高清放大、去背等后制能力

我最近在研究它的模型选择面板时注意到一件事:同一段自然语言描述,在 Tsubaki.2 上跑出来的画面细节更稳定,而切到 Haruka v2(SDXL 架构)时,经常需要把描述拆成一串标签才能得到想要的结果。更关键的是多角色场景——两个角色的服装、动作、站位写清楚,Tsubaki 系列能各自落实,不大会串脸串衣服;SDXL 架构的模型在多人场景下经常把两个人的特征揉在一起。

这引出一个问题:PixAI 的 Tsubaki 系列模型到底做对了什么,让它能用自然语言出稳定的多角色画面,而传统 SDXL 做不到?答案藏在模型底层架构的切换里——从卷积扩散模型到 Diffusion Transformer(简称 DiT)。

从 SDXL 到 DiT:一次架构范式的切换

要理解 PixAI 的优势,得先回到 SDXL 的工作方式。SDXL 属于卷积类扩散模型,它处理提示词的方式本质上是做"关键词匹配"——你写一个标签列表,模型把每个标签对应到训练时见过的视觉特征,然后把这些特征在画布上做加权叠加。这种方式的问题是:标签之间没有逻辑关系,"穿水手服的黑长直少女站在窗边回眸"这句话,模型不会理解"回眸"是"站在窗边"这个动作的补充,只会把"水手服"、"黑长直"、"窗边"、"回眸"当成四个独立特征往一起堆。特征一多就容易乱——多角色场景下两个人的服装和脸部特征经常互相污染。

DiT 把这个问题从根上换了一种解法。它用 Transformer 架构替代了卷积层,让模型能够像理解语言一样理解提示词的整体语义——不是"特征列表",而是"一句话描述的画面"。具体来说,DiT 把提示词编码成一组语义 token,同时把画布也切成小 patch 编码成视觉 token,然后让两组 token 在注意力层里互相"看见"——模型内部会自然地建立"黑长直"和"水手服"属于同一个角色、而"窗边"属于背景、"回眸"是这个角色的动作这样的逻辑关联。

打个生活化的比方:SDXL 像一个只会看单词卡片的翻译,每个单词认识但连不成句子;DiT 像一个真的懂这门语言的人,听你说一句话能脑补出完整场景。PixAI 的 Tsubaki 系列就是基于 DiT 架构的第一代产品,这也是它能直接吃自然语言的根本原因。

自然语言出图的代价

架构升级不是没有代价。DiT 模型的参数量比 SDXL 大得多——Tsubaki.2 是数十亿参数级别,而 SDXL 只有约 26 亿。更大的模型意味着更高的推理成本和更长的生成时间。PixAI 的解法是把模型拆成四档生成模式:轻量、标准、专业、极致。轻量模式用的是一个裁剪版的 DiT,速度快但细节少;极致模式上完整模型,画面最好但消耗的点数是轻量档的近三倍。

PixAI 批量生成设置界面,四档模式决定了质量、速度与点数消耗的平衡

另一个代价是 LoRA 生态的兼容性。过去两年 SDXL 社区积累了海量的 LoRA 模型——可以理解为"小插件",用来给基础模型注入特定画风或角色。DiT 架构的 LoRA 机制和 SDXL 完全不同,SDXL 的社区 LoRA 不能直接挂在 Tsubaki 系列上。PixAI 的应对方式是同时维护两条产品线:Tsubaki 系列走 DiT 新架构,Haruka v2 保留 SDXL 旧架构,这样想要叠社区 LoRA 的用户还能转回 Haruka。

这个产品线的双轨设计在 Quick Select 面板里就能看到——Tsubaki.3、Tsubaki.2 排前面,Haruka v2 放在后面。面板里还特意给了架构筛选器,方便用户按自己的需求选。

多角色场景为什么这么难

多角色生成本来是 AI 绘画的老大难问题。同一个画面里出现两个以上角色,模型很容易把他们的特征搞混——A 的脸配上 B 的发型,或者两个人的服装颜色串位。PixAI 的 Tsubaki 系列在这一点上的表现明显优于 SDXL,我认为核心原因还是 DiT 的注意力机制。

在 SDXL 的卷积架构里,每个卷积核只能看到画面的一个局部区域,信息要经过多层卷积才能扩散到全图。当两个角色在画面里靠得比较近时,卷积核看到的是重叠的特征混合,模型很难分辨哪些特征属于角色 A、哪些属于角色 B。

DiT 的自注意力机制是全局的——每个 patch(画布上的小方块)在每一层都能直接"看见"所有其他 patch,包括提示词的所有语义 token。这意味着模型在生成角色 A 的脸部时,可以直接从提示词里"调取""角色 A 是黑长直"这条语义,同时不会把角色 B 的"棕发"特征混进来。对于多角色场景,这相当于给每个角色配了一个独立的"注意力通道",模型不需要在混乱的特征里猜来猜去。

风格预设的底层逻辑

PixAI Tsubaki.2 有一个独占功能:35 种以上的一键风格预设。写好一段提示词,切换不同预设就能得到截然不同的画面,提示词本身一个字都不用改。这个功能在 SDXL 架构上做不到——因为它不是"在提示词后面加一个标签"那么简单。

风格预设的底层逻辑是在 DiT 的注意力层里插入了一个"风格适配器"。这个适配器是一组预先训练好的参数,当你选择某个预设画风时,适配器会调整注意力层的权重分布——让模型更关注某类视觉特征(比如"赛博朋克"预设会调高霓虹灯、电路板纹理等特征的权重),同时压低其他特征的权重。整个过程发生在模型内部,不修改提示词本身。

这和 PixAI 的"配方"系统是两回事。配方是给提示词自动追加一段模板化的描述,本质还是提示词层面的操作;而风格预设是模型架构层面的特征重加权,效果更彻底。

适用场景与边界

那是不是 Tsubaki 系列就全面胜出了?也不是。

DiT 架构的极致模式在生成速度上比 SDXL 慢了大约 40%,对于需要批量快速出图的用户来说,这个时间成本不低。负面提示词的自定义能力也只在专业和极致模式开放——轻量和标准模式下你没法精确排除画面里不想出现的元素,比如多余的手指或乱入的文字。

PixAI 画幅比例设置,配合四档模式可以在速度与质量之间灵活选择

还有一个更隐蔽的边界:DiT 的自然语言理解能力虽然强,但它的"知识截止日期"和训练数据的覆盖范围决定了它对一些冷门概念的理解还是会出错。比如你描述一个非常小众的角色设定,模型可能因为训练数据里相关样本太少而画不准。这种时候,用更精确的标签语法配合 SDXL 架构的 Haruka v2,反而更可控。

写在最后

PixAI 的核心竞争力其实很清楚:它押注了 DiT 架构,并且围绕这个架构做了产品线的分层设计——Tsubaki 系列走新架构吃自然语言红利,Haruka 系列守 SDXL 兼容性,四档生成模式给预算和速度敏感的用户留了退路。对于大多数想用一句话出动漫插画的用户来说,Tsubaki.2 和 Tsubaki.3 确实是目前体验最好的选择。但如果你需要挂社区 LoRA、需要精确的负面提示词控制、或者对生成速度非常敏感,了解清楚两套架构的差异再做选择会更划算。

本文为个人基于网络公开资料整理编写,非官方内容,仅供学习交流参考;软件版权归原作者所有,请支持正版;使用过程中遇到问题请查阅官方渠道,本文不承担任何责任。

同类文章

tipss 上手测评:一款能刷灵感又能剪视频的全能创作 App

tipss 把灵感刷取、素材导入、多段剪辑和发布分发捏进了同一个 App 里。这篇上手测评从真实使用体验出发,聊聊它的地区切换、多段混剪和自动保存这几个核心功能到底好不好用,以及什么样的创作者才适合装它。