人工智能炼丹师 - AIGC
type: channel
link: https://www.jefxiong.cn/index.php/category/AIGC
items: AIGC 每日速读|2026-03-19|EchoGen|TINA|AR-CoPO|
items: AIGC 每日速读|2026-03-18|Tri-Prompting|Anchor Forcing|VeloEdit|COT-FM|LADR|
items: AIGC生成 每日热点论文速读@20260317
items: AIGC生成 每日热点论文速读@20260316
items: AIGC 周末专题深度解读：生成与理解的大一统之路
items: AIGC 周末专题深度解读：视频扩散 Transformer 高效推理
items: 多模态预训练模型之CogVLM
items: DiT文生图系列之Pixart-∑
items: 基于LLM做多模态生成系列文章-Make-A-Scene
items: 基于LLM做多模态生成系列文章-Parti和Dalle
items: 基于LLM做多模态生成系列文章-VideoPoet
items: Imagen 2(Google DeepMind)

AIGC 每日速读|2026-03-19|EchoGen|TINA|AR-CoPO|
type: item
date: 2026-03-19T15:05:05+08:00
description: AIGC 视觉生成领域 · 每日论文解读 (2026-03-19) 人工智能炼丹师 整理 | 共 12 篇论文 | 重点深度解读 3 篇 今日核心看点 EchoGen: 循环 RL 统一生成理解 TINA: 概念擦除安全漏洞揭示 AR-CoPO: 流式视频 RLHF 对齐 今日概览 今日 arXiv cs.CV 视觉生成相关论文共 12 篇，重点解读 3 篇。 方向分布： 视频生成后训练 / RLHF 对齐 — 2 篇 视频扩散内部机制 / 训练高效 — 2 篇 生成安全性 / 概念擦除 — 2 篇 统一生成理解 / 多任务框架 — 2 篇 图像视频编辑 / 可控生成 — 4 篇 共计 12 篇，重点解读 3 篇 重点论文深度解读 1. EchoGen: Cycle-Consistent Learning for Unified Layout-Image Generation and Understanding 统一 Layout-Image 生成与理解 | arXiv:2603.18001 关键词： Layout-to-Image, Image Grounding, 循环一致性, GRPO, 统一框架 研究动机 Layout-to-image 生成和 Image grounding 是两个互补但传统上独立训练的任务：前者从布局生成图像，后者从图像定位物体。生成任务具有强大的视觉创造力但布局准确性有限，而 grounding 任务具有精确的文本和布局理解能力但缺乏生成能力。联合训练可以互相补偿，但现有方法在优化时面临严重的任务冲突和性能受限问题。 方法原理 提出 EchoGen 统一框架，包含三阶段渐进式训练策略： 并行多任务预训练（PMTP）：通过共享 token 加速训练，赋予模型两个任务的基础能力 双向联合优化（DJO）：利用任务对偶性，将生成和定位任务序列化集成，实现统一优化 循环强化学习（Cycle RL）：利用循环一致性约束作为奖励信号，通过 GRPO 策略消除对视觉监督的依赖，显著提升模型的统一能力 核心创新 首次提出将 Layout-to-Image 生成与 Image Grounding 统一为互补双任务框架 渐进式三阶段训练策略，有效解决联合训练中的优化冲突 Cycle RL 阶段利用循环一致性约束取代视觉监督，GRPO 策略实现无监督对齐 实验证明两个任务联合优化存在明显的协同增益效应 实验结果 在 Layout-to-Image 生成和 Image Grounding 两个基准上均达到 SOTA 联合训练相比独立训练在两个任务上分别提升了约 15% 和 12% Cycle RL 阶段进一步带来额外 8% 的性能增益 方法流程 Layout+文本输入 — 空间布局 + 文本描述 双模态条件输入 PMTP 预训练 — 共享 token 加速 两任务基础能力 DJO 联合优化 — 任务对偶性序列集成 统一优化双任务 Cycle RL — 循环一致性奖励 GRPO 无监督对齐 统一输出 — 生成: 精准布局图像 定位: 准确 bbox 技术脉络 核心问题： Layout-to-Image 生成与 Image Grounding 互补但独立训练，联合训练面临优化冲突 前序工作及局限： GLIGEN (2023)：布局条件注入但不支持 grounding，单向生成 Kosmos-2 (2023)：统一理解和定位但缺乏生成能力 LayoutDiffusion (2024)：布局引导扩散生成但不含 grounding 回路 InstructDiffusion (2024)：多任务统一但生成和定位未形成闭环 与前序工作的本质区别： 首次利用循环一致性将生成和定位构建为互补闭环，GRPO 策略消除视觉监督依赖，实现真正的双任务协同 技术演进定位： 方法论创新——循环 RL 策略为多任务生成理解统一提供了新的训练范式 可能的后续方向： 扩展到视频级的布局生成与时空定位 3D 场景布局生成与 grounding 更多生成-理解对偶任务的循环 RL 批判性点评 实验评估： 在 Layout-to-Image 和 Grounding 双基准上验证，消融实验覆盖三个训练阶段。但缺少与最新 Layout-Diffusion 变体的全面对比，Cycle RL 的奖励信号设计可能对布局复杂度敏感。 新颖性： 循环一致性约束作为 RL 奖励是新颖的技术贡献，GRPO 在此场景的应用具有启发性。创新性评分：★★★★☆ 可复现性： 三阶段训练流程清晰，但各阶段的超参数转换点（何时切换阶段）需要更多细节。GRPO 的实现依赖特定的奖励函数设计。 影响力： 影响力评分 4/5 — 双任务协同增益的发现对统一模型设计有重要启示。循环 RL 策略可推广…

AIGC 每日速读|2026-03-18|Tri-Prompting|Anchor Forcing|VeloEdit|COT-FM|LADR|
type: item
date: 2026-03-18T08:21:33+08:00
description: [ { "@context": "https://schema.org", "@type": "TechArticle", "headline": "AIGC生成 每日热点论文速读@20260318", "description": "AIGC领域8篇最新论文速读，重点解读LibraGen** (Playing a Balance Game in Subject-Driven Video Generation)、NumColor** (Precise Numeric Color Control in Text-to-Image Generati...", "url": "https://jefxiong.cn/index.php/archives/aigc-daily-papers-20260318.html", "image": "https://jefxiong-1304293246.cos.ap-shenzhen-fsi.myqcloud.com/blog_cover/WechatIMG72.jpeg", "datePublished": "2026-03-18T09:00:00+08:00", "dateModified": "2026-03-18T09:00:00+08:00", "author": { "@type": "Person", "name": "人工智能炼丹师", "url": "https://jefxiong.cn/index.php/about-me.html" }, "publisher": { "@type": "Organization", "name": "人工智能炼丹师", "url": "https://jefxiong.cn", "logo": { "@type": "ImageObject", "url": "https://jefxiong-1304293246.cos.ap-shenzhen-fsi.myqcloud.com/blog_cover/WechatIMG72.jpeg" } }, "mainEntityOfPage": { "@type": "WebPage", "@id": "https://jefxiong.cn/index.php/archives/aigc-daily-papers-20260318.html" }, "keywords": [ "dit", "llm", "diffusion", "图像编辑", "视频生成", "蒸馏", "图像生成", "ai", "扩散模型", "generation" ], "articleSection": "AIGC", "inLanguage": "zh-CN", "citation": [ { "@type": "ScholarlyArticle", "name": "LibraGen** (Playing a Balance Game in Subject-Driven Video Generation)" }, { "@type": "ScholarlyArticle", "name": "NumColor** (Precise Numeric Color Control in Text-to-Image Generation)" }, { "@type": "ScholarlyArticle", "name": "EVD** (Event-Driven Video Generation)" }, { "@type": "ScholarlyArticle", "name": "FlashMotion** (Few-Step Controllable Video Generation with Trajectory Guidance (CVPR 2026))" }, { "@type": "ScholarlyArticle", "name": "GlyphPrinter** (Region-Grouped DPO for Glyph-Accurate Visual Text Rendering (CVPR 2026))" }, { "@type": "ScholarlyArticle", "name": "Spectrum Matching** (A Unified Perspective for Superior Diffusability in Latent Diffusion)" }, { "@type": "ScholarlyArticle", "name": "SERUM** (Simple Efficient Robust Unifying Marking for Diffusion Image…

AIGC生成 每日热点论文速读@20260317
type: item
date: 2026-03-17T08:20:53+08:00
description: AIGC 视觉生成领域 · 每日论文解读 (2026-03-17) 人工智能炼丹师 整理 | 共 13 篇论文 | 重点深度解读 5 篇 今日核心看点 无限视频生成 MemRoPE DiT 美学加速 2.11x 实时音视频联合 25FPS 四智能体组合生成 CVPR'26 多视图 GRPO 偏好对齐 今日概览 今日 arXiv cs.CV 视觉生成相关论文共 13 篇，重点解读 5 篇。 方向分布： 扩散模型理论与加速 — 3 篇 文本到图像 / 评测 — 2 篇 图像编辑 — 1 篇 3D 生成与重建 — 4 篇 多模态 / 智能体 — 2 篇 顶会收录： CVPR 2026 x 3 篇 + ICLR 2026 x 1 篇 重点论文深度解读 1. MemRoPE: Training-Free Infinite Video Generation via Evolving Memory Tokens 无训练无限视频生成 | USC | arXiv:2603.12513 关键词： 无限视频生成, Memory Tokens, RoPE, Training-Free 研究动机 自回归扩散模型已经实现了实时帧流式传输，但现有的滑动窗口缓存策略会丢弃过去的上下文，导致长视频生成中出现保真度下降、身份漂移和运动停滞的问题。现有方法保留一组固定的早期 token 作为注意力汇，但这种静态锚点无法反映不断增长的视频内容的演变。 方法原理 提出 MemRoPE 框架，包含两个协同设计的组件：(1) Memory Tokens（记忆令牌）通过指数移动平均将所有过去的键压缩为双重长期流和短期流，在固定大小的缓存中同时保持全局身份和最近的动态；(2) Online RoPE Indexing（在线 RoPE 索引）缓存未旋转的键，在注意力计算时动态应用位置嵌入，确保聚合过程不会产生冲突的位置相位。两个机制相互促进：位置解耦使时间聚合定义明确，聚合使固定缓存可用于无限生成。 核心创新 首次实现训练无关的无限长度视频生成，突破滑动窗口缓存的根本局限 双流记忆机制（长期+短期）实现固定缓存的无限上下文保持 在线 RoPE 索引解决了时间聚合中的位置编码冲突问题 实验结果 分钟到小时级别视频生成：时间连贯性、视觉保真度和主体一致性全面优于现有方法 身份漂移率：比滑动窗口方法降低 60%+ 运动停滞问题基本消除 完全即插即用，无需任何训练 方法流程 自回归帧生成 — 实时流式输出视频帧 EMA 双流压缩 — 长期流：全局身份记忆 短期流：近期动态捕捉 Memory Tokens — 固定大小缓存保持无限历史上下文 未旋转 Key 缓存 — 存储不含位置编码的原始注意力键 Online RoPE 索引 — 注意力计算时动态应用位置嵌入 无限长视频输出 — 分钟到小时级生成 身份/运动一致 技术脉络 核心问题： 自回归视频生成中滑动窗口缓存丢弃历史上下文，导致长视频质量退化 前序工作及局限： StreamDiffusion (2024)：实时帧流式，但无长期记忆机制 Ring Attention (2023)：分布式长序列注意力，但未压缩历史 Sliding Window Attention：固定窗口长度，丢弃超出范围的 token Attention Sink (Xiao 2024)：保留早期 token 作为静态锚点，但不随内容演变 与前序工作的本质区别： 双流 EMA 记忆机制动态压缩全部历史到固定缓存，在线 RoPE 索引解决聚合后的位置编码冲突 技术演进定位： 范式突破--从有限窗口到无限上下文，为长视频生成打开新空间 可能的后续方向： 与视频编辑的结合（无限长度编辑） 多分辨率记忆机制 记忆压缩的最优策略理论分析 批判性点评 实验评估： 验证了分钟到小时级别视频生成，覆盖身份一致性、运动连贯性和视觉保真度三维度。消融实验设计合理。 新颖性： 双流 EMA 记忆压缩与在线 RoPE 索引的组合全新。创新性：★★★★★ 可复现性： 方法描述清晰，项目页面已上线但代码尚未开源。 影响力： 影响力 5/5 -- 无限视频生成是产业刚需。 2. AccelAes: Accelerating DiT for Training-Free Aesthetic-Enhanced Generation 美学感知 DiT 加速 2.11x | Sydney | arXiv:2603.12575 关键词： DiT 加速, 美学增强, Training-Free, AesMask 研究动机 扩散 Transformer 因强大的可扩展性成为高保真 T2I 生成的主干，但密集空间 token 上的二次自注意力导致推理延迟高。关键发现：去噪在空间上是不均匀的——与美学描述符关联的区…

AIGC生成 每日热点论文速读@20260316
type: item
date: 2026-03-16T09:25:08+08:00
description: AIGC 视觉生成领域 · 每日论文解读 (2026-03-16) 人工智能炼丹师 整理 | 共 13 篇论文 | 重点深度解读 5 篇 今日核心看点 DiT 弹性加速 ELIT: FID +35% 多主体视频定制 + 全方位运动控制 视觉生成 RLHF: 66 万评分数据开源 电影级多镜头相机控制 ShotVerse 扩散模型内源思维链推理 92.1% 今日概览 今日 arXiv cs.CV 视觉生成相关论文共 13 篇，重点解读 5 篇。 方向分布： 扩散模型理论与加速 — 3 篇 文本到图像 / 评测 — 2 篇 图像编辑 — 1 篇 3D 生成与重建 — 4 篇 多模态 / 智能体 — 2 篇 顶会收录： CVPR 2026 x 3 篇 + ICLR 2026 x 1 篇 重点论文深度解读 1. ELIT: Elastic Latent Interfaces for Diffusion Transformers 弹性潜在接口 | Snap Research | DiT 通用加速 | arXiv:2603.12245 关键词： DiT 加速, 弹性推理, 跨架构通用, Snap Research 研究动机 Diffusion Transformer (DiT) 的计算量与图像分辨率强绑定，无法灵活地在延迟与质量之间做权衡。更关键的是，DiT 对所有空间位置均匀分配计算资源，忽视了不同区域的重要性差异，导致大量算力浪费在低信息量区域。 方法原理 提出 ELIT (Elastic Latent Interface Transformer)：在 DiT 架构中插入一组可学习的、长度可变的潜在 Token 序列作为「潜在接口」。标准 Transformer 块在这组潜在 Token 上运算，而非直接处理空间 Token。通过轻量的 Read/Write 跨注意力层在空间 Token 和潜在 Token 之间传递信息，并自动优先处理重要区域。训练时随机丢弃尾部潜在 Token，迫使模型学会按重要性排序表示——前部 Token 编码全局结构，后部 Token 负责细节精修。推理时可动态调整潜在 Token 数量以匹配算力预算。 核心创新 即插即用：仅增加两个跨注意力层，不修改 DiT 主体和 rectified flow 训练目标 重要性排序表示：通过尾部 Token 随机丢弃训练，自动学习全局到细节的分层编码 跨架构通用：兼容 DiT、U-ViT、HDiT、MM-DiT 四种主流架构 动态推理预算：同一个模型适配从低算力到高算力的多种部署场景 实验结果 ImageNet-1K 512px: FID 提升 35.3%, FDD 提升 39.6% 跨架构验证: DiT, U-ViT, HDiT, MM-DiT 均有一致增益 算力节省: 潜在 Token 数减半时质量仅微降，实现接近 2x 加速 方法流程 输入空间 Token — 图像/视频的空间特征序列 Read Cross-Attn — 空间 Token -> 潜在 Token 自动聚焦重要区域 潜在 Token 序列 — 可变长度 重要性排序 DiT Transformer 块 — 标准 Self-Attention + FFN Write Cross-Attn — 潜在 Token -> 空间 Token 信息回写 弹性输出 — 根据算力预算截断尾部 技术脉络 核心问题： DiT 计算量与分辨率强绑定，无法灵活权衡延迟与质量 前序工作及局限： Token Merging：合并相似 token 但损失信息 JiT：动态跳过但仍在空间 token 上运算 Perceiver：潜在 token 但未针对扩散优化 DiTFastAttn：固定模式稀疏化 与前序工作的本质区别： 将空间 token 和计算完全解耦，通过可学习潜在接口实现按重要性排序的信息压缩 技术演进定位： 范式创新——从在空间 token 上省计算转变为在潜在接口上做计算 可能的后续方向： 与 token 合并/跳过组合 视频 DiT 时空弹性接口 与 KV 缓存压缩联合优化 批判性点评 实验评估： 跨 4 种 DiT 架构验证扎实。但缺少真实 T2I 模型端到端评估。 新颖性： 潜在接口+重要性排序+弹性推理是扎实新贡献。创新性：4/5 可复现性： 方法清晰架构改动最小。 影响力： 影响力 5/5 — 一个模型多预算对工业部署极有价值。 2. DreamVideo-Omni: Multi-Subject Video Customization with Omni-Motion Control 全方位运动控制视频定制 | 潜在身份强化学习 | arXiv:2603.12257 关键词： 视频定制, 多主体, 运动控制,…

AIGC 周末专题深度解读：生成与理解的大一统之路
type: item
date: 2026-03-15T10:43:00+08:00
description: AIGC 周末专题深度解读：生成与理解的大一统之路 人工智能炼丹师 整理 | 2026年3月15日（周日） 覆盖时间：2026年3月2日 — 2026年3月14日 本期概述 本周 AIGC 领域最热门的方向莫过于统一多模态模型（Unified Multimodal Models, UMMs）——将视觉理解（图像识别、VQA、推理）与视觉生成（文生图、图像编辑）统一在同一个模型框架内。过去一周内，arXiv 上涌现了超过 8 篇高质量论文，从架构设计、训练范式、评测基准、长序列生成到强化学习后训练，全方位推动了这一方向的发展。 核心问题 传统的多模态 AI 系统中，"理解"和"生成"是两套独立的系统： 理解侧：CLIP、SigLIP、InternVL 等模型擅长视觉语义理解 生成侧：Stable Diffusion、DALL-E、FLUX 等模型擅长图像生成 统一多模态模型的目标是让同一个模型既能"看懂"图片，又能"画出"图片，甚至让两种能力相互促进。 本期论文一览 # 论文 机构 核心贡献 arXiv ID 1 DREAM MIT + Amazon 联合判别-生成训练框架，Masking Warmup + 语义对齐解码 2603.02667 2 GvU (CVPR 2026) 北大 + 百度 理解驱动内在奖励，自监督 RL 缩小生成-理解差距 2603.06043 3 Omni-Diffusion 腾讯 + CASIA 首个全离散扩散统一模型，文本+语音+图像 any-to-any 2603.06577 4 InternVL-U 上海AI Lab + 商汤 4B 参数统一模型，CoT 推理增强生成，超越 14B 基线 2603.09877 5 UniCom 阿里达摩院 压缩连续语义表征，Transfusion 架构，SOTA 生成 2603.10702 6 UniG2U-Bench 多机构联合 首个系统性 G2U 评测基准，7 种机制 30 个子任务 2603.03241 7 UniLongGen Adobe + PolyU 长序列交错生成的主动遗忘策略，解决视觉污染 2603.07540 8 GRPO-Interleaved 华为 + 复旦 GRPO 扩展到多模态交错生成，过程级奖励 2603.09538 1. DREAM：视觉理解与文生图的联合优化框架 论文: DREAM: Where Visual Understanding Meets Text-to-Image Generation arXiv: 2603.02667 机构: MIT CSAIL, Amazon 发布日期: 2026年3月3日 1.1 研究动机 在多模态学习中，视觉理解（如 CLIP 的对比学习）和图像生成（如 MAE 的掩码重建）一直是两个独立的优化目标。直接联合训练会导致两个目标相互冲突——对比学习需要低掩码率保留全局语义，而生成训练需要高掩码率学习重建。 1.2 方法原理 DREAM 提出了两项关键技术来解决这一矛盾： （1）Masking Warmup（掩码预热）策略 训练分为两个阶段： 预热阶段：掩码率从低（~15%）逐渐增加，先建立对比对齐的表征空间 生成阶段：掩码率增加到高（~75%），在已有的稳定表征上训练生成能力 这种渐进式调度避免了"同时从零开始学两件事"的不稳定性。 （2）Semantically Aligned Decoding（语义对齐解码） 推理时，模型生成多个部分掩码的候选图像，然后用模型自身的理解分支计算每个候选与目标文本的语义对齐分数，选择最佳候选继续解码。这相当于在不引入外部重排序器的情况下，用理解能力"把关"生成质量。 1.3 实验结果 仅在 CC12M（1200 万图文对）上训练： ImageNet 线性探测：72.7%（比 CLIP 高 1.1%） FID：4.25（比 FLUID 低 6.2%） 文本-图像保真度提升 6.3%（无需外部重排序器） 1.4 关键洞察 DREAM 证明了判别目标和生成目标之间存在协同效应，而非简单的零和竞争。关键在于训练策略的设计——让模型先学好"看"，再学"画"。 2. GvU：理解驱动的内在奖励机制（CVPR 2026） 论文: Learning to Generate via Understanding: Understanding-Driven Intrinsic Rewarding for Unified Multimodal Models arXiv: 2603.06043 机构: 北京大学, 百度 发布日期: 2026年3月6日 | 会议: CVPR 2026 2.1 研究动机 现有的统一多模态模型存在一个显著的"能力不对称"问题：理解能力强，生成能力弱。模型能准确…

AIGC 周末专题深度解读：视频扩散 Transformer 高效推理
type: item
date: 2026-03-14T09:19:00+08:00
description: AIGC 周末专题深度解读：视频扩散 Transformer 高效推理 专题方向：视频 DiT 中的稀疏注意力、线性注意力与推理加速 覆盖时间：2026年3月2日 — 2026年3月13日 整理：人工智能炼丹师 日期：2026年3月14日（周六） 一、专题概览 本周是视频扩散 Transformer（Video DiT）高效推理方向的"论文爆发周"。短短一周内，arXiv 上出现了 9 篇 高度聚焦于视频 DiT 注意力加速与推理优化的论文，覆盖了从稀疏注意力、线性注意力、结构化注意力，到蒸馏压缩、缓存+剪枝、系统级并行优化的完整技术栈。 核心背景 当前主流视频生成模型（Wan 2.1/2.2、HunyuanVideo、Mochi 等）均采用 Diffusion Transformer（DiT）架构，其核心瓶颈在于 全注意力（Full 3D Attention）的 O(N²) 复杂度。一段 5 秒 720P 视频的 token 序列长度可达数十万，全注意力的计算量和显存占用极其惊人。因此，如何在保持生成质量的前提下大幅降低注意力计算成本，成为本周研究的核心主题。 本周论文全景 # 论文 方法类别 核心思路 加速比 提交日期 1 CalibAtt 稀疏注意力（免训练） 离线校准块级稀疏模式 1.58x E2E 3月5日 2 SVG-EAR 稀疏注意力 + 线性补偿（免训练） 误差感知路由 + 聚类质心补偿 1.77-1.93x 3月9日 3 SODA 缓存 + 剪枝（免训练） 敏感度导向的动态加速 SOTA fidelity 3月7日 4 FrameDiT 结构化注意力（需训练） 帧级矩阵注意力 ~Local FA 3月10日 5 VMonarch 结构化注意力（轻量微调） Monarch 矩阵分解 5x attn, 17.5x FLOPs↓ 1月29日 6 SALAD 稀疏 + 线性混合（轻量微调） 门控线性注意力并行分支 1.72x, 90%稀疏 1月23日 7 SLA 稀疏 + 线性融合（微调） 三级权重分类 + 自定义 kernel 2.2x E2E, 13.7x attn 2025.9 (ICLR'26) 8 FastLightGen 蒸馏 + 剪枝 步数+参数同时压缩 4步+30%剪枝 3月2日 9 Diagonal Distillation 自回归蒸馏 对角蒸馏 + 隐式光流 277.3x, 31 FPS 3月10日 二、重点论文深度解读 论文 1：CalibAtt — 校准稀疏注意力加速视频生成 标题：Accelerating Text-to-Video Generation with Calibrated Sparse Attention 作者：Shai Yehezkel, Shahar Yadin, Noam Elata 等 机构：以色列理工 日期：2026年3月5日 arXiv：2603.05503 关键词：稀疏注意力 免训练 离线校准 块级模式 Wan 2.1 Mochi 研究动机 视频 DiT 中的全注意力计算是推理速度的主要瓶颈。已有的稀疏注意力方法要么需要训练（如 SLA、SALAD），要么是在线动态判断每个 token 的重要性（开销大）。作者观察到一个关键现象：大量 token-to-token 连接在不同输入上一致地产生可忽略的注意力分数，且这些模式在不同查询间重复出现。 方法原理 CalibAtt 采用"离线校准 + 在线高效推理"的两阶段策略： 离线校准阶段：在少量参考视频上运行全注意力，统计每一层、每个注意力头、每个扩散时间步的块级（block-level）稀疏模式和重复模式 模式编译：将稳定的稀疏模式编译为优化的注意力操作（类似于"稀疏注意力的 JIT 编译"） 在线推理：只计算被选中的输入相关连接，以硬件友好的方式跳过未选中的连接 核心创新 块级粒度：不做 token 级稀疏（开销大），而是以 token block 为单位，兼顾精度和效率 跨输入稳定性：发现稀疏模式对输入不敏感，可以离线固定 层-头-时间步三维校准：不同层/头/时间步的稀疏模式不同，细粒度适配 实验结果 在 Wan 2.1 14B、Mochi 1 及其蒸馏版本上测试 实现 1.58x 端到端加速 在视频生成质量和文本-视频对齐度上优于已有免训练方法 支持多种分辨率 技术脉络 Sparse VideoGen (2024) → Sparse VideoGen2 (2025.5) → CalibAtt (2026.3)。从在线动态稀疏 → 离线校准静态稀疏，核心洞察是"稀疏模式跨输入稳定"。 批判性点评 优势：完全免训练，直接即插即用；离线校准成本低；硬件友好 局限：1.58x 的加速比在本周论文中并不突出；块级粒度可能…

多模态预训练模型之CogVLM
type: item
date: 2024-08-04T16:58:00+08:00
description: CogVLM：VISUAL EXPERT FOR LARGE LANGUAGE MODELS 被多个文生图模型广泛使用，包括SD3、可图用作Caption模型 图像 & 文本分别建模的思想在SD3中的MMDIT中也被应用到 1. Motivation 浅层对齐的缺陷：例如BLIP2的QFormer或者LLAVA的MLP，作者认为是导致幻觉的一个重要原因 浅层对齐 + 图文联合训练（LLM+Vision+adapter）会损害NLP的能力： Qwen-VL 等模型，会导致文本理解能力的灾难性遗忘【只要训练数据配比得当，就能避免这个问题？】 2. 主要贡献 模型结构： 引入视觉专家(QKV matrix+ FFN): 冻结LLM，100%保留文本对话能力 视觉位置编码：图像特征共享一个位置编码，对于高分辨率理解有帮助。 3. 一些细节 3.1 消融实验(caption 任务 + VQA任务) 模型结构 & 微调的部分：【视觉专家 + MLP adapater】比其他更好，（为什么没有微调视觉+LLM+adapter全量实验，在下游任务上全量FT应该可以更好），该部分影响最大 采用LLM的权重来初始化Visual Expert能够提升性能（应该能加速训练，和LLM expert融合会更容易） 视觉部分，单向注意 or 双向注意的影响，使用单向注意反而更好 视觉部分的自回归监督，没有提升 EMA可以多数任务上均能带来提升 3.3 训练数据细节 3.3.1 预训练数据 LAION-2B + COYO-700M-> 1.5B Visual grouding: 40M(GLIP v2预测的bounding box作为GT)，从LAION-115M中过滤出来的40M（75%的图片包含至少两个目标框） 3.3.2 SFT数据(50w) LLaVA-Instruct (corrected) LRV-Instruction LLaVAR in-house data 3.4 训练细节 在SFT阶段，对LLM进行训练，学习率为base其他参数的10%，VIT始终保持固定

DiT文生图系列之Pixart-∑
type: item
date: 2024-06-09T17:29:00+08:00
description: PixArt-Σ: Weak-to-Strong Training of Diffusion Transformer for 4K Text-to-Image Generation Motivation 高分辩率图像生成： Transformer架构中序列越长，计算复杂度是O(n^2)，越长的分辨率，对于计算推理时间和训练成本来说就越高。如何实现更好更快的生成是一大难点。 高质量的图文对数据：爬虫图文对在图片质量和文本质量上都存在问题，不够美观，图文相关性弱。利用MLLM进行recaption通常会出现幻觉问题，提升MLLM的精度对于图文一致性非常重要。 从弱到强的训练策略：对于低分辨率训练模型、vae模型切换，从已经训练好的base模型，继承之前的训练权重，如何更好的迁移到新模型非常重要，节约训练成本。 主要贡献 高分辩率图像生成 根据self-attention的计算原理，KV矩阵的长度可以比原序列更短。注意力维度由NxN变成Nx(N/(RxR)): $QK^{T}$的维度变换(NC) (CxN/(RxR))-> N x (N/(RxR))。这样可以实现计算的压缩，并且相邻token存在语义的相似性，这样相当于引入了空间的局部先验。这里压缩的函数$f_{compress}$可以是global average pooling或者是stride为R的卷积层（可以用avg的kernel初始化加速训练）。 高质量的图文对数据 PixArt-Σ采用更好的ShareCaptioner替代原始的LLava模型，幻觉率更低，训练时采用60%概率选择，让模型能够适用caption文本和更多样范式的其他文本。收集了8百万4K分辨率的真实摄影图片。 从弱到强的训练策略: VAE: 从SD1.5的VAE替换到SDXL的VAE，2k训练steps 512分辨率提升到1024分辨率：结合位置编码插值(PE Interp)，可以实现更快的尺度适应 KV压缩并采用avg的kernel权重初始化可以加速训练 继承原有的权重训练，PixArt-Σ具有非常高的训练效率 一些思考 局部窗口进行kv的压缩对于用Transformer架构的生成模型来说都是适用的，也可以用于自回归范式的图像生成模型

基于LLM做多模态生成系列文章-Make-A-Scene
type: item
date: 2024-04-05T21:21:00+08:00
description: 基于LLM做多模态生成系列文章-Make-A-Scene Make a Scene (Meta-2022): Make-A-Scene: Scene-Based Text-to-Image Generation with Human Priors Motivation 提升生成的可控性：Make-A-Scene同期工作主要以文生图为主，生成结果的可控性低。（ControlNet之前的工作） 人类感知优化：人类对于人脸/人体显著物体的畸形容忍程度较低，生成图片需要增强这些方面的能力 主要贡献 1. 可控生成：实现除文本控制外，增加图片分割图的可控生成，结构一致性 2. 压缩优化：优化图片tokenizer，增强对显著物体(人脸/人体等)的重建效果 3. 推理优化：提出针对自回归图片生成模型的CFG方案【可以舍弃CLIP rerank的环节】,极大提升FID和图文对齐 一些思考 分割图与类别相关，推理过程中有OOD的类别，有一定的限制性 提高对显著物体的重建效果，通过加入“感知Loss”实现，Face Embedding or Vgg Embedding进行约束 CFG对于提升图文一致性效果非常显著。 其中系数经验值取3-5

基于LLM做多模态生成系列文章-Parti和Dalle
type: item
date: 2024-03-24T22:24:00+08:00
description: 基于LLM做多模态生成系列文章-Parti和Dalle Parti: Scaling Autoregressive Models for Content-Rich Text-to-Image Generation Dalle: Zero-Shot Text-to-Image Generation 基于LLM的图片生成预期达成目标：复杂指令生成(多主体，属性绑定、空间位置关系等)、世界性知识 模型 模型结构图 图片离散化方式 自回归网络 参数量 生成图片大小 Dalle d-VAE Decoder-only 12B 256x256 Parti vit-VQGAN Encoder-Decoder 350M、750M、3B、20B 1024 = 256 + 4倍SR 参考链接 -知乎 多模态预训练：DALL-E

基于LLM做多模态生成系列文章-VideoPoet
type: item
date: 2024-03-24T18:38:00+08:00
description: VideoPoet: A Large Language Model for Zero-Shot Video Generation Motivation 用扩散模型还是LLM做视觉生成？：LLM相比于Diffusion的优势，基设好，模型架构统一，多任务友好。但是当前主流的视觉生成还是以扩散模型为主，主要的原因在于训练一个基础模型的成本很高，以SD开源模型为代表。基于开源SD进行优化实现成本小很多，通过各种adapter在下游任务做适配。扩散模型对于任意多模态生成不利于统一（比如，如何用扩散模型做QA问答？），LLM会更友好。 主要贡献 多模态生成统一架构，实现图片、视频、音频的自回归生成，其中文本采用T5，视觉采用Magvit-v2，音频采用SoundStream Encoder进行离散化 级连的两阶段超分（两个2x超分）：超分辨率受限于token长度，采用局部窗口的attention方式。采用将水平、垂直、时间三个维度解耦。 一些细节 模型参数量：8B模型 语言模型选择：UL2: Unifying Language Learning Paradigms 图文数据量：1B 视频数据量：270M（其中100M带有文字描述） tokeinzer词表：视觉采用Magvit-v2【26w词表】、音频：SoundStream Encoder【4096词表】 一些思考 关于文本编码：只用64个Token进行文字编码，并且使用预训练的文本编码器（T5-XL）。虽然提高了效率，但是受限预训练模型，并且转换到中文场景也会有限制（中文语义编码不准确）。端到端训练时，能够训练文本编码，如果有足够的数据量，理论上应该是更适配的。另外，该设计方案不考虑文本生成，不太符合全模态输出的设计。 视觉Tokenizer：Tokenizer在整个框架中非常重要，提升压缩率，能用更少的token来表示，以提升自回归的效率。Tokenizer应该是分层级的，有些场景对细节要求很高，则需要非常低损失的压缩，如小人脸、文字。对于风景，需要压缩损失可以更大些，提升自回归的效率。 预训练任务+下游多任务Finetune： 预训练任务越多越丰富，在使用时zero-shot性能和需要的下游数据量越少。具体需要哪些预训练任务，需要仔细考量。

Imagen 2(Google DeepMind)
type: item
date: 2023-12-17T00:37:00+08:00
description: Imagen2 概览 参考链接 https://deepmind.google/technologies/imagen-2/