超长视频生成的新突破!LongVie 框架让创作无界限
在过去的两年中,视频生成技术经历了惊人的进步,尤其是短视频的创作。然而,制作超过一分钟的高质量、风格统一的超超长长视频仍然是一项巨大的挑战。对此,上海人工智能实验室联合南京大学、复旦大学、南洋理工大学 S-Lab 以及英伟达等机构,共视频同推出了 LongVie 框架,系统性解决了这一领域中的核心问题。
LongVie 的目标是让超长视频的生成变得更加可生成控和一致。团队发现,传统的视频生成模型在处理长视频时,常常面临时序不一致和视觉退化等难题。前者主要表现为画面细节与的新内容不连贯,后者则指随着视频时长的增加,画面颜色和清晰度的下降。
为了解决这些问题,LongVie 从 “控制信号”突破 和 “初始噪声” 两个方面入手。首先,团队提出了 “控制信号全局归一化” 策略,这意味着在生成视频时,不再只在单一片段内!L进行归一化,而是统一整个视频段的控制信号,从而提升跨片段的连贯性。其次,他们引入了 “统一噪声初始化” 策略,确保on各个片段共享同一初始噪声,这样可以从源头上减少不同片段之间的视觉漂移。
在解决视觉退化问题上,LongVie 采gV用了多模态精细控制方法。单一模态的控制常常无法提供稳定的约束,而 LongVie 结合了密集控制信号(如深度图)和稀疏控制ie信号(如关键点),并引入退化感知训练策略,使得模型在处理长视频时,能够保持更高的画质和细节。
此外,LongVie 还推 框出了 LongVGenBench,这是首个专为可控超长视频生成设计的基准数据集,包含100个超过1分钟的高分辨架让率视频,旨在推动该领域的研究与评测。根据定量指标和用户评测结果,LongVie 在多个评估上超越了现有技术,赢得了用创作户的高度偏好,达到了 SOTA(最先进技术)水平。
随着 LongVie 框架的问世,超长视频生成将迎来新的时代,创作无界者们将能够在更大的自由度下实现自己的创意。
项目地址:https://vchitect.github.io/Lon超长gVie-project/
- ·Gemini2.5Deep Think成首个ICPC金牌AI,碾压全球精英程序员
- ·WordPress重磅推出AI工具Telex 简化网站构建过程
- ·谷歌将于12月发布Gemini 3.0模型
- ·轮子上的机器人还很遥远?马斯克推特斯拉人形机器人:先装两条腿
- ·别不懂装懂!机器学习和深度学习弄明白了?
- ·云计算核心技术Docker教程:Docker 重建镜像
- ·Salesforce 2023财年第一财季营收同比增长24% 净利润同比下降94%
- ·标签: 猫眼娱乐 唐探1900 疯狂动物城2 浪浪山小妖怪
- ·GPT-4o复活!OpenAI如何应对用户对新模型的情感依赖
- ·Google Meet 推出 AI 妆容滤镜:开会也能“素颜变精致”
- ·云计算开发:Python3-title()方法详解
- ·标签: 江汽集团 尊界S800 江淮1卡 坤鹏ET9
- ·标签: 瑞声科技 AI感知 散热业务 电磁传动
- ·5种值得考虑的开源云监控工具
- ·云计算开发:Python内置函数-any() 函数详解
- ·猫=图灵机?4项测试证明,「猫猫计算机」可执行任意计算
