CogVideo 是清华大学与 BAI 唐杰团队联合推出的开源文本到视频生成模型,基于 Transformer 架构,把预训练的文本到图像模型 CogView 的能力延伸到了动态画面。它采用多帧率分层训练策略,参数量达到 94 亿,在通用领域的同类模型中属于规模较大的一档。想弄清楚一段文字是怎么被拆解成连续镜头的,这个站点可以直接上手试。
- CogVideo 官网入口:https://models.aminer.cn/cogvideo/
模型技术特性
- 参数量级大:94 亿参数,放在通用领域的文本到视频生成模型里属于最大的一批。
- 文本解析细:能读懂描述中的场景、对象、动作、人物乃至对话,再转换成对应画面。
- 分层训练对齐:多帧率分层训练让文本和视频片段对应得更准,成片更贴着原描述走。
- 代码权重开源:源码与模型权重均可自由下载,方便本地研究和二次开发。
使用方式
- 多规格可选:除主模型外还有 CogVideoX-2B 与 CogVideoX-5B,参数量分别是 20 亿和 50 亿。
- 低算力可跑:支持量化推理,显存有限的设备同样能运行。
- 图形界面操作:配套 WebUI 工具 Cogstudio,把文本生成视频的流程做成了可视化界面。
- 任务类型多:除文本转视频,还覆盖视频转视频、图片转视频等玩法。
应用场景
- 剧本可视化:把文字剧本转成动态片段,帮导演和编剧确认内容最终的呈现效果。
- 教学素材:用于课程介绍、教学视频制作,让知识点更容易被看进去。
- 广告创意:自动产出视频草稿,压缩创意设计阶段的试错时间。
- 社交内容:快速生成适合平台发布的视频素材,应付日常的视觉内容需求。
从文档、教程到在线体验,这个站点把文本生成视频的入口摆得比较清楚,专业用户和非专业用户都能找到自己的用法。需要留意的是,训练所依赖的视频—文本对数据仍然稀缺、相关性偏弱,模型对复杂语义关系的理解还有提升空间,这也是后续研究要啃的硬骨头。想快速验证一个创意,或者做多模态方向的实验,从这里进去都算合适。
数据统计
相关导航
暂无评论...
