以下是几种将小朋友绘画作品生成动画视频的方法:
Pika的生成视频频道在Discord上点击邀请链接,加入频道:https://discord.gg/pika[heading1]Pika生成你的第一个视频,5分钟手把手入门[heading2]①选择一个作画的频道[heading2]②输入“/”+指令[content]/create为文字生成视频指令/animate为图片生成视频指令/encrypt_image为图片+文字生成视频指令[heading2]③选择/create,文字生成视频[content]输入你想要的内容描述即可[heading2]④选择/animate,图片生成视频[content]输入你想要的图片,不能添加其他文字要求描述[heading2]⑤选择/animate,图片生成视频[content]message处输入你想要的图片,并在prompt处添加描述[heading1]Pika的常用指令参数[content]-gs xx:引导比例,较高的值使其与文本更相关(推荐范围为8-24)-neg xxx:负面提示(指定在视频中不希望出现的内容)-ar xx:xx:宽高比(例如16:9、9:16、1:1、4:5)-seed xxx:生成过程中增加一致性的种子数-motion xx:所需运动强度(仅支持0/1/2)-fps xx:视频的帧率
这个是外国大佬@Ror_Fly的创意思路,很好的利用了runway的尾帧来制作动画,我也进行了实测,记录下来,关键的点,大家也可以发掘更多的玩法。[heading3]生成图片[content]提示词告诉flux,去生成一张技术草图,CAD提示词:eg:Flux短提示词,可以在上面提示词的里面提取[heading3]绘制的视频[content]在runway里面,使用提示词,告诉是从空白页面开始,逐行创建在runway里面,把生成的图片作为尾帧。[Gen-3 Alpha 1963070634,sketch drawing of a,ComfyUI_temp_lnmie_0,M 5.mp4](https://bytedance.feishu.cn/space/api/box/stream/download/all/IsBRbeFi3oPoUGxYao9cwBcQn2d?allow_redirect=1)[heading3]草图上色[content]使用flux的controlNet,depth固定controlNet使用的是Union的版本,目前这个版本,不建议权重调的太高,结束时间也是。[heading3]生成上色后的视频[content][Gen-3 Alpha Turbo 766422618,A robot cat running,ComfyUI_temp_lnmie_0,M 5.mp4](https://bytedance.feishu.cn/space/api/box/stream/download/all/RQBfbBGipoz4yNxpuZOcjc0Kn6c?allow_redirect=1)[heading3]how2draw Flux lora[content]再分享一个好玩的flux lora,用来展示绘画的过程。触发词:how2draw
1.Prompt解析器(Prompt Parser)处理:解析上述Prompt,提取关键信息,如主要人物(年轻女性)、场景(公园、海滩、家后院)、活动(画画、吃冰淇淋、扫落叶、堆雪人)以及时间线索(春、夏、秋、冬)。1.分镜生成器(Storyboard Generator)处理:根据提取的信息生成分镜脚本,每个季节一个分镜,每个分镜包含具体的背景、人物动作和情感状态。春天:公园里,女性坐在画板前,周围是盛开的花朵。夏天:海滩上,女性坐在遮阳伞下,手里拿着冰淇淋,海浪轻轻拍打着沙滩。秋天:后院里,女性穿着温暖的毛衣,正在扫落叶。冬天:女性戴着手套和帽子,正在堆一个雪人。1.视频渲染引擎(Video Rendering Engine)处理:将分镜脚本转换为视频帧,并渲染成连贯的视频动画。使用AnimateDiff框架生成每一帧的图像,确保人物动作的连贯性和场景的平滑过渡。对每个季节的场景应用不同的色调和光影效果,以传达季节变化的感觉。添加适当的背景音乐和声音效果,增强视频的情感表达。1.用户交互界面(User Interface)处理:用户在界面中输入上述Prompt,并可以选择视频的风格、分辨率等参数。用户可以预览系统生成的视频片段,并根据需要进行调整。用户满意后,可以下载最终的视频文件。通过这个流程,“Narrative Animator”系统能够根据用户输入的叙事性Prompt生成一段具有故事性和视觉吸引力的视频动画。这个过程不仅展示了系统的强大功能,也体现了其在创意表达和艺术创作中的应用潜力。