当前位置: 首页 > news >正文

嘴型训练数据集 嘴型数据集 可用于训练wav2lip模型 史上最数字人嘴型训练数据集

史上最数字人嘴型训练数据集,样本超1000个,话语实例超550000个,可用于训练wav2lip模型!数据量巨大,约66g,
1

史上最强数字人嘴型训练数据集(LRW-1000 / CAS-VSR-W1k)

  • 样本超1000 人,话语实例超550,000 条,可直接用于训练Wav2Lip等嘴型同步模型
  • 原始数据体量巨大,约66GB,高清视频+音频配对,覆盖年龄、性别、语速、表情、光照、多视角
  • 场景丰富:新闻播报、日常对话、访谈等,真实自然,泛化能力强
  • 用途:数字人直播、虚拟主播、短视频对口型、AI 换嘴、唇语识别、语音驱动面部动画
  • 格式:视频(MP4)+ 对应音频(WAV)+ 文本标注,开箱即用,适配 Wav2Lip、SadTalker、GeneFace++

数据集信息表

项目内容
数据集名称LRW-1000(CAS-VSR-W1k)
说话人数≥1000 人
话语实例≥550,000 条
数据大小约 66GB
数据格式视频 MP4 + 音频 WAV + 文本标注
适用模型Wav2Lip、SadTalker、GeneFace++、唇语识别等
场景覆盖新闻、访谈、日常对话、多光照、多视角

环境准备(Wav2Lip)

conda create-nwav2lippython=3.8conda activate wav2lip pipinstalltorch==1.10.0torchvision==0.11.0 pipinstallopencv-python ffmpeg-python pillow pipinstalllibrosa numpy

数据集准备与目录结构

lrw1000/ ├── videos/ # 所有视频.mp4 ├── audios/ # 对应音频.wav ├── transcripts/ # 文本标注.txt ├── train.txt # 训练集列表 ├── val.txt # 验证集列表 └── test.txt # 测试集列表

格式转换(统一提取人脸+对齐音频)

importcv2importlibrosaimportosdefextract_face_and_audio(video_path,out_img_dir,out_audio_dir):os.makedirs(out_img_dir,exist_ok=True)os.makedirs(out_audio_dir,exist_ok=True)# 提取人脸帧cap=cv2.VideoCapture(video_path)idx=0whileTrue:ret,frame=cap.read()ifnotret:breakcv2.imwrite(f"{out_img_dir}/{idx:06d}.jpg",frame)idx+=1cap.release()# 提取音频y,sr=librosa.load(video_path,sr=16000)librosa.output.write_wav(f"{out_audio_dir}/audio.wav",y,sr)# 批量处理withopen("train.txt")asf:lines=f.read().splitlines()forlineinlines:extract_face_and_audio(f"lrw1000/videos/{line}.mp4",f"lrw1000/preprocessed/train/{line}",f"lrw1000/preprocessed/train/{line}")

配置文件(wav2lip.yaml)

data_root:"lrw1000/preprocessed"train_list:"train.txt"val_list:"val.txt"img_size:96fps:25sample_rate:16000batch_size:32epochs:50lr:0.001

模型训练代码

fromultralyticsimportYOLOimporttorchfromwav2lip.modelsimportWav2Lip model=Wav2Lip()model.cuda()# 加载数据、优化器、损失函数省略...forepochinrange(50):model.train()forbatchintrain_loader:imgs,audios,targets=batch imgs,audios,targets=imgs.cuda(),audios.cuda(),targets.cuda()outputs=model(imgs,audios)loss=criterion(outputs,targets)loss.backward()optimizer.step()print(f"Epoch{epoch}, Loss:{loss.item()}")torch.save(model.state_dict(),f"checkpoints/epoch_{epoch}.pth")

推理代码(生成嘴型同步视频)

fromwav2lipimportinferenceimportcv2 face_img="test_face.jpg"audio_path="test_audio.wav"out_path="result.mp4"inference.run(face=face_img,audio=audio_path,outfile=out_path,checkpoint_path="checkpoints/best.pth")print("✅ 生成完成:",out_path)

评估代码(计算LSE、同步误差)

importnumpyasnpfromwav2lip.metricsimportcalculate_lse pred_video="result.mp4"gt_video="ground_truth.mp4"lse=calculate_lse(pred_video,gt_video)print(f"LSE(唇形同步误差):{np.mean(lse):.4f}")
http://www.gsyq.cn/news/1424387.html

相关文章:

  • 3步搞定抖音无水印下载:douyin-downloader高效工作流全解析
  • 2026自贡提供免费量房出方案家装品牌排行:自贡装修设计效果图定制、自贡诚信透明报价装修、自贡轻奢风装修设计预算选择指南 - 优质品牌商家
  • 3分钟掌握Sketchfab下载神器:Firefox用户脚本完全指南
  • 从原理到代码,拆解 Transformer 自注意力机制与多头结构
  • 基于ESP32-S3的便携式鼓机:从PWM音频合成到3D打印外壳的完整DIY实践
  • AWS EC2 Windows Server 2012升级2016实战:从备份到SSM修复的完整避坑手册
  • 异步里捕获 this?我被坑到想哭
  • 2026年淬火炉实测评测:主流品牌核心性能对比 - 优质品牌商家
  • 【AI面试临阵磨枪-087】Skill 生命周期:注册、加载、调度、熔断、卸载、版本管理?
  • 056、HDR 合成后画面诡异、发灰?多曝光对齐、鬼影消除与 Tone Mapping 调优方案
  • Cadence OrCAD层次化设计进阶:像管理代码分支一样管理你的电路模块
  • Claude研究报告生成:从零到专业级输出的7步标准化工作流(含Prompt工程黄金公式)
  • 2026年回火炉实测评测:烧结炉/网带炉/退火炉/钎焊炉/光亮炉/台车炉/回火炉/正火炉/工艺性能与服务维度对比 - 优质品牌商家
  • 3步部署WenQuanYi Micro Hei:解锁高效中文显示的轻量级解决方案
  • 赛普拉斯代理现货库存CYUSB3014-BZXC高性能USB 3.0外设控制器芯片
  • 保姆级教程:用Matlab/Simulink+CarSim复现平行泊车仿真(附模型文件与避坑点)
  • 抖音音频提取革命:3分钟搞定批量下载的开源神器
  • CSS Transitions 过渡效果详解
  • Claude生成代码质量究竟如何?37项实测指标揭穿90%开发者忽略的隐藏风险
  • 【雷达干扰】FMCW 雷达稀疏低秩 Hankel 矩阵分解的干扰抑制附Matlab代码
  • 2026年近期,如何选择行业知名的液压马达定制厂家? - 2026年企业资讯
  • 隐形冠军舜展智能:16年磨一剑,用等离子技术点亮中国高端制造
  • 第19篇|沉浸式首页:地图、玻璃层、信息卡片的层级关系
  • 16位ADC不够用?别急着换芯片!教你用“过采样+滑动平均”榨出24位极致精度
  • 高性能语音合成部署:基于Sherpa-Onnx的MeloTTS多语言模型转换与优化方案
  • 文泉驿微米黑终极安装指南:5MB轻量级中文字体跨平台快速部署
  • 别只用来聊天!解锁BitoAI在VSCode中的5个高效编程场景(含代码规范检查与性能优化)
  • 给Kali 2022.1换张‘脸’:从默认主题到中文界面,一次搞定所有视觉和语言设置
  • CSS View Transitions API 详解
  • Realtek蓝牙鼠标卡顿?别急着换硬件,试试这个被忽略的Windows后台服务优化