当前位置: 首页 > news >正文

自动驾驶—CARLA仿真(10)tutorial_gbuffer demo

测试用例

PythonAPI/examples/tutorial_gbuffer.py
这是一个高级传感器数据采集示例,用于:

  1. 生成一辆自动驾驶车辆
  2. 挂载高分辨率 RGB 摄像头
  3. 同时保存最终渲染图像(Final Color)和所有 GBuffer 纹理

适用于计算机视觉研究、神经渲染、图像合成、感知算法训练等需要底层图形数据的场景。
如下,展示下FinalColor和GBuffer-B:


🔑 主要模块解析

1.GBuffer 是什么?
  • GBuffer(Geometry Buffer)延迟渲染(Deferred Rendering)中的核心概念
  • 它将场景的几何与材质信息分通道存储,而非直接输出最终颜色
  • CARLA 基于 Unreal Engine,天然支持 GBuffer 输出

✅ 通过 GBuffer,你可以获取:

  • 场景深度(SceneDepth)
  • 表面法线(GBufferB/C)
  • 材质属性(金属度、粗糙度等)
  • 运动矢量(Velocity)
  • 屏幕空间环境光遮蔽(SSAO)

2.主车与摄像头初始化
# 固定使用第一个出生点(非随机)transform=world.get_map().get_spawn_points()[0]vehicle=world.spawn_actor(bp,transform)vehicle.set_autopilot(True)# 创建 1920x1080 高分辨率 RGB 摄像头camera_bp=blueprint_library.find('sensor.camera.rgb')camera_bp.set_attribute('image_size_x','1920')camera_bp.set_attribute('image_size_y','1080')camera=world.spawn_actor(camera_bp,carla.Transform(carla.Location(x=1.5,z=2.4)),attach_to=vehicle)
  • 使用固定出生点确保实验可复现
  • 高分辨率设置(1080p)满足研究需求
  • 摄像头安装在车头前方(x=1.5m, z=2.4m)

3.GBuffer 启用与监听(核心)
# 必须先启用 GBuffercamera.enable_gbuffers(True)# 注册 Final Color 回调(常规图像)camera.listen(lambdaimage:image.save_to_disk('_out/FinalColor-%06d.png'%image.frame))# 注册所有 GBuffer 通道回调camera.listen_to_gbuffer(carla.GBufferTextureID.SceneColor,...)camera.listen_to_gbuffer(carla.GBufferTextureID.SceneDepth,...)...camera.listen_to_gbuffer(carla.GBufferTextureID.SSAO,...)
支持的 GBuffer 通道包括:
通道用途
SceneColor最终未应用后处理的颜色
SceneDepth场景深度(可用于 3D 重建)
SceneStencil模板缓冲(物体 ID 掩码)
GBufferA/B/C/D核心几何/材质数据(法线、粗糙度、金属度等)
Velocity屏幕空间运动矢量(用于动态模糊)
SSAO屏幕空间环境光遮蔽
CustomDepth/Stencil自定义深度/模板(可用于特定物体分割)

GBufferE/F 在简单场景中可能为空,因它们通常用于高级材质(如透明、次表面散射)。


4.数据输出结构

所有图像按帧号保存至_out/目录:

_out/ ├── FinalColor-000001.png # 最终渲染图 ├── GBuffer-SceneColor-000001.png ├── GBuffer-SceneDepth-000001.png ├── GBuffer-GBufferA-000001.png ... └── GBuffer-SSAO-000001.png

✅ 每帧包含14+ 个图像文件,形成完整的渲染数据集。


5.资源管理
  • 使用actor_list跟踪所有生成的 Actor
  • finally块确保退出时销毁摄像头和车辆
  • 运行时间延长至10 秒(比基础示例更长,采集更多数据)

🎯 核心应用场景

应用领域如何利用 GBuffer
NeRF / 3D 重建SceneDepth+SceneColor提供深度-颜色对
语义分割SceneStencilCustomStencil提供实例 ID
去模糊/视频插帧Velocity提供运动信息
材质编辑GBufferB/C/D包含 PBR 材质参数
合成数据增强修改 GBuffer 后重新着色,生成新视角

⚠️ 注意事项

  1. 性能开销大

    • 同时输出 14+ 通道会显著降低仿真 FPS
    • 建议在离线数据采集时使用
  2. 磁盘空间消耗快

    • 1080p × 14 通道 × 30 FPS ≈每秒 600MB+
    • 确保_out/目录有足够空间
  3. 部分通道可能为空

    • 如注释所述,GBufferE/F在可能无数据

✅ 总结

该脚本是 CARLA高级图形数据采集的标杆示例,展示了:

  1. 如何启用并监听GBuffer 多通道输出
  2. 如何同步保存最终图像 + 底层渲染数据
  3. 计算机视觉前沿研究提供高质量合成数据源
http://www.gsyq.cn/news/104759.html

相关文章:

  • Google Vids:由AI驱动的工作视频创作 | ProductHunt 今日热榜 - 12月15日
  • 【专家亲授】低代码环境下PHP组件动态更新的8个最佳实践
  • Transformer模型详解系列:Qwen-Image背后的MMDiT架构原理
  • 半导体设备报警诊断程序技术方案
  • Conda环境管理神器:Miniconda实现多版本Python自由切换
  • 揭秘大公开咯!提示工程架构师助力Agentic AI技术创新展翅高飞
  • 免费PPT模板大全!
  • 力扣--262. 行程和用户(数据库题目)
  • 泰雷兹推出AI Security Fabric,为Agentic AI和LLM驱动的应用提供运行时安全防护
  • Qwen3-VL-8B与Codex对比:谁更适合中文多模态任务?
  • PyTorch模型转换指南:将Seed-Coder-8B-Base用于自定义训练
  • 小白学C语言(知识版)丨DAY 5
  • LobeChat与FastAPI后端整合方案:构建完整AI服务链路
  • 24小时从0到1:React+Web3.js极速开发DApp MVP的完整避坑指南
  • Java容器化应用配置
  • 程序员的数学(十一)算法优化中的数学思维:从暴力到高效的蜕变
  • 企业为什么更适合“小Agent + 明确边界”,而不是通用Agent?
  • 基于Qwen3-8B构建智能对话系统:从ollama下载到部署
  • 模块化公链的2025:动态分片、AI审计与量子安全的成本革命
  • 清华源anaconda镜像配置加快Qwen3-32B环境搭建
  • 4、主窗口开发:SDI 与 MDI 应用详解
  • 清华源镜像站加速Qwen3-32B模型下载速度实测
  • 5、Qt模型视图框架:从基础到高级应用
  • 基于Java springboot高校班主任量化打分系统(源码+运行视频+讲解视频)
  • 解决 Habitat 模拟器启动失败:EGL 与 CUDA 设备不匹配问题(unable to find CUDA device 0 among 3 EGL devices in total)
  • 放弃主灯后,我的家反而更亮眼了
  • python -m venv(Python 内置虚拟环境工具)和 conda create(Anaconda/Miniconda 环境管理工具)
  • K8S-组件介绍
  • Qwen3-14B与ollama下载配置兼容性问题解决方案
  • SAP CDS---拼接字段和类型转换和join关联