ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

060、LLM的常识推理在机器人中的应用:物理常识与安全约束

060、LLM的常识推理在机器人中的应用:物理常识与安全约束 060、LLM的常识推理在机器人中的应用:物理常识与安全约束昨晚调试一个抓取任务,机械臂在桌面上反复尝试抓取一个装着水的纸杯,视觉识别没问题,抓取位姿算得也对,但每次靠近时杯子都会滑动。我盯着日志看了半天,突然意识到问题不在抓取算法——是LLM规划器压根没考虑“纸杯装水后重心会变”这个物理常识。它按照空杯子的模型规划了抓取力,结果一碰就翻。这个场景让我想写这篇笔记:LLM的常识推理在机器人里到底该怎么用,以及那些看似“理所当然”的物理约束,怎么才能真正落到代码里。先说结论:LLM的常识推理不是让你把物理引擎塞进Transformer里,而是让模型在决策树的顶层做一次“人类式”的筛选。机器人底层还是靠传统控制、运动规划、力觉反馈,但LLM负责回答“这种情况下该不该这么做”以及“这么做会不会违反物理规律”。这个分工想清楚了,后面所有代码才有意义。从一次失败的任务规划说起当时我让机器人执行“把桌上的马克杯放到书架第二层”。感知模块给出了杯子位置、书架高度、机械臂运动学解算结果。LLM规划器输出的动作序列是:接近杯子→夹取→抬升→平移→放置。看起来没毛病,但执行到“抬升”这一步时,机械臂直接撞上了书架上方的隔板——因为LLM规划时根本没查书架第二层的高度限制,它默认“抬升”就是垂直向上,而实际上那个位置上方10厘米就是隔板。这个问题的本质是:LLM有语言层面的常识(“书架第二层通常不高”),但它不知道具体场景的几何约束。所以我们的工作不是让LLM直接输出关节角度,而是让它输出“动作意图+约束条件”,然后由底层模块去验证这些约束是否满足。物理常识怎么编码
返回列表