环球热讯:全球首个!毫末智行自动驾驶认知大模型升级为DriveGPT
(资料图)
光明网讯 2月17日,毫末智行将人驾自监督认知大模型正式升级为“DriveGPT”,这也是全球首个自动驾驶认知大模型。目前,毫末DriveGPT已完成模型搭建和第一阶段数据的跑通,参数规模可对标GPT-2的水平。
随着ChatGPT的火爆出圈,它所采用的Transformer大模型以及“人类反馈强化学习(RLHF)”技术再次引发行业关注。在自动驾驶领域,毫末在国内最早将Transformer大模型引入到数据智能体系MANA当中。在2023年1月的HAOMO AI DAY上,毫末智行CEO顾维灏介绍,毫末推出的人驾自监督认知大模型就已借鉴了ChatGPT的实现思路,采用RLHF(人类反馈强化学习)技术,通过引入真实人驾接管数据,对自动驾驶认知决策模型进行持续优化。
据了解,毫末的认知决策算法经历了三个阶段的进化。第一阶段是引入个别场景的端到端模仿学习,直接拟合人驾行为。第二阶段是通过认知大模型,引入海量正常人驾数据,通过Prompt的方式实现认知决策的可控、可解释。第三阶段,也就是当前阶段,通过引入真实接管数据,并且在大模型中开始尝试使用RLHF算法,对人驾接管数据进行学习。为此,毫末构建了一个包含“旧策略、接管策略、人工label策略”的Pairwise排序模型。基于这一排序模型,毫末构建了自动驾驶决策的奖励模型(reward model),从而在各种规划场景情况下做出最优的决策。通过这一大模型,在掉头、环岛等公认的困难场景中,场景通过率提升30%以上。
接下来,DriveGPT将持续引入大规模真实接管数据,通过人驾数据反馈的强化学习,来不断提升测评效果,同时也将DriveGPT作为云端测评模型,用来评估车端小模型的驾驶效果。毫末DriveGPT最新重要进展,将在2023年4月举行的第八届HAOMO AI DAY上公布。(柯岩)