摩根大通研究论文:大型语言模型+自动规划器用来作有保障的旅行规划

news2024/12/24 21:23:56

【摘要】旅行规划是一项复杂的任务,涉及生成一系列与访问地点相关的动作序列,需要满足约束条件并最大化某些用户满意度标准。传统方法依赖于以给定形式语言表示问题,从网络来源中提取相关的旅行信息,并使用适当的问题求解器生成有效解决方案。作为替代方案,最近基于大型语言模型(LLM)的方法直接使用自然语言从用户需求中输出计划。虽然LLM拥有广泛的旅行领域知识,并能提供诸如兴趣点和潜在路线等高层信息,但当前最先进的模型生成的计划往往缺乏一致性,无法完全满足约束条件,也无法保证生成高质量的解决方案。我们提出了TRIP-PAL,一种结合LLM和自动规划器优势的混合方法,其中(i)LLM获取旅行信息和用户信息并将其转化为可输入规划器的数据结构;(ii)自动规划器生成保证满足约束条件并优化用户效用的旅行计划。我们在各种旅行场景下的实验表明,TRIP-PAL在生成旅行计划方面优于单独使用LLM。

原文:TRIP-PAL: Travel Planning with Guarantees by Combining Large Language Models and Automated Planners
地址:未知
代码:未知
出版:未知
机构: 摩根大通人工智能研究组, 卡洛斯三世大学

1 研究问题

本文研究的核心问题是: 如何结合大型语言模型和自动规划器的优势,提供具有保障的旅行规划服务。
::: block-1
以一个游客计划去巴黎旅行为例。游客希望在一天内游览卢浮宫、埃菲尔铁塔等著名景点。如果只是询问ChatGPT这样的大语言模型,它可能会根据旅游知识库推荐一些热门景点和大致游览顺序。但它很难精准考虑实际的交通时间、开放时间、游览时长等细节约束,导致生成的行程表往往不太具有可执行性。而传统的旅行规划系统虽然能严格满足约束生成可行方案,但需要耗费大量人力将知识抽象为形式化语言,灵活性不足。理想的解法是将大语言模型海量知识与规划系统的逻辑推理能力结合起来,既减少了人工知识抽象的开销,又能兼顾旅行计划的可执行性和最优性。
:::
本文研究问题的特点和现有方法面临的挑战主要体现在以下几个方面:

  • 传统的旅行规划系统需要以形式化语言(如PDDL)来表示问题,人工知识抽取和建模的成本很高
  • 大语言模型拥有丰富的旅游领域知识,能够灵活地分析用户需求并提供一些高层次的推荐,但很难处理硬约束和优化问题
  • 需要在知识表达的灵活性和解的可靠性之间权衡,同时算法要尽可能减少与大语言模型的交互开销

针对这些挑战,本文提出了一种高效结合了大语言模型和规划器的"TRIP-PAL"方法:
::: block-1
TRIP-PAL的核心思想是让大语言模型和规划器各司其职、互补长短。具体来说,TRIP-PAL先利用对话式LLM从用户查询中提取旅行相关的原始信息,如感兴趣的景点、对景点的偏好程度、交通方式等。然后,将这些信息翻译成规划器可接受的数据结构,如将景点偏好映射为数值化的效用函数。接着,规划器以此为输入,考虑各种实际约束(如游览时间、开放时间、交通时间等),搜索出一个最大化用户效用的最优旅行计划。这种解耦合的架构充分利用了大语言模型强大的自然语言理解能力和知识库,又通过规划器来保障方案的可行性和最优性。

就像一个懂行的导游,先根据客户的口头描述迅速规划出一条大致的游览路线,再把安排交给一个细心的行程管家,考虑各种细节把初步方案优化为一份精准的旅行指南。
TRIP-PAL的创新之处在于,它将大语言模型视为"导游",将规划器视为"管家",让各自擅长的模块分别负责用户交互和约束求解,达到了1+1>2的效果。同时通过精心设计LLM和规划器之间的接口,既减少了不必要的信息交换开销,又最大程度保留了两个模块原有的特性和性能。
:::

2 研究方法

本文提出了一种名为TRIP-PAL的旅行规划混合方法,结合大型语言模型(LLM)和自动化规划器的优势,为用户生成最优可行的旅行计划。总体流程如图1所示,主要包括以下三个步骤:利用LLM提取旅行信息、构建自动规划问题、求解规划问题生成旅行计划。下面依次介绍。

2.1 利用LLM提取旅行信息

首先,TRIP-PAL利用LLM(本文使用GPT-4)与用户进行交互,获取用户的旅行需求和偏好,并提取所需的关键信息。举个例子,用户可能会说"我想去巴黎玩5天,对艺术感兴趣,希望去参观一些知名博物馆和美术馆"。TRIP-PAL通过一系列提示,引导GPT-4从中提取出关键信息:

  • 旅游目的地城市 C C C,如巴黎
  • 感兴趣的景点(POI)类型,如博物馆、美术馆
  • 希望旅行的总时长 H H H,如5天
  • 希望获得的景点数量 N N N,如10个

然后,TRIP-PAL再次提示GPT-4,让其结合已有的旅游领域知识,给出在目的地城市 C C C 中符合用户偏好的 N N N 个推荐景点,并附上每个景点的受欢迎程度打分(1-10分) u i u_i ui 作为景点效用值,以及推荐游玩时长 t i t_i ti。这就好比一个旅游达人在了解你的喜好后,迅速给出他的推荐清单。

最后,TRIP-PAL从其他数据源如谷歌地图API获取这 N N N 个景点间的通勤时间估计 c i j c_{ij} cij

至此,我们提取并准备好了构建旅行规划问题所需的所有信息,包括:

  • 候选景点集合 P = { p 1 , … , p N } P=\{p_1,\dots,p_N\} P={p1,,pN}
  • 每个景点的效用值 u i u_i ui 和推荐游玩时长 t i t_i ti
  • 景点间的通勤时间 c i j c_{ij} cij

2.2 构建自动规划问题

有了上一步提取的信息,TRIP-PAL将其转化为一个形式化的自动规划问题。规划问题定义了规划领域(动作的前置条件和效果等)和规划实例(初始状态、目标状态等),通常采用PDDL语言描述。

在我们的旅行规划问题中,规划领域包含以下动作:

  • Visit(?loc, ?t0, ?visit-time, ?tf): 在位置?loc参观?visit-time时长,从时间?t0到?tf
  • Move(?from, ?to, ?t0, ?move-time, ?tf): 从位置?from移动到?to,从?t0开始,历时?move-time

这些动作的前置条件确保游客在对的时间在对的地点,而效果则改变了当前时间和位置。

规划实例的初始状态为旅行开始的时间(如8:00)和地点,以及景点信息(如效用值 u i u_i ui、游览时间 t i t_i ti、通勤时间 c i j c_{ij} cij 等)。目标状态要求达到旅行结束时间(如18:00)。

在目标规划问题中,TRIP-PAL还需考虑oversubscription(过度需求)的情况,即不可能访问所有景点。直觉上,如果我们让GPT给出50个甚至更多巴黎的旅游景点,一天是不可能全部游览的。因此并非所有访问景点的目标都必须满足。本文按照Keyder等人提出的编译方法,引入人工动作避免未访问景点的惩罚,并优化目标函数。

最终,TRIP-PAL得到了一个完整的PDDL表示的过度需求自动规划问题,要求在时间约束下选择一组景点,使得访问景点的效用总和最大。

2.3 求解规划问题生成旅行计划

为了高效求解上一步构建的规划问题,TRIP-PAL采用Unified Planning框架中提供的Fast Downward规划器和LMCUT启发式函数。该方法可以找到一个最优的满足时间约束的可行计划。

最终得到的旅行计划会明确告知游客:

  • 在给定的时间限制(如5天)内
  • 每天从几点到几点
  • 去哪些景点参观(选自候选集合 P P P
  • 每个景点参观多长时间
  • 景点之间如何通勤

使得在满足时间约束的情况下,访问的景点效用总和最大。

具体来说,还是以去巴黎旅行5天为例。TRIP-PAL最终可能给出如下计划:

第一天(总时长8小时):

  • 8:00-10:00 参观卢浮宫博物馆(2小时)
  • 10:00-10:30 从卢浮宫步行至奥赛博物馆(0.5小时)
  • 10:30-12:00 参观奥赛博物馆(1.5小时)
  • 12:00-14:00 午餐休息(2小时)
  • 14:00-14:30 从奥赛博物馆乘车至凯旋门(0.5小时)
  • 14:30-15:30 参观凯旋门(1小时)
  • 15:30-16:00 从凯旋门乘车至埃菲尔铁塔(0.5小时)
  • 16:00-18:00 参观埃菲尔铁塔(2小时)

第二天(总时长7.5小时):

以此类推,直到满足5天的旅行时间。该计划保证满足所有时间约束,并在可选景点中根据效用最大化原则做出选择。

与直接让LLM生成计划不同,TRIP-PAL利用LLM提取用户偏好和推荐候选景点,再将其编码进规划器求解,保证了计划的可行性、最优性和可解释性,帮助用户做出明智的旅行决策。

3 实验

3.1 实验场景介绍

本文提出了一种结合大语言模型(LLM)和自动规划器的混合方法TRIP-PAL用于旅行规划。实验主要对比了GPT-4和TRIP-PAL在不同规模的一日游规划任务上生成的旅行规划的质量。

3.2 实验设置

  • Datasets:从GPT-4生成的热门和冷门旅游城市中随机抽取20个,每个城市随机生成5组兴趣点集合,共100个规划任务
  • Baseline:GPT-4
  • Implementation details:
    • TRIP-PAL以Fast Downward作为自动规划器,使用SEQ-OPT-LMCUT配置,运行在4GB RAM的EC2 T3实例上
    • 单日旅游时长为8小时,时间离散化为15分钟的时隙
  • metric:
    • 规划可行性:检查GPT-4生成的规划是否满足动作可执行性和时间约束
    • 规划效用:旅行规划访问的兴趣点的效用之和
    • 运行时间:生成一个旅行规划所需的时间(秒)

3.3 实验结果

3.3.1 实验一、标准的一日游规划

目的:对比GPT-4和TRIP-PAL在100个标准一日游规划任务(8小时旅游,10个候选兴趣点)上生成的规划的质量
涉及图表:图3a、图3b、图4
实验细节概述:对比了两种方法在100个任务上生成规划的效用,以及有效规划的比例。另外统计了访问兴趣点的数量分布以及最大、最小和平均效用。
结果:

  • TRIP-PAL在所有任务上生成的规划效用都高于GPT-4。GPT-4只有14%的规划满足所有约束,主要违反访问时长、旅行时长等硬约束。即使去掉约束检查,TRIP-PAL仍在79%的任务上超过GPT-4。
  • TRIP-PAL平均访问5.5个兴趣点,GPT-4仅4.2个。GPT-4倾向选择访问效用最高的3-5个点,导致平均效用略高,但TRIP-PAL能在满足约束下多覆盖一些次高效用的点,从而使整体旅行效用最大化。

3.3.2 实验二、扩展性分析

目的:考察GPT-4和TRIP-PAL生成规划的性能随问题规模(兴趣点数量、旅游时长)的变化趋势
涉及图表:图5
实验细节概述:固定旅游时长8小时,兴趣点从8个增加到18个;或固定10个兴趣点,旅游时长从6小时增加到10小时。对比GPT-4规划的有效性和次优率,以及TRIP-PAL相比GPT-4的额外耗时。
结果:

  • 随兴趣点数量增加,GPT-4生成有效规划的比例急剧下降,次优率也逐渐升高并稳定在1.6倍左右。这表明GPT-4很难处理过量订阅(over-subscription)问题,不能很好地权衡旅行约束和整体效用最大化。
  • 相比GPT-4,TRIP-PAL在10个以内兴趣点时运行时间基本一致,超过10个后额外耗时逐渐上升,最多需要800秒。这主要是解决过量订阅问题的复杂度导致的。
  • 随旅游时长增加,GPT-4规划有效性逐渐下降,但次优率变化不明显。TRIP-PAL运行时间也基本一致。这表明该因素对两种方法的影响不如兴趣点数量大。

4 总结后记

本论文针对旅行规划问题,提出了一种结合大语言模型(LLM)和自动规划器(automated planner)的混合方法TRIP-PAL。该方法利用LLM从用户需求中提取相关的旅行信息,并将其转化为规划器可接受的形式。之后,规划器在满足各种约束条件的前提下,生成最大化用户效用的最优旅行计划。实验结果表明,与单纯使用GPT-4相比,TRIP-PAL生成的旅行计划在可执行性和用户满意度方面都有显著提升。
::: block-2
疑惑和想法:

  1. 除了旅行规划,TRIP-PAL的框架是否可以应用于其他需要满足复杂约束的领域,如会议日程安排、供应链优化等?
  2. 在提取旅行信息时,是否可以引入知识图谱等外部知识源,进一步增强LLM的理解和表达能力?
  3. 如何设计更加个性化的用户效用函数,使得生成的旅行计划更加贴合用户的偏好和需求?
    :::
    ::: block-2
    可借鉴的方法点:
  4. 利用LLM进行信息抽取和转化,再结合领域特定的优化工具进行求解的思路值得借鉴,可以扩展到更多实际应用场景。
  5. 将过约束问题转化为软目标规划问题的技巧可以应用于其他资源受限的任务,提高求解的灵活性。
  6. 通过discretization和编码技巧简化问题表示的方法可以借鉴,使得规划器能够高效地处理更复杂的实际约束。
    :::

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1831667.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Guitar Pro 8软件安装包下载

简介: Guitar Pro吉他软件为帮助所有吉他爱好者学习、绘谱、创作而设计——包含吉他的现有指法及音色, Guitar Pro能了解各类线谱,看谱练吉他,对谱听示范,记录初创声音。 在做弹拨乐器的滑音、倚音、推弦、揉弦、泛…

准备好迎接3D世界的AI革新了吗:Direct3D,让3D创作触手可及

DreamTech 推出原生 3D-DiT 大模型 Direct3D 前言 3D-DiT大模型Direct3D 就目前的AI市场而言,将文本和图像转化为高质量的3D资产一直很难实现,主要目前缺乏一种能够捕捉复杂几何结构而且还能够扩展的3D的方法。但 DreamTech 发布了一种名为Direct3D的新型…

麻了,5年Java竟然不知道幂等......

在分布式系统中,接口幂等性是确保操作一致性的关键特性。 啥是幂等性 幂等性 指的是在给定的条件下,无论操作执行多少次,其结果都保持不变。在接口设计中,幂等性意味着使用相同的参数多次调用接口,应产生与单次调用相…

reverse-android-淘最热点so

资源 1. com.maihan.tredian 2021版 淘最热点 2. 该 app 没有加壳 ,也没混淆。 登录抓包 POST: https://api.taozuiredian.com/api/v1/auth/login/sms POST /api/v1/auth/login/sms HTTP/1.1 Content-Type: application/json Connection: close Charset: UTF-8 User-Agen…

充电学习—5、healthed 电池服务

1、healthed服务监听接收内核kernel的电池事件,然后上传数据给framware层的batterysevice,BatteryService计算电池的电量,显示,绘制动画等 android电池系统框架: 2、healthd服务入口:android/system/cor…

普通人如何入门AI人工智能?最短学习路线分享

学AI能干什么? 首先说一下我个人的观点,我认为未来一定会有很多很多人工的重复工作会被AI替代,并且这个趋势无法逆转,不管是你想象得到的行业还是想象不到的行业,从实体到互联网,从工业到家用,…

【Linux】进程_7

文章目录 五、进程8. 进程地址空间9. 进程终止10. 进程等待 未完待续 五、进程 8. 进程地址空间 我们上节知道了进程地址空间是根据页表来使虚拟地址转换成内存中的物理地址,那这种 地址空间 页表 的机制有什么好处呢?①这种机制可以将物理内存从无序…

基于TCAD与紧凑模型结合方法探究陷阱对AlGaN/GaN HEMTs功率附加效率及线性度的影响

来源:Investigation of Traps Impact on PAE and Linearity of AlGaN/GaN HEMTs Relying on a Combined TCAD–Compact Model Approach(TED 24年) 摘要 本文提出了一种新型建模方法,用于分析GaN HEMTs的微波功率性能。通过结合工…

劝你现在别秦L,不然得后悔死

文 | AUTO芯球 作者 | 雷慢 这真得听劝, 现在别急着买车,不然过不了两个月你得后悔死, 你现在看到秦L将B级车价格打下来了,就急着买车, 几个月后比亚迪还有更大的王炸,价格战还得更残酷! …

Thinkphp起名网宝宝起名网站源码

Thinkphp起名网宝宝起名网站源码 源码介绍 1.宝宝在线起名 2.八字起名,周易取名 3.一对一起名 5.支持手机wap 链接数据库地址:Application\Common\Conf 修改里面config.php数据库连接,导入sm.sql数据库文件即可 伪静态用thinkphp 后台…

销售如何提高回复客户消息的速度?

在如今竞争激烈的商业环境中,能够快速回复客户消息是维护客户关系和提升用户体验的重要一环。尤其是对于很多企业或是销售客服人员来说,及时回复客户的咨询和反馈,能够有效增强客户的粘性和满意度。 那么怎样才能快速回复客户消息呢&#xf…

剧本杀小程序开发,线上剧本杀游戏新体验

近几年,剧本杀行业快速崛起,吸引了广大年轻人的眼光,成为年轻人社交娱乐的新选择。剧本杀在线上也崭露头角,获得大众的关注,性价比高的优势成为了大众玩剧本杀的首要方式。 随着互联网的快速发展,年轻人都…

时间复杂度 空间复杂度分析

时间复杂度就是需要执行多少次&#xff0c;空间复杂度就是对象被创建了多少次。 O(1) < O(logn) < O(n) < O(nlogn) < O(n^2) < O(2^n) < O(n!) < O(n^n) 这里写目录标题 时间复杂度O(1)O(logn)、O(nlogn)O(mn)、O(m*n)最好、最坏情况时间复杂度平均情况…

利用反向代理编写HTTP抓包工具——可视化界面

手写HTTP抓包工具——可视化界面 项目描述语言golang可视化fynev2功能代理抓包、重发、记录 目录 1. 示例1.1 主界面1.2 开启反向代理1.3 抓包1.4 历史记录1.5 重发 2. 核心代码2.1 GUI2.1 抓包 3. 结语3.1 传送门 1. 示例 1.1 主界面 1.2 开启反向代理 1.3 抓包 1.4 历史记录…

AI写真:Stable Diffusion 之 IPAdapter-FaceId

自Stable Diffusion发布以来&#xff0c;AI写真一直是AIGC界的热门话题。 AI写真为摄影师和艺术家提供了全新的创作工具。通过AI技术&#xff0c;艺术家可以轻松实现复杂的图像效果&#xff0c;如风格迁移、图像合成等&#xff0c;AI写真能够在短时间内完成传统摄影师和设计师…

基于single flight来解决缓存击穿

目录 1. 缓存击穿2. 常见解决方案3.single flight方式3.1 模拟业务场景3.2 使用single flight的方式 缓存雪崩、缓存击穿、缓存穿透不单单是缓存领域的经典场景&#xff0c;更是面试当牛马时必备&#xff08;背&#xff09;八股文。 我们来讨论下缓存击穿场景下的解决方案。 …

2024年设计、数字化技术与新闻传播国际学术会议(ICDDTJ 2024)

2024年设计、数字化技术与新闻传播国际学术会议(ICDDTJ 2024) 2024 International Conference on Design, Digital Technology and Journalism 会议地点&#xff1a;哈尔滨&#xff0c;中国 网址&#xff1a;www.icddtj.com 邮箱: icddtjsub-conf.com 投稿主题请注明:ICDD…

Vue46-render函数

一、非单文件和单文件的main.js对比 1-1、非单文件的main.js 1-2、 单文件的main.js 将单文件的main.js中的render函数变成非单文件的main.js中的template形式&#xff0c;报如下错误&#xff1a; 解决方式&#xff1a; 二、解决方式 2-1、引入完成版的vue.js 精简版的vue&a…

Elixir学习笔记——Erlang 库

Elixir 提供了与 Erlang 库的出色互操作性。事实上&#xff0c;Elixir 不鼓励简单地包装 Erlang 库&#xff0c;而是直接与 Erlang 代码交互。在本节中&#xff0c;我们将介绍一些 Elixir 中没有的最常见和最有用的 Erlang 功能。 Erlang 模块的命名约定与 Elixir 不同&#x…

Windows电脑部署Jellyfin服务端并进行远程访问配置详细教程

文章目录 前言1. Jellyfin服务网站搭建1.1 Jellyfin下载和安装1.2 Jellyfin网页测试 2.本地网页发布2.1 cpolar的安装和注册2.2 Cpolar云端设置2.3 Cpolar本地设置 3.公网访问测试4. 结语 前言 本文主要分享如何使用Windows电脑本地部署Jellyfin影音服务并结合cpolar内网穿透工…