人工智能的出现,让旅行规划变得更加便捷。只需输入目的地和旅行偏好,AI便能快速生成行程、筛选景点,甚至帮助用户做出旅行决策。然而,一项针对421名旅行者开展的最新调查却发现了一个颇为意外的现象:越是重视人工智能数据来源、运行机制和设计过程透明度的人,反而越不愿意将旅行规划的决定权交给AI。
这一结果与研究人员最初的预期截然相反。按照以往人工智能领域的研究结论,提高系统透明度通常有助于建立用户信任,因此研究团队原本认为,越了解AI如何运作的旅行者,越愿意接受它的建议,甚至让它代替自己做决定。但调查结果显示,真正与用户委派决策意愿密切相关的,并不是透明度,而是可靠性和问责制。换句话说,旅行者更在意AI能否提供准确、稳定的建议,以及一旦行程出现问题,是否有人能够承担相应责任。
这项研究发表于《旅游管理视角》(Tourism Management Perspectives),主要探讨旅游企业在引入AI旅行规划服务后,消费者是否愿意将部分甚至全部出行决策交给人工智能。近年来,AI在旅游行业的应用不断扩大。例如,猫途鹰已经推出自动化行程规划服务,Expedia则借助人工智能语言处理技术,支持了超过3000万次虚拟客服对话。与此同时,相关市场也呈现出快速增长的趋势。有预测认为,全球生成式人工智能旅游市场规模将从2024年的约8.94亿美元增长至2034年的约50亿美元。
与以往侧重研究AI是否实用、能否提高规划效率不同,这项研究将关注点放在了一个更深层次的问题上:当人工智能不再只是提供参考信息,而是开始参与甚至主导旅行决策时,消费者究竟愿意放手到什么程度?对于希望借助AI改善服务体验的旅游企业而言,这已经成为一个不容忽视的商业问题。
研究团队来自澳大利亚伊迪丝科文大学及另外两所高校。他们通过一家澳大利亚在线调查平台招募了421名旅行者,并让所有参与者在调查前尝试使用生成式人工智能进行旅行决策。调查过程中还设置了注意力检测题,以确保参与者认真阅读并回答问题。研究选择澳大利亚作为调查地点,主要是因为该国在全球生成式人工智能应用方面处于较为领先的位置。
调查采用七分制,要求参与者评价自己对人工智能五项特征的认同程度,分别是可靠性、公平性、可信度、问责制和透明度。其中,可靠性主要考察AI能否持续提供准确、一致的建议;公平性关注系统是否能够公正地处理信息;可信度则涉及用户是否相信AI诚实可靠,并会考虑自身利益;问责制强调当AI的建议导致问题时,是否存在明确的责任承担机制;透明度则关注开发者是否公开系统所使用的数据及其来源、数据更新时间、测试方式,以及系统由谁设计等信息。
为了进一步了解用户愿意让AI参与多少旅行决策,研究人员设置了三个不同程度的委派场景。
第一种是较轻程度的参与,即由AI帮助用户判断旅行规划中哪些因素更值得重视;第二种是中等程度的参与,即AI从大量选项中筛选出少数合适方案,再由用户自行选择;第三种则是最高程度的委派,AI直接做出最终决定,用户接受其评分和安排,不再亲自掌握最终决策权。
研究结果显示,随着AI参与决策的程度不断加深,可靠性的重要性也随之提高。在AI仅仅帮助用户确定旅行规划重点时,可靠性已经发挥作用;而当最终决定权完全交给AI时,可靠性与用户委派意愿之间的联系达到最强。问责制则在三个不同层级中始终保持稳定的关联,说明无论AI只是提供辅助,还是直接决定整个行程,用户都希望明确知道出现问题后应该由谁负责。
相比之下,可信度只在最轻程度的决策委派中表现出一定作用。当AI仅仅帮助用户判断哪些旅行因素更重要时,用户是否相信它会维护自身利益,确实会影响接受程度。但随着AI逐渐掌握更多决策权,这一因素的影响并未持续增强。公平性则在三个层级中都没有表现出明显的统计关联。研究人员推测,这可能是因为算法偏见等问题对普通用户而言相对隐蔽,旅行者很难直接感知AI是否真正做到了公平。
值得注意的是,透明度呈现出了与研究人员预期相反的结果。在三个不同程度的决策委派场景中,越重视AI公开数据来源、设计过程和测试信息的旅行者,越不愿意将旅行决策交给人工智能。虽然这种负向关联并不算强,但它在不同场景中都持续出现,说明透明度并不一定能够直接转化为用户的信任和依赖。
对于这一现象,研究人员提出了一种可能的解释,即“认知过载”。旅行者之所以希望借助AI规划行程,一个重要原因就是不想花费大量时间和精力处理复杂的信息。如果AI不仅给出推荐,还要求用户进一步了解其数据来源、运行逻辑和推理过程,那么原本希望通过委派决策节省的精力,反而可能重新回到用户身上。对于部分旅行者来说,了解得越多,需要考虑的问题也就越多,最终可能降低他们将决策交给AI的意愿。
当然,这只是研究人员提出的一种解释,并不能据此认定透明度必然导致用户抵触AI。因为这项调查记录的是参与者在某一时间点的态度,并没有通过实验让同一批旅行者接触不同透明度的AI系统,因此研究只能说明两者存在关联,不能证明透明度是造成决策意愿下降的直接原因。另一种可能是,那些特别关注AI运作机制和数据来源的人,本身就更加谨慎,也更倾向于保留自己的决策权。
研究团队还通过第二轮分析,考察了不同特征组合对旅行者决策意愿的影响,而不是单独分析每项因素。其中,唯一能够预测用户愿意将最终决定权交给AI的特征组合,是较高的可靠性、公平性和可信度,同时伴随着较低的透明度。不过,这并不意味着公平性本身具有明确的独立影响,因为在单项分析中,它并没有表现出显著关联。
此外,在与较低决策委派意愿相关的多种特征组合中,高透明度也多次出现。不过,这种情况并非绝对。部分能够预测较低程度决策委派意愿的组合,同样包含较高的透明度。这进一步说明,透明度的影响并不是简单、统一的,其作用可能受到其他因素共同影响。
基于这些发现,研究人员认为,旅游企业在开发AI旅行规划工具时,应该将更多资源投入到提升系统的准确性和稳定性,以及建立清晰的责任机制上。例如,及时更新航班、酒店、景点开放时间和当地交通等旅行信息,确保AI给出的建议具有实际参考价值。同时,企业还需要明确说明,当AI提供错误信息或规划出现问题时,用户可以通过什么渠道寻求帮助,以及由谁承担相应责任。
至于透明度,研究人员并不认为应该减少信息公开,而是建议将其设计成用户可以自主选择的功能,而不是默认向所有用户展示大量技术细节。对于希望深入了解AI工作原理的人,可以提供更完整的数据来源、测试结果和决策依据;对于只想快速获得旅行建议的人,则应优先呈现清晰、实用的规划结果,避免不必要的信息干扰。
这项研究传递出的信号值得旅游行业关注:消费者并不一定会因为了解更多AI背后的信息,就更加愿意依赖它。对于旅行规划这样的实际应用场景,人们真正关心的或许不是AI如何解释自己的每一步操作,而是它能不能把事情做好,以及出了问题之后有没有明确的解决办法。
对于那些希望通过提高透明度来赢得客户的旅游企业而言,这或许意味着需要重新审视产品开发的重点。相比不断增加技术说明和解释功能,确保信息准确、建议可靠,并建立完善的责任机制,可能才是让旅行者真正放心把行程交给AI的关键。
原文:https://studyfinds.com/reliability-travelers-ai-plan-trips/