赞
踩
本文是LLM系列文章,针对《UNDERSTANDING YOUR AGENT: LEVERAGING LARGE LANGUAGE MODELS FOR BEHAVIOR EXPLANATION》的翻译。
机器人等智能代理越来越多地部署在现实世界中对安全至关重要的环境中。至关重要的是,这些代理能够向人类同行解释其决策背后的原因;然而,它们的行为往往是由深度神经网络等无法解释的模型产生的。我们提出了一种仅基于对状态和动作的观察来生成对代理行为的自然语言解释的方法,从而使我们的方法独立于底层模型的表示。对于这样的模型,我们首先学习行为表示,然后使用它以最小的幻觉产生合理的解释,同时提供用户与预先训练的大型语言模型的交互。我们在多智能体搜索环境中评估了我们的方法,并证明了我们对执行各种行为的智能体的解释的有效性。通过用户研究和实证实验,我们表明,我们的方法产生的解释与人类领域专家产生的解释一样有用,同时实现了有益的互动,如澄
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。