1. 引言

大型语言模型(LLMs)，如ChatGPT [1]和GPT-4 [2]，在自然语言处理(NLP)领域开启了一个新时代。这些模型通过在大量文本语料库上预训练，随后进行微调以确保遵循人类指令，显著提升了在语言理解、生成、交互和推理方面的性能[3] [4]。这些模型的高性能已被广泛记录[5] [6]。LLMs能够处理各种NLP任务，通过适当的提示(prompt)和微调，这些模型能够根据指令执行新任务，这被视为人工通用智能发展的重要一步[7]。然而，尽管在某些情况下取得了合理的性能，LLMs在零样本学习中仍然容易出错，且提示的格式对性能有重大影响。例如，添加“让我们一步一步地思考”这样的提示可以显著提高ChatGPT的性能[8]。这表明，提示的结构及内容，对LLMs性能的重要性。

多方对话阅读理解(MPC) [9]是自然语言处理领域中一个极具挑战性的研究方向。它模拟了真实世界中人类之间的互动交流，要求模型能够理解并处理多个参与者之间的复杂对话内容。近年来，已有大量研究致力于探索LLMs在各种NLP任务中的表现[10]。然而，尽管取得了显著进展，LLMs在处理MPC方面的潜力仍未得到充分挖掘。为了填补这一研究空白，本研究在两个不同的MPC数据集上实施了四个任务(包括情感检测、说话人识别、响应选择和响应生成)，以系统地评估LLMs (如ChatGPT和GPT-4)在处理MPC方面的表现。实验结果表明，在EmoryNLP和MELD数据集上，ChatGPT和GPT-4均能取得与监督学习方法相当的性能。在加入说话者架构后[11]，获得了一定性能的提升。然而，现有方法在处理复杂的多方对话场景时仍存在一些局限性。首先，这些方法往往依赖于静态的对话结构，难以适应动态变化的对话环境，导致在处理多变的对话参与者和意图时表现不佳。

针对多方对话中存在的缺陷，ChatGPT的Agent功能提供了一种灵活的解决方案。Agent功能是一种基于人工智能的智能代理模块，能够通过动态交互实时适应对话中的变化，从而增强对多方参与者意图的理解和响应生成的准确性。此外，Agent功能能够更好地捕捉上下文中的复杂语义关系，生成更为连贯和自然的对话内容。在本研究中，我们将ChatGPT的Agent功能集成到我们的MPC结构合并策略中。通过利用Agent的动态交互能力，模型能够更精准地捕捉多方参与者的意图，并生成更符合对话情境的响应。实验结果表明，使用Agent功能后，模型在EmoryNLP和MELD数据集上的性能显著提升，验证了Agent功能在提升LLMs处理MPC任务中的有效性。

总之，我们在本文中的贡献是三方面的：1) 进行了一项探索性研究，以检查ChatGPT和GPT-4在零样本学习情况下结合agent处理MPC的性能。这是同类研究中第一次研究这些LLMs结合agent后在MPC场景中的表现。2) 提出了一种MPC-agent方法，该方法增强了ChatGPT和GPT-4管理MPC的性能。该策略将MPC的说话者和Agent结构整合到LLMs中，从而大大提高了性能。3) 我们深入研究了LLMs在处理MPC方面的潜力，并阐明了未来研究中需要解决的挑战。这些讨论为进一步提高LLMs在MPC场景中的有效性奠定了基础。

2. 相关工作

2.1. 大语言模型

统近年来，LLMs的开发取得了显著进展，GPT-3 [3]、Palm [12]、LLaMA [13]、ChatGPT [1]和GPT-4 [2]等模型的出现，标志着自然语言处理领域的一个重要里程碑。这些模型不仅在语言生成和理解方面表现出色，还展示了新兴的能力，包括情境学习、数学推理和常识推理[14]。

最近的研究工作侧重于指令学习，主要通过以下两种方式提升LLMs的性能：一是生成高质量的指令数据[15] [16]，二是通过指令增强LLMs [17] [18]。这些方法不仅提高了模型对复杂指令的遵循能力，还推动了LLMs在多种自然语言处理任务中的应用。

2.2. 多方对话阅读理解

处理多方对话阅读理解具有挑战性，因为对话中的每个话语都具有说话者角色的额外属性，说话者角色转换引起的复杂话语依赖关系打破了普通非对话文本的连续性。构建MPC系统的现有方法通常可以分为基于检索的方法和基于生成的方法。基于检索的方法主要集中在如何从大量候选回复中选择最合适的回答，而基于生成的方法则侧重于直接生成自然语言回复。这些方法在处理多方对话时面临诸多挑战，例如说话人角色的转换、话语之间的复杂依赖关系以及对话的动态性。

2.3. 处理NLP任务的大语言模型

LLMs在NLP任务中的应用取得了显著进展，展示了其在多种任务中的强大能力。这些任务包括零样本学习、语言生成、信息检索、多方对话以及多模态对话等。例如，研究[5]对ChatGPT的零样本学习能力进行了评估，涉及推理、自然语言推理和摘要等7个代表性任务类别，揭示了模型在无监督场景下的强大泛化能力。研究[6] [19]探索了ChatGPT作为自然语言生成评估器的潜力，而研究[10]则针对信息检索中的相关性排序问题提出了基于LLMs的优化方案。

值得注意的是，尽管LLMs在多领域应用中表现突出，其局限性也逐渐显现。研究[20]通过系统性实验揭示了ChatGPT在问答任务中生成真实答案的不足，并据此提出提升输出真实性的方法论。

2.4. 大语言模型中的Agent功能

LLMs中的Agent功能作为一种新兴的交互式智能体，逐渐成为NLP领域的重要研究方向。Agent功能的核心在于其能够通过动态交互实时适应对话环境，精准理解用户意图并生成高质量响应。其关键组成部分[21]包括档案(Profile)、记忆(Memory)、规划(Planning)和行动(Action)，这些部分协同工作，使Agent能够完成复杂任务。

Agent功能通常被设计为一个智能体，能够自主地与用户进行交互，并根据对话的上下文和历史信息做出决策。其主要特点包括动态交互能力、上下文理解和意图识别。Agent能够实时响应用户的输入，并根据对话的动态变化调整其行为，这种能力使其在处理复杂的多轮对话时表现出色。此外，Agent通过记忆功能整合历史需求与新问题，补充上下文信息后调用大模型，从而生成连贯、准确的回复。

3. 方法论

针对每一项任务，首先向大型语言模型(LLM)呈现一系列按时间顺序组织的多方会话内容。这些会话内容模拟了实际应用场景中多方交互的场景，为模型提供了丰富的上下文信息。随后，指示LLM基于特定于任务的提示来完成相应任务。这些任务提示是经过精心设计的，旨在引导模型准确地输出符合任务要求的结果。在此过程中，为确保输出结果的稳定性，将温度参数(temperature)设置为0。在语言模型中，温度参数是一个控制输出随机性的超参数。当温度值为0，时模型会输出最确定性的结果，即概率最高的答案，从而最大限度地减少不必要的词汇，避免对结果造成混淆。这种设置有助于提高模型输出的准确性和一致性。此外，为了提供更全面的解释，部分任务需要进行扩展说明，如图1中所示。这些扩展说明旨在对任务的背景、目标和具体要求进行更详细的阐述，以便更好地指导模型完成任务。

Figure 1. Task completion prompt template

图1. 完成任务的提示模板

3.1. 特定任务的提示词

针对每个任务设计了不同的说明，以指导LLM完成任务。

情感检测(ED)：LLM的任务是预测每个话语的情感，任务指令是“请使用以下n个标签评估对话中每个话语的情感：{...}”。以及输出模板“输出格式必须是：#{num} - {outdutation} // {emotion}”这里，n是情感标签的数量，并且{...}是情感标签的列表。对话历史被形式化为“#{num} - {utteration}"。

说话人识别(SI)：LLM的任务是预测最后话语的说话人，任务指令“请指出最后一句话的说话者。”和输出模板“输出格式应该只有一个说话者。”。与说话者的对话历史被形式化为“#{num} - {speaker}：{utterance}”。

响应选择(RS)：LLM的任务是从候选人中选择最合适的响应，任务指令为“你的任务是从候选人集合中选择最合适的响应”。和输出模板“输出格式必须是：#{num} - {utterance}”。候选集被形式化为“#{num} - {utterance}”。因此，具有输入模板的历史被形式化为“Dialogue History: {conversation turns} Candidates: {candidates}”。如图2所示。

Figure 2. Prompt and output for speaker-structured response selection task

图2. 采用说话人结构的响应选择任务的提示和输出

响应生成(RG)LLM的任务是生成响应，任务指令为“您的任务是生成最合适的响应”。不需要提供输出模板，因为生成任务是自由格式的。

其中说话者架构[11]被并入LLM以帮助理解话语。具体地，用“{speaker}：{utterance}”替换具有“{utterance}”的提示，以向LLM通知每个话语的说话者。

3.2. Agent结构并入

每个任务都有一个对应可调用的功能函数，组成功能列表。Chatgpt-4会根据提示词自动识别是哪个任务并且调用功能列表的相应函数去协助完成任务，四个功能函数设计具体如下。

情感检测(ED)：我们采用了经过微调的DistilBERT模型(distilbert-base-uncased-finetuned-sst-2-english)。该模型在大规模的情感分类数据集上进行了训练和微调，能够以高准确度识别出文本中的情感倾向(如积极、消极等)。将情感分析的结果作为额外的上下文信息，集成到提示词中获得最终输出结果，如图3所示。

Figure 3. Prompt and output for agent-structured emotion detection task

图3. 采用agent结构的情感检测任务的提示和输出

说话人识别(SI)：我们使用了说话人频率计数的方法。这一设计带来的优势在于，它不仅提高了系统对于说话人身份的识别能力，还能为后续的对话管理提供重要的信息，使得系统能够更好地进行个性化对话。

响应选择(RS)：我们构造了响应选择功能功能。它通过计算对话历史与候选响应之间的相似度来选择最合适的响应。这个功能利用先进的算法来评估候选响应与当前对话上下文的匹配程度，从而选择出最最恰当的回应。

响应生成(RG)：我们构建了响应生成功能。它专注于从对话历史中提取关键信息，如主要人物、场景和主题。这个功能通过深入分析对话内容，理解对话的深层含义和上下文，生成与对话内容紧密相关的回复。

4. 实验

4.1. 数据集

EmoryNLP [22]数据集是一个基于经典美剧《老友记》构建的情感标注数据集，涵盖了97集、897个场景和12,606条话语。该数据集的情感标注体系借鉴了Willcox [23]的感觉轮理论，用了七种情绪标签：悲伤(sad)、愤怒(mad)、害怕(scared)、强大(powerful)、平静(peaceful)、快乐(joyful)和中性(neutral)。这种情感分类体系能够较为全面地覆盖人类情感的多样性，为情感分析提供了丰富的语义信息。

MELD [24]数据集每条话语都被标注为七种情绪之一：愤怒(Anger)、厌恶(Disgust)、悲伤(Sadness)、喜悦(Joy)、中立(Neutral)、惊讶(Surprise)和恐惧(Fear)。这种全面的标注方式有助于深入的情感分析。表1列出了我们实验中评估的两个数据集的统计数据。

Table 1. The statistics of the dataset evaluated in this paper

表1. 本文评估的数据集的统计

4.2. 基线模型的选择

(1) BERT [25]是一个双向语言表示模型，可以针对各种NLP任务进行微调。(2) GPT-2 [26]是一个单向的预训练语言模型。(3) BART [27]是一个去噪自动编码器，使用标准的基于transformer的架构，通过使用任意噪声函数破坏文本并学习重建原始文本来训练。(4) SPCL-CL-ERC [28]为会话中的情感识别任务引入了一种新的监督原型对比学习损失函数，通过对比学习的媒介解决了不平衡分类产生的问题，避免了大批量的必要性。它是ED任务上EmoryNLP和MELD数据集的SOTA。(5) ChatGPT [1]，通过加入监督微调和来自人类反馈的强化学习方法确保模型和人类指令之间的无缝同步。(6) GPT-4 [2]是一个大规模的多模式模型，可以接受图像和文本输入并生成文本输出，在各种专业和学术基准上表现出人类水平的性能。

4.3. 实现细节

所有监督模型都使用AdamW [29]方法进行训练。学习率初始化为6.25e−5，并线性衰减到0。批量大小设定为128。模型在10个周期内训练。对于ChatGPT和GPT-4，我们分别使用OpenAI提供的API端点gpt-3.5 turbo-0301和gpt-4-0314。

4.4. 评价指标

为了评估ED任务，我们采用了加权F1评分，它是精确度和召回率的调和均值。为了评估SI任务，我们采用了准确性ACC。为了评价RS任务，我们采用了R10@1，即从10个候选者中选出的第一个正确答案的百分比。为了评估RG任务，我们采用了标准的基于字符串相似性的度量标准SacreBLEU、ROUGE和METEOR。对于所有指标，值越高越好。

4.5. MPC理解评价结果

如表2所示，EmoryNLP和MELD对ED任务的SOTA来自研究[28]。表格中列出了监督模型(Supervised)和LLMs在多个任务上的性能，包括ED、SI和RS。这些任务分别评估了模型在情感检测、说话人识别和回应选择上的能力。在SI任务中，必须注意，在不提供明确的说话人信息的情况下，说话人信息检测是无法实现的。因此，我们在SI任务中对ChatGPT和GPT-4的评估仅限于提供说话者信息的情况。

在EmoryNLP数据集上，GPT-4在ED任务中的F1得分为39.38，高于BERT的34.76和ChatGPT的37.16；而在结合Agent结构后，其性能进一步提升至43.87，显示了Agent结构在捕捉对话动态的重要作用。在SI任务中，GPT-4结合说话人结构和Agent结构后的准确率达到69.27，远超BERT的47.82和ChatGPT的51.42。在RS任务中得分同样优异。

在MELD数据集上，GPT-4的表现同样突出。w/. Speaker & Agent的结果在三个任务中均为SOTA。在任务RS中，GPT-4添加Agent结构，其性能进一步提升至62.33，同比增长了10.19%，进一步验证了代理结构的有效性。

Table 2. Evaluation results of the MPC comprehension task. Bold numbers indicate the best performance. Empty cells indicate that the values are not computable. The SOTA for the ED task is SPCL-CL-ERC

表2. MPC理解任务的评价结果。粗体数字表示结果达到最佳性能。空单元表示它们的不可计算性。ED任务的SOTA是SPCL-CL-ERC

4.6. MPC生成的评价结果

如表3所示，对于监督模型，如GPT-2和BART，它们在测试集上的表现通常优于基础LLMs，这可能归因于它们在训练过程中对特定任务的优化。在指标上均取得了较高的分数，显示出其在生成与参考文本相似度较高的文本方面的优势。

当GPT-4模型结合了不同的信息结构，如Speaker (发言者)、Agent (代理)以及两者结合时，其在不同测试集和评估指标上的表现呈现出明显的差异。具体来说，GPT-4 w/ Speaker在MELD测试集上的S-BLEU分数提升至0.9666，ROUGE_L分数为8.89，METEOR分数为13.06，这表明加入发言者信息对于提高模型在该测试集上的性能是有益的。当进一步结合Agent信息，即GPT-4 w/ Agent时，模型在MELD测试集上的S-BLEU分数进一步提高到1.1021，ROUGE_L分数为9.97，METEOR分数为14.24，显示出代理信息的加入对于提升模型性能同样重要，尤其是在METEOR指标上。

最引人注目的是，当GPT-4同时结合了Speaker和Agent信息，即GPT-4 w/ Speaker & Agent时，其在两个测试集上的表现均达到了最佳，S-BLEU分数为1.2679，ROUGE_L分数为11.18，METEOR分数高达14.67。这一结果验证了对话者和接收者信息整合对于提高模型性能的重要性，并且能够显著提升模型在多个评估指标上的表现。这些发现表明，通过整合更多的上下文信息，可以有效地增强模型在自然语言处理任务中的表现，尤其是在生成对话响应方面。

Table 3. Evaluation results of the MPC generation task. Bold numbers indicate the results achieved the best performance. S-BLEU stands for SacreBLEU. Empty cells indicate that the values are not computable

表3. MPC生成任务的评估结果。粗体数字表示结果达到了最佳性能。S-BLEU是SacreBLEU的缩写。空的单元格表示它们的不可计算性

5. 总结

本文深入探讨了大型语言模型(LLMs)在生成多轮对话(MPCs)方面的能力，这是一个尚未被充分研究的领域。通过对ChatGPT和GPT-4在EmoryNLP和MELD两个流行MPC数据集上的评估，我们发现这些模型展现出了与监督训练模型相媲美的性能。特别是在整合了发言者和代理信息后，GPT-4在多个任务中表现出显著的性能提升，这表明对话者和接收者信息的整合对于提高模型性能至关重要。

提示设计在塑造大型语言模型(LLMs)如ChatGPT和GPT-4在多轮对话(MPC)任务中的表现方面扮演着关键角色，其重要性不言而喻。精心构造的提示不仅能够显著影响模型的输出质量，还能充分挖掘模型在处理复杂对话时的潜力。特别是当涉及到整合Agent信息时，提示的结构化方式对于提升模型的性能和有效性尤为关键。

目前的提示架构可能尚未充分发挥LLMs在MPC任务中的理想能力，尤其是在利用Agent信息方面。Agent信息的整合对于模拟真实对话场景中的交互动态至关重要，它能够帮助模型更好地理解对话的上下文和目的。因此，对提示设计进行进一步的优化和改进，不仅有可能释放LLMs更高的性能，还能充分释放ChatGPT和GPT-4在处理MPC任务方面的全部潜力。

探索和增强提示架构，以确保在MPC任务领域中最大限度地利用这些强大语言模型的功能，是未来研究的一个重要方向。通过精心设计提示，我们可以更好地引导模型利用Agent信息，从而在多轮对话生成任务中实现更自然、更准确、更高效的对话交互。这不仅能够提升用户体验，还能推动LLMs在更广泛的应用场景中发挥更大的作用。

参考文献