统近年来，LLMs的开发取得了显著进展，GPT-3 [3] 、Palm [12] 、LLaMA [13] 、ChatGPT [1] 和GPT-4 [2] 等模型的出现，标志着自然语言处理领域的一个重要里程碑。这些模型不仅在语言生成和理解方面表现出色，还展示了新兴的能力，包括情境学习、数学推理和常识推理 [14] 。

最近的研究工作侧重于指令学习，主要通过以下两种方式提升LLMs的性能：一是生成高质量的指令数据 [15] [16] ，二是通过指令增强LLMs [17] [18] 。这些方法不仅提高了模型对复杂指令的遵循能力，还推动了LLMs在多种自然语言处理任务中的应用。

处理多方对话阅读理解具有挑战性，因为对话中的每个话语都具有说话者角色的额外属性，说话者角色转换引起的复杂话语依赖关系打破了普通非对话文本的连续性。构建MPC系统的现有方法通常可以分为基于检索的方法和基于生成的方法。基于检索的方法主要集中在如何从大量候选回复中选择最合适的回答，而基于生成的方法则侧重于直接生成自然语言回复。这些方法在处理多方对话时面临诸多挑战，例如说话人角色的转换、话语之间的复杂依赖关系以及对话的动态性。

LLMs在NLP任务中的应用取得了显著进展，展示了其在多种任务中的强大能力。这些任务包括零样本学习、语言生成、信息检索、多方对话以及多模态对话等。例如，研究 [5] 对ChatGPT的零样本学习能力进行了评估，涉及推理、自然语言推理和摘要等7个代表性任务类别，揭示了模型在无监督场景下的强大泛化能力。研究 [6] [19] 探索了ChatGPT作为自然语言生成评估器的潜力，而研究 [10] 则针对信息检索中的相关性排序问题提出了基于LLMs的优化方案。

值得注意的是，尽管LLMs在多领域应用中表现突出，其局限性也逐渐显现。研究 [20] 通过系统性实验揭示了ChatGPT在问答任务中生成真实答案的不足，并据此提出提升输出真实性的方法论。

LLMs中的Agent功能作为一种新兴的交互式智能体，逐渐成为NLP领域的重要研究方向。Agent功能的核心在于其能够通过动态交互实时适应对话环境，精准理解用户意图并生成高质量响应。其关键组成部分 [21] 包括档案(Profile)、记忆(Memory)、规划(Planning)和行动(Action)，这些部分协同工作，使Agent能够完成复杂任务。

Agent功能通常被设计为一个智能体，能够自主地与用户进行交互，并根据对话的上下文和历史信息做出决策。其主要特点包括动态交互能力、上下文理解和意图识别。Agent能够实时响应用户的输入，并根据对话的动态变化调整其行为，这种能力使其在处理复杂的多轮对话时表现出色。此外，Agent通过记忆功能整合历史需求与新问题，补充上下文信息后调用大模型，从而生成连贯、准确的回复。

针对每个任务设计了不同的说明，以指导LLM完成任务。

情感检测(ED)：LLM的任务是预测每个话语的情感，任务指令是“请使用以下n个标签评估对话中每个话语的情感：{...}”。以及输出模板“输出格式必须是：#{num} - {outdutation} // {emotion}”这里，n是情感标签的数量，并且{...}是情感标签的列表。对话历史被形式化为“#{num} - {utteration}"。

说话人识别(SI)：LLM的任务是预测最后话语的说话人，任务指令“请指出最后一句话的说话者。”和输出模板“输出格式应该只有一个说话者。”。与说话者的对话历史被形式化为“#{num} - {speaker}：{utterance}”。

响应选择(RS)：LLM的任务是从候选人中选择最合适的响应，任务指令为“你的任务是从候选人集合中选择最合适的响应”。和输出模板“输出格式必须是：#{num} - {utterance}”。候选集被形式化为“#{num} - {utterance}”。因此，具有输入模板的历史被形式化为“Dialogue History: {conversation turns} Candidates: {candidates}”。如 图2 所示。

响应生成(RG)LLM的任务是生成响应，任务指令为“您的任务是生成最合适的响应”。不需要提供输出模板，因为生成任务是自由格式的。

其中说话者架构 [11] 被并入LLM以帮助理解话语。具体地，用“{speaker}：{utterance}”替换具有“{utterance}”的提示，以向LLM通知每个话语的说话者。

每个任务都有一个对应可调用的功能函数，组成功能列表。Chatgpt-4会根据提示词自动识别是哪个任务并且调用功能列表的相应函数去协助完成任务，四个功能函数设计具体如下。

情感检测(ED)：我们采用了经过微调的DistilBERT模型(distilbert-base-uncased-finetuned-sst-2-english)。该模型在大规模的情感分类数据集上进行了训练和微调，能够以高准确度识别出文本中的情感倾向(如积极、消极等)。将情感分析的结果作为额外的上下文信息，集成到提示词中获得最终输出结果，如 图3 所示。

说话人识别(SI)：我们使用了说话人频率计数的方法。这一设计带来的优势在于，它不仅提高了系统对于说话人身份的识别能力，还能为后续的对话管理提供重要的信息，使得系统能够更好地进行个性化对话。

响应选择(RS)：我们构造了响应选择功能功能。它通过计算对话历史与候选响应之间的相似度来选择最合适的响应。这个功能利用先进的算法来评估候选响应与当前对话上下文的匹配程度，从而选择出最最恰当的回应。

响应生成(RG)：我们构建了响应生成功能。它专注于从对话历史中提取关键信息，如主要人物、场景和主题。这个功能通过深入分析对话内容，理解对话的深层含义和上下文，生成与对话内容紧密相关的回复。

EmoryNLP [22] 数据集是一个基于经典美剧《老友记》构建的情感标注数据集，涵盖了97集、897个场景和12,606条话语。该数据集的情感标注体系借鉴了Willcox [23] 的感觉轮理论，用了七种情绪标签：悲伤(sad)、愤怒(mad)、害怕(scared)、强大(powerful)、平静(peaceful)、快乐(joyful)和中性(neutral)。这种情感分类体系能够较为全面地覆盖人类情感的多样性，为情感分析提供了丰富的语义信息。

MELD [24] 数据集每条话语都被标注为七种情绪之一：愤怒(Anger)、厌恶(Disgust)、悲伤(Sadness)、喜悦(Joy)、中立(Neutral)、惊讶(Surprise)和恐惧(Fear)。这种全面的标注方式有助于深入的情感分析。 表1 列出了我们实验中评估的两个数据集的统计数据。

(1) BERT [25] 是一个双向语言表示模型，可以针对各种NLP任务进行微调。(2) GPT-2 [26] 是一个单向的预训练语言模型。(3) BART [27] 是一个去噪自动编码器，使用标准的基于transformer的架构，通过使用任意噪声函数破坏文本并学习重建原始文本来训练。(4) SPCL-CL-ERC [28] 为会话中的情感识别任务引入了一种新的监督原型对比学习损失函数，通过对比学习的媒介解决了不平衡分类产生的问题，避免了大批量的必要性。它是ED任务上EmoryNLP和MELD数据集的SOTA。(5) ChatGPT [1] ，通过加入监督微调和来自人类反馈的强化学习方法确保模型和人类指令之间的无缝同步。(6) GPT-4 [2] 是一个大规模的多模式模型，可以接受图像和文本输入并生成文本输出，在各种专业和学术基准上表现出人类水平的性能。

所有监督模型都使用AdamW [29] 方法进行训练。学习率初始化为6.25e−5，并线性衰减到0。批量大小设定为128。模型在10个周期内训练。对于ChatGPT和GPT-4，我们分别使用OpenAI提供的API端点gpt-3.5 turbo-0301和gpt-4-0314。

为了评估ED任务，我们采用了加权F1评分，它是精确度和召回率的调和均值。为了评估SI任务，我们采用了准确性ACC。为了评价RS任务，我们采用了R10@1，即从10个候选者中选出的第一个正确答案的百分比。为了评估RG任务，我们采用了标准的基于字符串相似性的度量标准SacreBLEU、ROUGE和METEOR。对于所有指标，值越高越好。

如 表2 所示，EmoryNLP和MELD对ED任务的SOTA来自研究 [28] 。表格中列出了监督模型(Supervised)和LLMs在多个任务上的性能，包括ED、SI和RS。这些任务分别评估了模型在情感检测、说话人识别和回应选择上的能力。在SI任务中，必须注意，在不提供明确的说话人信息的情况下，说话人信息检测是无法实现的。因此，我们在SI任务中对ChatGPT和GPT-4的评估仅限于提供说话者信息的情况。

在EmoryNLP数据集上，GPT-4在ED任务中的F1得分为39.38，高于BERT的34.76和ChatGPT的37.16；而在结合Agent结构后，其性能进一步提升至43.87，显示了Agent结构在捕捉对话动态的重要作用。在SI任务中，GPT-4结合说话人结构和Agent结构后的准确率达到69.27，远超BERT的47.82和ChatGPT的51.42。在RS任务中得分同样优异。

在MELD数据集上，GPT-4的表现同样突出。w/. Speaker & Agent的结果在三个任务中均为SOTA。在任务RS中，GPT-4添加Agent结构，其性能进一步提升至62.33，同比增长了10.19%，进一步验证了代理结构的有效性。

如 表3 所示，对于监督模型，如GPT-2和BART，它们在测试集上的表现通常优于基础LLMs，这可能归因于它们在训练过程中对特定任务的优化。在指标上均取得了较高的分数，显示出其在生成与参考文本相似度较高的文本方面的优势。

当GPT-4模型结合了不同的信息结构，如Speaker (发言者)、Agent (代理)以及两者结合时，其在不同测试集和评估指标上的表现呈现出明显的差异。具体来说，GPT-4 w/ Speaker在MELD测试集上的S-BLEU分数提升至0.9666，ROUGE_L分数为8.89，METEOR分数为13.06，这表明加入发言者信息对于提高模型在该测试集上的性能是有益的。当进一步结合Agent信息，即GPT-4 w/ Agent时，模型在MELD测试集上的S-BLEU分数进一步提高到1.1021，ROUGE_L分数为9.97，METEOR分数为14.24，显示出代理信息的加入对于提升模型性能同样重要，尤其是在METEOR指标上。

最引人注目的是，当GPT-4同时结合了Speaker和Agent信息，即GPT-4 w/ Speaker & Agent时，其在两个测试集上的表现均达到了最佳，S-BLEU分数为1.2679，ROUGE_L分数为11.18，METEOR分数高达14.67。这一结果验证了对话者和接收者信息整合对于提高模型性能的重要性，并且能够显著提升模型在多个评估指标上的表现。这些发现表明，通过整合更多的上下文信息，可以有效地增强模型在自然语言处理任务中的表现，尤其是在生成对话响应方面。