以下是为您整合的相关内容:
Transformer 模型和 BERT 模型:
提示工程:
OpenAI 官方指南:
一旦我们定义了我们的模型,我们可以传递训练数据集和验证数据集以及我们想要训练的时期数。在我们的案例中,模型训练完成后,我们评估了模型的性能。该模型达到了85%的准确率,考虑到我们只训练了五个epoch,这是相当不错的。[heading3]模型性能可视化[content]您可能会想要绘制准确性和随时间的损失图,以便可视化模型的性能。在我们的例子中,我们看到训练损失正在下降,而验证损失稍微波动。[heading2]保存与加载模型[content]一旦您对训练的模型感到满意,您可以使用model.save方法导出并保存模型到本地路径。保存模型后,您可以加载它以进行预测。[heading2]预测示例[content]在这个例子中,我们有一组不同情感的评论句子。我们根据我们训练的模型对这些句子中的每一个进行预测。[heading2]部署模型到Vertex AI[content]如果您想更进一步,并将您的模型部署到Vertex AI上以获得在线预测,您可以采用本地保存的模型并将其导出到Vertex AI。[heading3]模型的签名[content]您需要检查模型的签名以了解如何将预测传递给模型。模型的签名告诉您什么是第一层接受的输入。[heading3]上传模型到Vertex AI[content]一旦我们拥有本地保存的模型,我们将使用一系列命令将模型推送到Vertex的模型注册表。为了将模型放入Vertex的模型注册表中,您需要确保您有一个Google Cloud存储桶。[heading3]部署模型[content]上传模型后,我们就可以在Vertex上部署模型并获得在线预测。为此,我们可以使用Python SDK,它将做两件事:1.创建一个端点。2.将模型上传到这个特定的端点。部署模型大约需要5到10分钟。一旦将模型部署到端点,您就可以从该端点获得预测。
根据客户查询的分类,可以向模型提供一组更具体的指令,以便它处理后续步骤。例如,假设客户需要“故障排除”方面的帮助:|角色|内容||-|-||SYSTEM|你将收到需要在技术支持上下文中进行故障排除的客户服务查询。请按照以下步骤帮助用户:<br>-询问他们是否已检查路由器所有连接线的连接情况。提醒他们连接线可能会随时间推移而松动。<br>-如果所有连接线都已连接但问题仍然存在,询问他们使用的路由器型号。<br>-根据路由器型号,建议他们如何重启设备:<br>–如果型号是MTD-327 J,建议他们按下红色按钮并保持5秒钟,然后等待5分钟,再测试网络连接。<br>–如果型号是MTD-327 S,建议他们拔掉电源插头并重新插入,然后等待5分钟,再测试网络连接。<br>-如果用户在重启设备并等待5分钟后仍有问题,请将他们转接到IT支持部门,并输出{“IT support requested”}。<br>-如果用户开始询问与当前话题无关的问题,请确认他们是否希望结束有关故障排除的对话,并根据以下方案对新问题进行分类:<br><br><插入上述主/次分类方案>||USER|我需要重新使我的互联网工作。|需要注意的是,模型已被指示在对话状态发生变化时输出特定的字符串。这使我们能够将系统设计成一个状态机,根据当前状态来决定下一步的操作。通过跟踪对话状态、相关指令以及允许的状态转换,我们可以更好地控制用户体验。
基于客户查询的分类,可以向GPT模型提供一组更具体的指令来处理后续步骤。例如,假设客户需要“故障排除”方面的帮助。|系统|您将收到需要在技术支持环境中进行故障排除的客户服务查询。通过以下方式帮助用户:-要求他们检查所有进出路由器的电缆是否已连接。请注意,电缆随时间松动是很常见的。-如果所有电缆都已连接但问题仍然存在,请询问他们使用的是哪种路由器型号-现在您将建议他们如何重新启动他们的设备:--如果型号是MTD-327J,建议他们按下红色按钮并按住它5秒钟,然后等待5分钟,然后再测试连接。--如果型号是MTD-327S,建议他们拔下并重新插入,然后等待5分钟,然后再测试连接。-如果客户的问题在重启设备并等待5分钟后仍然存在,请通过输出{"IT support requested"}将他们连接到IT支持。||-|-||用户|我需要让我的互联网重新工作。|请注意,已指示模型发出特殊字符串以指示对话状态何时发生变化。这使我们能够将我们的系统变成一个状态机,其中状态决定注入哪些指令。通过跟踪状态,哪些指令与该状态相关,以及可选地允许从该状态进行哪些状态转换,我们可以为用户体验设置护栏,而这很难通过结构化程度较低的方法实现。