gpt2 chatbot是什么

🔔Xiaohu.AI日报「4月29日」 ✨✨✨✨✨✨✨✨1⃣️🤖GPT 2 Chatbot神秘机器人：可能由OpenAI基于GPT-2微调，运行于移动设备。性能表现出色，可能预示重大发展。🔗 https://x.com/imxiaohu/status/17849818991377083762⃣️🎎Anime gf：本地开源的CharacterAI替代工具，支持自定义虚拟角色。集成多家AI服务，支持角色卡片的导入导出。🔗 GitHub：https://github.com/cyanff/anime.gf🔗详细介绍：https://xiaohu.ai/p/69963⃣️🔍OpenAI的AI问答搜索引擎SearchGPT：通过聊天形式实现全网搜索，包括图像搜索。集成多种实用小部件，支持交互式追问。🔗 https://x.com/imxiaohu/status/17847767733116236184⃣️🏦摩根大通的FlowMind工具：自动化金融工作流程，特别注重数据安全和隐私。结合用户反馈优化工作流，提高金融操作效率。🔗详细介绍：https://xiaohu.ai/p/69435⃣️📲开源抖音项目：使用Vue3、Pinia和Vite5开发，提供流畅体验。可用于学习或开发特色项目。

🔔Xiaohu.AI日报「4月29日」 ✨✨✨✨✨✨✨✨1⃣️🤖GPT 2 Chatbot神秘机器人：可能由OpenAI基于GPT-2微调，运行于移动设备。性能表现出色，可能预示重大发展。🔗 https://x.com/imxiaohu/status/17849818991377083762⃣️🎎Anime gf：本地开源的CharacterAI替代工具，支持自定义虚拟角色。集成多家AI服务，支持角色卡片的导入导出。🔗 GitHub：https://github.com/cyanff/anime.gf🔗详细介绍：https://xiaohu.ai/p/69963⃣️🔍OpenAI的AI问答搜索引擎SearchGPT：通过聊天形式实现全网搜索，包括图像搜索。集成多种实用小部件，支持交互式追问。🔗 https://x.com/imxiaohu/status/17847767733116236184⃣️🏦摩根大通的FlowMind工具：自动化金融工作流程，特别注重数据安全和隐私。结合用户反馈优化工作流，提高金融操作效率。🔗详细介绍：https://xiaohu.ai/p/69435⃣️📲开源抖音项目：使用Vue3、Pinia和Vite5开发，提供流畅体验。可用于学习或开发特色项目。

2022年11月，ChatGPT横空出世，背后基于GPT3.5。GPT3.5其实已经不是单纯的LLM基座模型了，据说它跟InstrcutGPT是同源技术，因此下面我们就以InstructGPT为参照介绍ChatBot是怎么炼成的。首先概览式地介绍一下训练ChatBot所需要的几个阶段，有个基本印象阶段0：PT阶段(Pre-train)。这个阶段建立模型的capacity，就是确定模型各方面能力的天花板阶段1：SFT阶段(Supervised Fine-tune)。这个阶段让模型学会conversational format，就是知道了对话应该按什么形式展开。阶段2：RLHF阶段(Reinforcement Learning from Human Feedback)。这个阶段细分为RM(Reward Model)阶段和RL(Reinforcement Learning)阶段，能激发出模型具备多种能力，包括但不限于safty、reasoning和stability我非常喜欢AK的[这张图](https://link.zhihu.com/?target=https%3A//www.youtube.com/watch%3Fv%3DbZQun8Y4L2A)，简单清晰把重要信息点都罗列了出来