开源模型和闭源模型的情况如下:
专有模型(Proprietary Models)(03:18:38-03:19:23):对于OpenAI、Google等公司的专有模型,需要访问其官方网站或平台(如ChatGPT、Gemini AI Studio)使用。开源模型(Open-Weight Models)(03:19:23-03:21:16):对于DeepSeek、Llama等开源模型,可以使用以下方式:Inference Provider(Together AI)(03:19:23-03:21:16):使用Together AI等推理服务提供商,在线体验和调用各种开源模型。LM Studio(03:20:36-03:21:16):使用LM Studio等本地应用程序,在个人电脑上运行和部署较小的开源模型。[heading3]总结:ChatGPT的本质与未来展望[content]ChatGPT的本质(03:21:46-03:25:18):ChatGPT本质上是OpenAI数据标注员的神经网络模拟器,它模仿人类标注员在遵循OpenAI标注指南的情况下,对各种提示词的理想助手式回应。LLM的局限性(03:25:18-03:26:49):LLM并非完美,存在幻觉、瑞士奶酪式能力缺陷等问题。用户应谨慎使用,并进行人工检查和验证。LLM的优势(03:26:49-03:30:25):LLM是强大的工具,能够显著加速工作效率,并在各领域创造巨大价值。用户应将其视为工具箱中的工具,用于启发灵感、撰写初稿等,并始终对最终产品负责。LLM的未来(03:30:25-03:31:12):LLM的未来发展令人兴奋,多模态、Agent智能体、持续学习等趋势值得期待。虽然LLM仍处于早期发展阶段,但其潜力无限,未来可期。整理和翻译不易,可以的话希望给个三连,谢谢🙏
5种尺寸的预训练和指令调整模型,包括Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B;(Qwen2-57B-A14B这个模型可以重点看看除英语和中文外,还接受过另外27种语言的数据训练;在大量基准评估中表现出最先进的性能;在大量基准评估中获得SOTA性能。代码和数学性能显著提高,全面超越llama3增大了上下文长度支持,最高达到128K tokens(Qwen2-72B-Instruct)。HF最新榜第一72B和7B可处理128k上下文57B-A14B可处理64k上下文0.5B和1.5B可处理32k上下文相比2月推出的通义千问Qwen1.5,Qwen2实现了整体性能的代际飞跃。在权威模型测评榜单OpenCompass中,此前开源的Qwen1.5-110B已领先于文心4.0等一众中国闭源模型。刚刚开源的Qwen2-72B,整体性能相比Qwen1.5-110B又取得了大幅提升。(图说:在上海人工智能实验室推出的OpenCompass大模型测评榜单上,此前开源的Qwen1.5-110B已领先于文心4.0等一众中国闭源模型)通义千问Qwen2系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。在MMLU、GPQA、HumanEval、GSM8K、BBH、MT-Bench、Arena Hard、LiveCodeBench等国际权威测评中,Qwen2-72B获十几项世界冠军,超过美国的Llama3。(图说:Qwen2-72B在十多个权威测评中获得冠军,超过美国的Llama3-70B模型)
这个也是感触最深刻的点。金融量化是一个非常闭源的系统,各家的交易系统是最大的秘密武器,公开的部分非常少。现在大模型正在往这个方向发展,几个巨头的核心模型都开始走向闭源,最为各自最核心的秘密。OpenAI最新一代的GPT4,Google的Bard以及未来的Gemini短时间内都不会公开。这里肯定有人说Meta的LLaMA开源了啊,可以回到上一篇对于开源模型的思考。从预训练层面来看,Meta和OpenAI的差距极大,差不多差了一个代际吧。如果未来Meta发现大模型可以赚钱,也可能不会继续开源了。OpenAI未来可能也会开源上一代模型,有点像量化公司在用了更好的交易系统后把之前的交易系统公开一样。[【LLM系列】开源模型和闭源模型之争--写在LLaMA2开源之后](https://zhuanlan.zhihu.com/p/644892671)