Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

模型微调对模型的影响和价值

Answer

模型微调对模型具有重要的影响和价值，主要体现在以下几个方面：

  1. 提高结果质量：能够获得比即时设计更高质量的结果。
  2. 增加训练示例：可以训练比提示中更多的例子，从而改进小样本学习，在大量任务中取得更好的效果。
  3. 节省 Token 和成本：由于更短的提示而节省了 Token，对模型进行微调后，不再需要在提示中提供示例，能够节省成本并实现更低延迟的请求。
  4. 提高模型效率：通过专门化模型，可以使用更小的模型，并且由于只对输入输出对进行训练，舍弃示例或指令，进一步改善延迟和成本。
  5. 适应特定领域：针对特定领域进行微调，优化所有层的参数，提高模型在该领域的专业性。

目前，微调适用于以下基础模型：davinci、curie、babbage 和 ada。参数规模角度，大模型的微调分成全量微调 FFT（Full Fine Tuning）和 PEFT（Parameter-Efficient Fine Tuning）两条技术路线，从成本和效果综合考虑，PEFT 是目前业界较流行的微调方案。

通用大模型如 GPT-4.0、GPT-3.5 等具有广泛的自然语言理解能力，但在特定领域表现可能不理想。而通过微调，可以在现有模型基础上，更经济、高效地适应新的应用领域，节省成本并加快模型部署和应用速度。

Content generated by AI large model, please carefully verify (powered by aily)

References

微调（Fine-tuning）

了解如何为您的应用程序定制模型。[heading2]介绍[content]通过提供以下内容，微调可让您从API提供的模型中获得更多收益：1.比即时设计更高质量的结果2.能够训练比提示中更多的例子3.由于更短的提示而节省了Token4.更低的延迟请求GPT-3已经在来自开放互联网的大量文本上进行了预训练。当给出仅包含几个示例的提示时，它通常可以凭直觉判断出您要执行的任务并生成合理的完成。这通常称为“小样本学习”。微调通过训练比提示中更多的示例来改进小样本学习，让您在大量任务中取得更好的结果。对模型进行微调后，您将不再需要在提示中提供示例。这样可以节省成本并实现更低延迟的请求。在高层次上，微调涉及以下步骤：1.准备和上传训练数据2.训练新的微调模型3.使用您的微调模型[heading2]哪些模型可以微调？[content]微调目前仅适用于以下基础模型：davinci、curie、babbage和ada。这些是原始模型，在训练后没有任何说明（例如text-davinci-003）。您还可以继续微调微调模型以添加其他数据，而无需从头开始。[heading2]安装[content]我们建议使用我们的OpenAI命令行界面(CLI)。要安装这个，运行（以下说明适用于0.9.4及更高版本。此外，OpenAI CLI需要python 3。）OPENAI_API_KEY通过将以下行添加到您的shell初始化脚本（例如.bashrc、zshrc等）或在微调命令之前的命令行中运行它来设置您的环境变量：

3. 如何让 LLM 应用性能登峰造极

参数规模的角度，大模型的微调分成两条技术路线：全量微调FFT(Full Fine Tuning)：对全量的模型参数，进行全量的训练。PEFT(Parameter-Efficient Fine Tuning)：只对部分模型参数进行训练。从成本和效果的角度综合考虑，PEFT是目前业界比较流行的微调方案。OpenAI官方微调教程：[https://github.com/openai/openai-cookbook/blob/main/examples/How_to_finetune_chat_models.ipynb](https://github.com/openai/openai-cookbook/blob/main/examples/How_to_finetune_chat_models.ipynb)微调是在较小的、特定领域的数据集上继续LLM的训练过程。这可以通过调整模型本身的参数，而不是像提示工程和RAG那样仅仅更改提示，来大幅提高模型在特定任务中的性能。把微调想象成把通用工具打磨成精密仪器。微调有两大好处：提高模型在特定任务中的性能。微调意味着你可以输入更多的示例。您可以在数以百万计的代币上进行微调，而根据上下文的大小，少量学习提示仅限于数以万计的代币。经过微调的模型可能会失去一些通用性，但对于其特定任务而言，您应该期待它有更好的表现。提高模型效率。LLM应用程序的效率意味着更低的延迟和更低的成本。实现这一优势有两种方法。通过专门化模型，您可以使用更小的模型。此外，由于只对输入输出对进行训练，而不是对完整的提示及其任何提示工程技巧和提示进行训练，因此可以舍弃示例或指令。这可以进一步改善延迟和成本。

大圣：全网最适合小白的 Llama3 部署和微调教程

在人工智能领域，我们通常会根据应用领域将大模型分为两类通用大模型领域特定模型。通用大模型如GPT-4.0、GPT-3.5、文新一言以及开源的通义千问、Llama2和Llama3它们通过训练获得了广泛的自然语言理解能力。这些模型类似于多面手，能够处理多种类型的语言任务。然而，尽管这些通用模型拥有强大的基础语言能力，它们在特定领域如法律或医学中的表现可能并不理想。这就像是一个语言能力已完全发展的10岁孩子，虽然可以流利交流，但要成为某一专业领域的专家，还需要学习更多相关知识。这种对大模型针对特定领域进行的训练过程称为大模型的微调。微调是一个调整过程，通过在特定领域的数据上训练模型，优化所有层的参数，以使模型在该领域表现更佳。提高其在该领域的专业性你可能会问，为什么不直接构建一个专用于法律的模型？关键在于，从头开始训练一个具备自然语言处理能力的大模型需要大量的时间和资源。小公司负担不起但是通过微调，我们可以在现有模型的基础上，更经济、更高效地适应新的应用领域。这类似于在巨人的肩膀上进一步攀登，利用已有的广泛知识基础，快速达到新的高度。这种方法不仅节省了成本，还可以加快模型部署和应用的速度。OK，对于普通人而言，大模型微调了解到这个程度就可以，我们继续

Others are asking
模型微调对模型的影响和价值
模型微调对模型具有重要的影响和价值，主要体现在以下几个方面： 1. 提高结果质量：能够获得比即时设计更高质量的结果。 2. 增加训练示例：可以训练比提示中更多的例子，从而改进小样本学习，在大量任务中取得更好的效果。 3. 节省 Token 和成本：由于更短的提示而节省了 Token，对模型进行微调后，不再需要在提示中提供示例，能够节省成本并实现更低延迟的请求。 4. 提高模型效率：通过专门化模型，可以使用更小的模型，并且由于只对输入输出对进行训练，能够舍弃示例或指令，进一步改善延迟和成本。 5. 适应特定领域：针对特定领域进行微调，优化所有层的参数，提高模型在该领域的专业性，例如在法律或医学等领域表现更佳。 目前，微调适用于以下基础模型：davinci、curie、babbage 和 ada。从参数规模的角度，大模型的微调分成两条技术路线：全量微调 FFT（Full Fine Tuning）和 PEFT（ParameterEfficient Fine Tuning），从成本和效果综合考虑，PEFT 是目前业界较流行的微调方案。 微调是在较小的、特定领域的数据集上继续 LLM 的训练过程，把通用工具打磨成精密仪器。微调有两大好处：一是提高模型在特定任务中的性能，能够输入更多示例；二是提高模型效率，实现更低的延迟和更低的成本。 通用大模型如 GPT4.0、GPT3.5 等具有广泛的自然语言理解能力，但在特定领域表现可能不理想。而微调可以在现有模型基础上，更经济、高效地适应新的应用领域，节省成本并加快模型部署和应用速度。
2025-01-06
微调和增量训练的区别
微调和增量训练是在人工智能领域中用于改进模型性能的两种不同方法，它们有以下区别： 微调： 参数调整范围：分为全量微调（FFT）和参数高效微调（PEFT）。全量微调对全量的模型参数进行全量训练，PEFT 则只对部分模型参数进行训练。 数据使用：在较小的、特定领域的数据集上继续大语言模型（LLM）的训练过程，通过调整模型本身的参数来提高在特定任务中的性能。 效果和优势： 能大幅提高模型在特定任务中的性能，因为可以输入更多示例。 提高模型效率，可通过专门化模型使用更小的模型，且由于只对输入输出对进行训练，能舍弃示例或指令，进一步改善延迟和降低成本。 但经过微调的模型可能会失去一些通用性。 增量训练：文中未明确提及增量训练的相关内容。 总的来说，微调是一种针对特定任务和数据集对模型参数进行调整的有效方法，而增量训练的具体特点和与微调的详细对比在提供的内容中未充分阐述。
2025-01-07
训练以及部署微调模型
以下是关于训练以及部署微调模型的相关信息： 创建微调模型： 假设您已准备好训练数据。使用 OpenAI CLI 开始微调工作，需指定从哪个 BASE_MODEL（如 ada、babbage、curie 或 davinci）开始，可使用后缀参数自定义微调模型的名称。运行命令后会进行以下操作： 1. 使用文件 API 上传文件（或使用已上传的文件）。 2. 创建微调作业。 3. 流式传输事件直到作业完成，这通常需要几分钟，但如果队列中有很多作业或数据集很大，可能需要数小时。 每个微调工作都从默认为 curie 的基本模型开始，模型的选择会影响性能和成本。您的模型可以是 ada、babbage、curie 或 davinci，可访问定价页面了解微调费率的详细信息。 开始微调作业后，可能需要一些时间才能完成。工作可能排在其他工作之后，训练模型可能需要几分钟或几小时，具体取决于模型和数据集的大小。若事件流中断，可通过运行特定命令恢复。工作完成后，会显示微调模型的名称。此外，还可以列出现有作业、检索作业状态或取消作业。 GPT 助手的训练： 在有监督的微调阶段，收集少量但高质量的数据集，要求人工承包商收集提示和理想响应的数据，通常是几万个或类似数量。然后对这些数据进行语言建模，算法不变，只是训练集从互联网文档变为问答提示响应类型的数据。训练后得到有监督的微调模型（SFT 模型），可实际部署。 大型语言模型的微调： 一旦有了基础模型，进入计算成本相对较低的微调阶段。编写标签说明，明确助手的表现期望，雇佣人员创建文档，如收集 100,000 个高质量的理想问答对来微调基础模型，此过程可能只需一天。然后进行大量评估，部署模型并监控表现，收集不当行为实例并纠正，将正确答案加入训练数据，重复此过程。由于微调成本较低，可每周或每天进行迭代。 例如 Llama2 系列，Meta 发布时包括基础模型和助手模型。基础模型不能直接使用，助手模型可直接用于回答问题。若想自己微调，Meta 完成的昂贵的第一阶段结果可提供很大自由。
2025-01-06
全量微调与少量参数微调
在参数规模的角度，大模型的微调分为全量微调（FFT，Full Fine Tuning）和少量参数微调（PEFT，ParameterEfficient Fine Tuning）两条技术路线。 全量微调是对全量的模型参数进行全量的训练。少量参数微调则只对部分模型参数进行训练。从成本和效果的综合考虑，PEFT 是目前业界较流行的微调方案。 微调是在较小的、特定领域的数据集上继续 LLM 的训练过程，通过调整模型本身的参数，而非像提示工程和 RAG 那样仅更改提示，能大幅提高模型在特定任务中的性能。微调有两大好处：一是提高模型在特定任务中的性能，可输入更多示例，经过微调的模型可能会失去一些通用性，但对于特定任务会有更好表现；二是提高模型效率，实现更低的延迟和成本，可通过专门化模型使用更小的模型，且只对输入输出对进行训练，舍弃示例或指令进一步改善延迟和成本。 关于微调的具体实现，LoRA 微调脚本见：。 在微调的超参数方面，选择了适用于一系列用例的默认超参数，唯一需要的参数是训练文件。调整超参数通常可产生更高质量输出的模型，可能需要配置的内容包括：model（要微调的基本模型的名称，可选择“ada”“babbage”“curie”或“davinci”之一）、n_epochs（默认为 4，训练模型的时期数）、batch_size（默认为训练集中示例数量的 0.2%，上限为 256）、learning_rate_multiplier（默认为 0.05、0.1 或 0.2，具体取决于 final batch_size）、compute_classification_metrics（默认为假，若为 True，为对分类任务进行微调，在每个 epoch 结束时在验证集上计算特定于分类的指标）。要配置这些额外的超参数，可通过 OpenAI CLI 上的命令行标志传递。 OpenAI 官方微调教程：
2025-01-06
微调训练框架的选择
以下是关于微调训练框架选择的相关内容： 在 Stable Diffusion 中： 首先，config 文件夹中有两个配置文件 config_file.toml 和 sample_prompt.toml，分别存储着训练超参数与训练中的验证 prompt。 config_file.toml 文件主要包含了 model_arguments、optimizer_arguments、dataset_arguments、training_arguments、sample_prompt_arguments 以及 saving_arguments 六个维度的参数信息。 v2 和 v_parameterization：两者同时设置为 true 时，开启 Stable Diffusion V2 版本的训练。 pretrained_model_name_or_path：读取本地 Stable Diffusion 预训练模型用于微调训练。 optimizer_type：有七种优化器可以选择。不进行选择时默认启动 AdamW 优化器；显存不太充足时，可选择 AdamW8bit 优化器，但会有轻微性能损失；Lion 优化器是较新的版本，性能优异，但学习率需设置较小，比如为 AdamW 优化器下的 1/3。 learning_rate：单卡推荐设置 2e6，多卡推荐设置 1e7。 除了上述的训练环境参数传入，还需将配置好的 config_file.toml 和 sample_prompt.txt 参数传入训练脚本中。 当设置 1024 分辨率+FP16 精度+xformers 加速时，SD 模型进行 Batch Size=1 的微调训练需要约 17.1G 的显存，进行 Batch Size=4 的微调训练需要约 26.7G 的显存，所以最好配置一个 24G 以上的显卡。 微调训练完成后，模型权重会保存在之前设置的 output_dir 路径下。可以使用 Stable Diffusion WebUI 作为框架加载模型进行 AI 绘画，需将训练好的模型放入/models/Stablediffusion 文件夹下。 在 OpenAI 中： 使用 OpenAI CLI 开始微调工作，需指定从哪个 BASE_MODEL 开始（ada、babbage、curie 或 davinci），还可使用后缀参数自定义微调模型的名称。 运行命令后会上传文件、创建微调作业并流式传输事件直到作业完成。 每个微调工作都从一个默认为 curie 的基本模型开始，模型的选择会影响性能和成本。 开始微调作业后，可能需要几分钟或几小时才能完成，工作完成后会显示微调模型的名称。此外，还可以列出现有作业、检索作业状态或取消作业。
2025-01-06
测试微调模型
以下是关于测试微调模型的相关内容： 在完成微调之后，需要对结果进行测试。微调不会直接影响原有的大模型，而是生成一些文件，包括模型权重文件、配置文件、训练元数据、优化器状态等。这些文件可以和原有大模型合并并输出新的大模型。 在测试之前，先通过不合并的方式进行微调结果的验证。例如，若数据集中有问答“问：你是谁？答：家父是大理寺少卿甄远道”，当给微调后的模型指定角色“现在你要扮演皇帝身边的女人甄嬛”，然后问模型“你是谁？”，若回答是“家父是大理寺少卿甄远道”，则认为模型微调有效果。 测试代码结果成功。之后可以将微调结果和原有大模型进行合并，然后输出新的模型，使用 webdemo 进行测试。包括切换到对应的目录、执行合并代码、生成相应文件、创建 chatBotLora.py 文件并执行代码进行本地测试、开启自定义服务等步骤，最终验收成功。 此外，当作业成功时，fine_tuned_model 字段将填充模型名称，可将此模型指定为 Completions API 的参数，并使用 Playground 向它发出请求。首次完成后，模型可能需要几分钟准备好处理请求，若超时可能是仍在加载中，几分钟后重试。可通过将模型名称作为 model 完成请求的参数传递来开始发出请求，包括 OpenAI 命令行界面、cURL、Python、Node.js 等方式。 要删除微调模型，需在组织中被指定为“所有者”。 创建微调模型时，假设已准备好训练数据。使用 OpenAI CLI 开始微调工作，需指定基本模型的名称（ada、babbage、curie 或 davinci），还可使用后缀参数自定义微调模型的名称。运行命令会上传文件、创建微调作业、流式传输事件直到作业完成，每个微调工作都从默认为 curie 的基本模型开始，模型选择会影响性能和成本。开始微调作业后，可能需要一些时间才能完成，若事件流中断可恢复。工作完成后会显示微调模型的名称，还可列出现有作业、检索作业状态或取消作业。
2025-01-06
训练以及部署微调模型
以下是关于训练以及部署微调模型的相关知识： 创建微调模型： 假设您已准备好训练数据，使用 OpenAI CLI 开始微调工作。需指定从哪个 BASE_MODEL 开始，如 ada、babbage、curie 或 davinci，还可使用后缀参数自定义微调模型的名称。运行命令后会进行以下操作： 1. 使用文件 API 上传文件（或使用已上传的文件）。 2. 创建微调作业。 3. 流式传输事件直到作业完成，这通常需要几分钟，但如果队列中有很多作业或数据集很大，则可能需要数小时。每个微调工作都从默认为 curie 的基本模型开始，模型的选择会影响性能和成本，您可访问定价页面了解微调费率的详细信息。开始微调作业后，可能需要一些时间才能完成，若事件流中断，可通过运行特定命令恢复。工作完成后，会显示微调模型的名称。此外，还可以列出现有作业、检索作业状态或取消作业。 GPT 助手的训练： 在有监督的微调阶段，收集少量但高质量的数据集，要求人工承包商收集提示和理想响应的数据，通常是几万个或类似数量。然后对这些数据进行语言建模，算法不变，只是训练集从互联网文档变为问答提示响应类型的数据。训练后得到有监督的微调模型（SFT 模型），可实际部署，它们在某种程度上是有用的。 大型语言模型的微调： 一旦有了基础模型，就进入计算成本相对较低的微调阶段。在这个阶段，编写标签说明明确助手的表现期望，雇佣人员创建文档，例如收集 100,000 个高质量的理想问答对来微调基础模型，这个过程可能只需一天。然后进行大量评估，部署模型并监控表现，收集不当行为实例并纠正，将正确答案加入训练数据，由于微调成本较低，可每周或每天进行迭代。例如 Llama2 系列，Meta 发布时包括基础模型和助手模型，基础模型不能直接使用，助手模型可直接用于回答问题。
2025-01-06
目前主流的AI大模型有哪些
目前主流的 AI 大模型主要有以下几种： 1. OpenAI 系列：包括 GPT3.5 和 GPT4 等。GPT3.5 在 11 月启动了当前的 AI 热潮，GPT4 功能更强大。ChatGPT 也属于 OpenAI 系列。 2. 微软 Bing：使用 GPT4 和 GPT3.5 的混合，通常是 GPT4 家族中首个推出新功能的模型，能创建和查看图像，还能在网页浏览器中阅读文档，并连接到互联网。 3. 谷歌 Bard：由各种基础模型驱动，最近是 PaLM 2 模型。 4. Anthropic Claude 2：其特点是有非常大的上下文窗口，不太可能恶意行事。 此外，大模型的架构也有所不同，如 encoderonly 模型（代表模型是 BERT）、encoderdecoder 模型（代表是 google 的 T5）、decoderonly 模型（适用于自然语言生成任务，如故事写作和博客生成，众多 AI 助手包括 ChatGPT 都属于此类）。大模型的“大”体现在预训练数据量大（往往来自互联网，包括论文、代码、公开网页等，一般用 TB 级别的数据进行预训练）和参数多（如 OpenAI 在 2020 年发布的 GPT3 就已达到 170B 的参数）。
2025-01-07
用于训练销售助手类型业务的私有模型
以下是关于训练销售助手类型业务私有模型的相关信息： 1. 提示词方面：设计了一套模拟江南皮革厂销售的拟人化提示词模板，并将其应用于国内的豆包角色扮演模型，生成吸引人的广告词。若与语音技术结合用于宣传，能创造出有趣且有效的销售助手，吸引顾客注意。拟人化提示词母体可通过关注作者微信领取。 2. 增加私有知识方面：通过前面步骤拥有可与客户对话的 AI 助手后，若想让其像公司员工一样精准专业回答商品相关问题，需为大模型应用配置知识库。例如在售卖智能手机的公司，网站上有很多相关信息，不同机型的详细配置清单可参考相关文档。
2025-01-07
给文生图ai模型打分的权威标准是什么
给文生图 AI 模型打分的权威标准通常包括以下方面： 1. 图像生成质量：如清晰度、细节丰富程度、色彩准确性等。 2. 多样性：生成图像的风格、主题和表现形式的丰富程度。 3. 文本一致性：生成的图像与输入的文本描述的匹配程度。 在具体的测评中，会构建包含人工评估和机器评估的全面评测内容。人工评测方面，会邀请具有图像领域知识的专业评估人员，从画面质量、图文相关性、整体满意度等维度为生成图像打分。例如，在对 Kolors 与其他模型的比较中，就从这些维度进行了评估。 此外，像 SuperCLUEImage 测评基准首次公布的结果中，DALLE 3 以 76.94 分高居榜首，显示其在图像生成质量、多样性和文本一致性方面的卓越表现。百度文心一格和 vivo 的 BlueLMArt 位列国内前列，但与国际领先模型仍有差距。
2025-01-07
多模态大模型与图像、视频生成
多模态大模型与图像、视频生成相关知识如下： 多模态大模型的架构和原理：基于大圆模型，能识别页面组件结构和位置绝对值信息，并与组件、文本映射。由解码器、backbone、Generator 等部件组成，左侧多模态理解，右侧生成输出。 Stable Diffusion 模型原理：是生成模型，通过加噪和去噪实现图像的正向扩散和反向还原，解决潜在空间模型中的速度问题。其应用场景包括带货商品图生成、模特服装展示、海报生成、装修设计等。 吉梦 AI 和吐司平台的使用体验：吉梦 AI 提供 AI 视频生成等能力，通过简单提示词生成图像，对数字体有专项场景训练；吐司是类似的在线生成平台，具备多种 AI 能力，有模型、在线训练、上传模型工作流等功能，可通过输入提示词生成图片。 模型训练：训练模型需要大量图像数据和标签化处理。 AI 视频生成原理：主要基于 Sara 的整体架构，采用 diffusion Transformer 架构，以扩散模型通过随机造点、加噪和去噪得到连续图像帧，输入视频可看成若干帧图片，经处理后生成视频。 模态生成器 MG_X 一般用于生成不同的模态来输出。当前的工作一般使用现成的扩大模型（Latent diffusion model），例如 Stable Diffusion 用于图像生成，Zeroscope 用于视频生成，AudioLDM2 用于音频生成。 多模态模型的技术架构：如果模型既支持 3D 生成，又支持视频生成，就可以实现图文编辑以及具有强一致性的视频生成。Open AI 可能会尝试把图片、视频、3D 变为一个自然空间。Transformer 架构的多模态模型给机器提供了像人类一样与世界互动的新机会，杨立昆（Yann LeCun）提出的世界模型可能是近一年值得关注的研究点。
2025-01-07
多模态大模型与图像、视频生成
多模态大模型与图像、视频生成相关知识如下： 多模态大模型的架构和原理：基于大圆模型，能识别页面组件结构和位置绝对值信息，并与组件、文本映射。由解码器、backbone、Generator 等部件组成，左侧多模态理解，右侧生成输出。 Stable Diffusion 模型原理：是生成模型，通过加噪和去噪实现图像的正向扩散和反向还原，解决潜在空间模型中的速度问题。其应用场景包括带货商品图生成、模特服装展示、海报生成、装修设计等。 吉梦 AI 和吐司平台的使用体验：吉梦 AI 提供 AI 视频生成等能力，通过简单提示词生成图像，对数字体有专项场景训练；吐司是类似的在线生成平台，具备多种 AI 能力，有模型、在线训练、上传模型工作流等功能，可通过输入提示词生成图片。 模型训练：训练模型需要大量图像数据和标签化处理。 AI 视频生成原理：主要基于 Sara 的整体架构，采用 diffusion Transformer 架构，以扩散模型通过随机造点、加噪和去噪得到连续图像帧，输入视频可看成若干帧图片，经处理后生成视频。 模态生成器 MG_X 一般用于生成不同的模态来输出。当前的工作一般使用现成的扩大模型（Latent diffusion model），例如 Stable Diffusion 用于图像生成，Zeroscope 用于视频生成，AudioLDM2 用于音频生成。 多模态模型的技术架构：如果模型既支持 3D 生成，又支持视频生成，就可以实现图文编辑以及具有强一致性的视频生成。Open AI 可能会尝试把图片、视频、3D 变为一个自然空间，Google 的 VideoPoet 已在这个方向上有尝试，但分辨率不够高。Transformer 架构的多模态模型给机器提供了像人类一样与世界互动的新机会，杨立昆（Yann LeCun）提出的世界模型可能是近一年值得关注的研究点。
2025-01-07
大模型的实际应用有哪些？Agent?AI网站
大模型的实际应用包括以下方面： 1. 在影刀 RPA+AI Power 中的应用： 集成丰富的 AI 组件及各种技能组件，拓展 AI 服务的能力边界，打造 AI Agent。例如搜索引擎组件可让 AI 接入互联网获取实时信息，RPA 组件可直接调用影刀 RPA 客户端应用实现 AI 自动化操作。 提供网页分享、对话助理、API 集成等无缝多样的使用方式，方便企业在不同业务场景下灵活选择接入方式，让内部员工、外部客户便捷地与 AI 交互。 为企业提供教学培训、技术答疑、场景共创等贴身的服务支持，帮助企业把产品用起来，把 AI 落地下去。 2. 在 Ranger 相关介绍中的应用： Agent 被认为是大模型未来的主要发展方向。 中间的“智能体”就是大模型，通过为其增加工具、记忆、行动、规划四个能力来实现。目前行业里主要用到的是 langchain 框架，在 prompt 层和工具层完成相关设计。 3. 在大圣的相关介绍中的应用： 大模型的产品类型主要有 Copilot 和 Agent 两种。 Copilot 是辅助驾驶员，在帮助用户解决问题时起辅助作用，更多地依赖于人类的指导和提示来完成任务，功能局限于给定框架内，处理流程依赖于人类确定的静态流程，主要用于处理简单、特定的任务，开发重点在于 Prompt Engineering。 Agent 是主驾驶，智能体，可以根据任务目标进行自主思考和行动，具有更高的自主性和决策能力，解决问题的流程是由 AI 自主确定的动态流程，能够处理复杂、大型的任务，在 LLM 薄弱阶段使用工具或 API 增强，开发重点在于 Flow Engineering。
2025-01-07
AI直播的技术价值
AI 直播具有以下技术价值： 1. 盈利方式： 直接销售数字人工具软件，包括实时驱动和非实时驱动两类。实时驱动价格较高，一年 4 6 万往上；非实时驱动一个月 600 元，效果差，市场价格混乱。 提供数字人运营服务，按直播间成交额抽佣。 2. 适用品类和场景： 适用于不需要强展示的商品，如品牌食品饮料；不适用于服装，因过品快且衣服建模成本高。 适用于虚拟商品，如门票、优惠券等。 适用于店播，效果较好，数据基本能保持跟真人一样；不适用于促销场景，涉及主播话术、套路和调动氛围能力等。 3. 壁垒和未来市场格局： 长期来看技术上没壁垒，但目前仍有技术门槛，如更真实的对口型、更低的响应延迟等。 不会一家独大，可能 4 5 家一线效果，大多二三线效果公司，因其只是工具，迁移成本低。 能把客户服务好、能规模化扩张的公司更有价值，疯狂扩代理割韭菜、不考虑客户效果的公司售后问题麻烦。 有资源、有业务的大平台下场可能会带来降维打击，如提供数字人、货品供应链、数据复盘分析等全环节打通会绑定商家。 此外，还有相关的直播回顾，如 INDIGO LIVE/AI 撞墙与美国大选后的世界 月末直播回顾 2024.11，会用 AI 把全部的回放视频转录文本，配合直播用的完整 Keynote，重新创作成回顾文章。同时，还有 AI 春晚阶段性纪实，建立了 5000 人的飞书大群，欢迎加入或围观，也可通过填写问卷申请转播自媒体账号。
2024-12-25
人脸识别技术价值
人脸识别技术具有一定的价值。过去，AI 在人脸识别等分类判断任务上取得了成果，方便了我们的生活。然而，其使用过程中会让人感受到明显的机器感。相比之下，生成式 AI 在写文章、画画、写歌等方面展现出类似人类的智慧和能力。在 AI 研究中，搜索和学习是利用大量计算的两个重要技术类别。在计算机围棋、国际象棋、语音识别和计算机视觉等领域，都经历了从依赖人类知识到依靠统计方法和大量计算的转变。在 AI 相关的监管方面，对于像人脸识别这样的特定技术或应用，不采用僵化的法律定义，而是基于功能能力来设计应对挑战的方法，以适应 AI 的快速发展。
2024-12-25
学习设计专业，未来在Ai时代，如何提升价值，找到工作
在 AI 时代，学习设计专业的您可以通过以下几个方面提升价值并找到工作： 1. 设计专业方面： AI 重新定义了设计师的竞争力边界，您需要具备持续的学习习惯，并将所学快速转化为实践能力。 看似降低了设计门槛，但实则对需求理解、问题分析、审美判断、创意亮点提出了更高要求。 高阶设计师要更显性化设计思考与专业优势，提升设计质量。 2. 工具能力方面： 对现有 AI 工具进行严格评估和选型，确保其能提供标准化输出和一致性体验，提升设计质量和速度，减少设计差异。 建设参数文档库，而非基于个人喜好的自然语言。 基于业务场景特征，训练专属 AI 模型、集成相应 AI 能力形成新工具，形成更有效的设计资产。 3. 工作流程方面： 将 AI 深入到日常设计流程，形成新的工作方式与流程。 基于不同的 AI 能力特性，差异化对待不同业务形态和需求，使设计流程更加精细化。 找到更合理的人&机结合方式，持续探索优化。 4. 设计团队方面： 团队必须制定并执行明确的 AI 融合策略，保证所需硬件设备的支持。 营造积极主动的创新环境，增强对市场动态的快速适应能力，确保团队整体的未来发力方向。 总之，随着技术不断进步，AI 在视觉设计领域将扮演更重要角色，为设计师和用户创造更多可能性。现在开始学习相关知识和技能，您就可以保持领先优势。
2024-12-24
🚀接着上期SOP+AI：打造职场高效能人士的秘密武器的分享，今天继续聊聊SOP+AI的应用，🎯今天的主题是“怎样利用AI节约10倍内容创作时间？”📚最近跟团队有开始运营小红书账号，就想着先给自己打造点顺手的工具，于是乎「小红书文案专家」就出生啦～🎉[heading1]一、先介绍下我们小Bot[content]🛺BOT名称：小红书文案专家功能价值：见过多个爆款文案长啥样，只需输入一个网页链接或视频链接，就能生成对应的小红书文案，可以辅助创作者生成可以一键复制发布的初稿，提供创意和内容，1
以下是关于“SOP+AI”的相关内容： 怎样利用 AI 节约 10 倍内容创作时间？ 最近团队开始运营小红书账号，于是打造了“小红书文案专家”。 BOT 名称：小红书文案专家 功能价值：见过多个爆款文案，输入网页或视频链接就能生成对应的小红书文案，辅助创作者生成可一键复制发布的初稿，提供创意和内容，节约 10 倍文字内容创作时间。 应用链接：https://www.coze.cn/s/ij5C6LWd/ 设计思路： 痛点：个人时间有限，希望有人写初稿并生成配图。 实现思路：为自己和团队设计工作流，让 AI 按运营思路和流程工作。 一期产品功能： 1. 提取任何链接中的标题和内容。 2. 按小红书平台文案风格重新整理内容。 3. 加入 emoji 表情包，使文案更有活力。 4. 为文案配图片。 二期计划功能：持续优化升级，增加全网搜索热点功能，提炼热点新闻或事件关键信息，结合用户想要生成的内容方向输出文案和配图。 SOP+AI：打造职场高效能人士的秘密武器 案例分享：X 公司客服团队引入 SOP 和 AI 助手后，工作效率显著提升。引入 SOP 前，客服工作流程混乱，效率低下，客户满意度不高。引入 SOP 标准化操作后，效率提高。进一步引入 AI 助手，自动回复常见问题、处理简单请求，减少客服工作量，还能及时发现问题帮助优化。结果客服团队工作效率提升 30%以上，客户满意度显著提高。SOP 能提升效率、减少失误、促进协作，借助 AI 助手，SOP 制定和优化更高效智能。
2024-12-20
智能图书馆的技术价值
智能图书馆的技术价值主要体现在以下方面： RAG（检索增强生成）技术： 工作原理： 检索（Retrieval）：如同图书馆员根据描述从庞大知识库中找出相关书籍和文章，系统从知识库或文档集合中找到与用户问题相关的内容。 增强（Augmented）：类似图书馆员挑选出最相关段落和信息并汇总，大模型对检索到的信息进行筛选和优化，确保选中最相关和有用的信息。 生成（Generation）：如同图书馆员把汇总信息组织成连贯、易懂的回答，大模型将整合的信息生成自然流畅的回答。 综合解释：RAG 就像超级智能的图书馆员，先检索相关信息，再筛选优化，最后生成连贯回答。 优点： 成本效益：实现成本低于训练和维护大型专有模型。 灵活性：可利用多种数据源，包括结构化和非结构化数据，迅速适应不同领域和变化的数据。 可扩展性：随时增加或更新知识库内容，无需重新训练模型。 缺点：回答准确性不如专有模型的方案。 其他相关技术： DALLE 3：与 ChatGPT 结合，用户输入会话命令可获得匹配图像，改善了之前图像生成器的操作方式。 开放式有声读物集合：微软和麻省理工学院联手，使用文本转语音技术将 5000 本书转换为免费有声读物并在 Spotify 上提供。 AudioShake 的 AI 程序：可隔离预先录制音频的元素，分解成组成部分，解决老音乐音轨分离问题。 Ai Pin：磁性连接衣服成为 AI 助手，使用专有软件和 OpenAI 的 GPT，仅用声音就能完成多种操作。
2024-12-19