以下是一些与提示词相关的工具和信息:
Majinai:[MajinAI|Home](https://link.zhihu.com/?target=https%3A//majinai.art/index.php)词图:[词图PromptTool-AI绘画资料管理网站](https://link.zhihu.com/?target=http%3A//www.prompttool.com/NovelAI)Black Lily:[black_lily](https://link.zhihu.com/?target=http%3A//heizicao.gitee.io/novelai/%23/book)Danbooru标签超市:[Danbooru标签超市](https://link.zhihu.com/?target=https%3A//tags.novelai.dev/)魔咒百科词典:[魔咒百科词典](https://link.zhihu.com/?target=https%3A//aitag.top/)AI词汇加速器:[AI词汇加速器AcceleratorI Prompt](https://link.zhihu.com/?target=https%3A//ai.dawnmark.cn/)NovelAI魔导书:[NovelAI魔导书](https://link.zhihu.com/?target=https%3A//thereisnospon.github.io/NovelAiTag/)鳖哲法典:[鳖哲法典](https://link.zhihu.com/?target=http%3A//tomxlysplay.com.cn/%23/)Danbooru tag:[Tag Groups Wiki|Danbooru(donmai.us)](https://link.zhihu.com/?target=https%3A//danbooru.donmai.us/wiki_pages/tag_groups)AIBooru:[AIBooru:Anime Image Board](https://link.zhihu.com/?target=https%3A//aibooru.online/)
本文采用的提示词工程主要有两部分代码组成:提示词注入和工具结果回传。提示词注入用于将工具信息以及使用工具的提示词添加到系统提示中。工具结果回传则是解析tool calling的输出,并将工具返回的内容再次嵌入LLM。[heading2]1、提示词注入阶段[content]INSTRUCTION为最后注入到系统提示中的字符串,他又包含了TOOL_EAXMPLE、tools_instructions、REUTRN_FORMAT三个部分。TOOL_EAXMPLE用于提示LLM如何理解tool以及如何使用tool。在编写TOOL_EAXMPLE时,请注意用一些无关紧要的工具作为示例,例如本文使用的将数字加一和数字减一的工具,从而避免LLM混淆真正可以使用的工具与示例工具。tools_instructions是由目前通用的工具字典转换成LLM可读的工具列表。实际使用LLM时,可以通过输入不同的工具来动态调整tools_instructions,让LLM得知目前可用的工具有哪些以及如何使用。REUTRN_FORMAT定义了调用API的格式。[heading2]2、工具结果回传阶段[content]利用正则表达式抓取输出中的"tool"和"parameters"参数。对于interpreter工具,使用了另一种正则表达式来提取LLM输出的代码,提高LLM使用interpreter工具的成功率。本文使用代码如下:通过识别LLM返回的调用工具的字典,提取出对应的值,再传入相应的工具函数,最后将工具返回的结果以observation的角色返回给LLM。对于一些不接受observation、tool、function角色的LLM接口,可以改为回传给user角色,例如:通过以上提示词工程,可以避免微调,让完全没有tool calling能力的LLM获得稳定的tool calling能力。
根据图片反推提示词,可以设置替换词。这个节点目前使用Google Gemini API作为后端服务,请确保网络环境可以正常使用Gemini。请在[Google AI Studio](https://makersuite.google.com/app/apikey)申请你的API key,并将其填到api_key.ini,这个文件位于插件根目录下,默认名字是api_key.ini.example,初次使用这个文件需将文件后缀改为.ini。用文本编辑软件打开,在google_api_key=后面填入你的API key并保存。节点选项说明:api:使用的Api。目前只有"gemini-pro-vision"一个选项。token_limit:生成提示词的最大token限制。exclude_word:需要排除的关键词。replace_with_word:替换exclude_word的关键词。replace_with_word:替换exclude_word的关键词。[heading3]PromptEmbellish[content]输入简单的提示词,输出经过润色的提示词,支持输入图片作为参考。这个节点目前使用Google Gemini API作为后端服务,请确保网络环境可以正常使用Gemini。请在[Google AI Studio](https://makersuite.google.com/app/apikey)申请你的API key,并将其填到api_key.ini,这个文件位于插件根目录下,默认名字是api_key.ini.example,初次使用这个文件需将文件后缀改为.ini。用文本编辑软件打开,在google_api_key=后面填入你的API key并保存。节点选项说明:image:可选项,输入图像作为提示词参考。api:使用的Api。目前只有"google-gemini"一个选项。token_limit:生成提示词的最大token限制。discribe:在这里输入简单的描述。支持中文。