提示词工程 Prompt Engineering
介绍
提示词是和Agent 交流的最常见途径，是给 LLM 大语言模型的指令，LLM 会理解你所输入的指令，并执行对应的操作，Prompt 的使用会控制LLM 的理解能力及执行能力，防止偏差及编造
提示词基本结构
- 角色
- 任务
- 上下文
- 输出
角色
一般的提示词开头会指定角色，比如：”你是一位资深前端开发“，”你是一位资深 UI 设计师“
你要说这个 cosplay 的具体作用，有知乎的人做过实验，是会限制大模型的知识检索的深度及广度的，但目前没有具体统计结果的比较
任务
任务描述要 精简，不要长篇大论，一句话概括要让大模型完成的事情
任务详细内容（下面简称上下文）
上下文不是对上面内容（任务）的扩充性描述，一定记住不要严格指导大模型一步一步怎么做，因为大模型会上下推理，且会增添上下文中的噪声
一般会写一些测试用例，比如一个sum 函数，计算两者之和，可以直接告诉大模型”3+4的结果是 7“，不需要太多测试用例，这称之为 少样本学习
输出
指定输出的内容是文件，还是直接在当前文件修改生成代码
结构部分的再优化
提示词结构
大模型对开头和结尾敏感，重要信息最好放开头
任务
任务描述是提示词中的重中之重，为了让大模型执行任务准确，可以划分任务为 子任务，让大模型一个任务一个任务执行，且配合 ”思维链“（我们去确认大模型每一个步骤的输出结果，如果输出结果不满足，则调整提示词后重新执行步骤），调整调优
上下文（任务详细描述部分）
安全（企业级应用场景）
对高危指令，操作的提示词的识别，使用权限控制，限制 agent 的操作权限，agent 划分为系统级和用户级，配置不同权限，且提示词做隔离标记，防止提示词污染系统提示词
隔离 agent 在宿主机上的执行环境，比如放置沙箱或 docker 等容器
面试中怎么回答
建立上、中、下三层防护盾，上层对接用户侧，对用户输入内容进行高危敏感提示词过滤，筛选，给用户提示词添加用户级别的标记，并输入到用户 agent 进行操作，且划分好用户 agent 的权限，限制其行为，在宿主机上，使用隔离环境来执行 agent，防止污染宿主环境
个人感想
提示词需要不断调整、优化，才能让大模型的执行结果符合我们的预期，模型的输入输出不是幂等的，只能有最大化控制这些不可控的因素，减少噪声为主要目的去写提示词