AI原生应用的关键要素
本书作者:测试开发刚哥,文章版权归个人所有,未经授权请勿转载。 2.1 模型 大模型扮演着大脑的角色,负责核心的理解、推理与生成任务。 2.1.1 模型分类 通用大模型:GPT、Claude、Qwen、DeepSeek、Gemini等通用大模型。 垂直领域模型:情感分析、语言翻译、意图分类等垂直领域模型。 通用大模型适合处理复杂、开放的任务,垂直领域模型适合处理简单、高频的任务。 2.1.2 模型能力和微调 模型的知识是固化的,需要不断地“喂”它,把这些信息结构化地描述清楚并且提供给它,它会在每次的交互中动态地理解你提供的内容,并结合自身的通用知识来完成内容的生成。 企业专属模型的训练和微调的成本是巨大的,它不仅包括高昂的计算资源费用,还需要海量的高质量标注数据、专业的算法团队以及漫长的开发周期。对于绝大多企业来说,投入与产出不成正比,很难持续。 2.1.3 如何选择模型 基于企业的实际业务场景,权衡任务复杂度、性能要求、开发成本和响应延迟等多个因素来综合选择和组合最合适的模型。 一个务实的策略是从顶配开始,逐步优化:先用能力最强的模型搭建原型以验证业务逻辑,再逐步将流程中的非核心、简单任务替换为更经济、更快速的小模型,最终找到成本与性能的最佳平衡点。 2.2 框架 Spring或Dubbo开发一个微服务应用,代码确定,容易形成标准化的框架。而开发一个AI Agent应用,LLM存在高度不确定性,设计模式的落地方式差异很大。 2.2.1 Agent设计模式 1、Chain of Thought(思维链) 让模型在回答前,把推理过程一步步写出来。 2、Self-Ask(自问自答) 让模型在回答时学会反问自己,把大问题拆成多个小问题,然后逐个回答。 3、ReAct(推理+行动) 在推理和外部行动(比如调用搜索引擎或API)之间交替进行。 4、Plan-and-Execute(计划与执行) 把任务拆成两个阶段,先生成计划,再逐步执行。 5、Tree of Thoughts(ToT,树状思维) 不是单线思维,而是生成多条思路分支,像树一样展开,再通过评估机制选出最佳分支。 6、Reflexion / Iterative Refinement(反思与迭代优化) Agent自我纠错,犯错后会总结失败原因,再带着反思尝试下一次。 7、Role-playing Agents(角色扮演式智能体) 把任务拆分给不同角色的Agent,通过对话协作完成任务。 这些模式不是互斥的,可以混搭使用。 其中ReAct已经被LangChain、LlamaIndex、Dify、Spring AI Alibaba等开发框架内置为基础框架。 2.2.2 Agent开发框架 1、从低代码到高代码 低代码平台是对于高代码的一层封装,其抽象层次很难满足所有场景,无法在性能、扩展性和复杂业务逻辑方面满足大规模生产的要求。 高代码是当下AI原生应用生产落地的主流形态,ADK、LangGraph、AutoGen、AgentScope、Spring AI Alibaba等框架,为开发者提供了面向Agent的编程接口。 2、高代码的演进 高代码模式本身经历了从ChatClient→Workflow→Agentic的演进过程。 ChatClient,一次单一的LLM调用。Workflow,将传统工作流转化为LLM节点编排。Agentic,提供面向Agent的API,并内置多种通用的协作模式(Pattern)。 3、零代码的愿景 尝试让用户完全通过自然语言即可驱动开发。目前处于探索与验证阶段,难以承担大规模生产任务。 2.3 提示词 在AI原生应用中,不再编写复杂的代码,而是使用更接近人类语言的方式与AI沟通,这就是Prompt(提示词)。提示词的质量很大程度上影响了AI应用的输出效果。 2.3.1 提示词是什么 提示词可以是一个具体的问题、一段描述、一组关键词,或是相关的上下文,不仅限于自然语言文本,还可以包含代码片段、数据格式说明,甚至是图像与文字相结合的多模态输入。 2.3.2 提示词质量=AI输出质量 大模型的输出质量,既要看大模型本身,也要看提示词是否清晰、完整、具体。比如,“写点关于人工智能的东西”,生成的内容是泛泛而谈。“以科技专栏作家的身份,撰写一篇800字左右的文章,探讨人工智能在医疗影像诊断中的最新应用、优势与挑战,并列举实例”,能生成一篇逻辑严谨、信息详实、专业度高的文章。 ...