AI 原生应用的关键要素
本书作者:测试开发刚哥,文章版权归个人所有,未经授权请勿转载。 2.1 模型 大模型扮演着大脑的角色,负责核心的理解、推理与生成任务。 2.1.1 模型分类 通用大模型:GPT、Claude、Qwen、DeepSeek、Gemini 等通用大模型。 垂直领域模型:情感分析、语言翻译、意图分类等垂直领域模型。 通用大模型适合处理复杂、开放的任务,垂直领域模型适合处理简单、高频的任务。 2.1.2 模型能力和微调 模型的知识是固化的,需要不断地“喂”它,把这些信息结构化地描述清楚并且提供给它,它会在每次的交互中动态地理解你提供的内容,并结合自身的通用知识来完成内容的生成。 企业专属模型的训练和微调的成本是巨大的,它不仅包括高昂的计算资源费用,还需要海量的高质量标注数据、专业的算法团队以及漫长的开发周期。对于绝大多企业来说,投入与产出不成正比,很难持续。 2.1.3 如何选择模型 基于企业的实际业务场景,权衡任务复杂度、性能要求、开发成本和响应延迟等多个因素来综合选择和组合最合适的模型。 一个务实的策略是从顶配开始,逐步优化:先用能力最强的模型搭建原型以验证业务逻辑,再逐步将流程中的非核心、简单任务替换为更经济、更快速的小模型,最终找到成本与性能的最佳平衡点。 2.2 框架 Spring 或 Dubbo 开发一个微服务应用,代码确定,容易形成标准化的框架。而开发一个 AI Agent 应用,LLM 存在高度不确定性,设计模式的落地方式差异很大。 2.2.1 Agent 设计模式 1、Chain of Thought(思维链) 让模型在回答前,把推理过程一步步写出来。 2、Self-Ask(自问自答) 让模型在回答时学会反问自己,把大问题拆成多个小问题,然后逐个回答。 3、ReAct(推理+行动) 在推理和外部行动(比如调用搜索引擎或 API)之间交替进行。 4、Plan-and-Execute(计划与执行) 把任务拆成两个阶段,先生成计划,再逐步执行。 5、Tree of Thoughts(ToT,树状思维) 不是单线思维,而是生成多条思路分支,像树一样展开,再通过评估机制选出最佳分支。 6、Reflexion / Iterative Refinement(反思与迭代优化) Agent 自我纠错,犯错后会总结失败原因,再带着反思尝试下一次。 7、Role-playing Agents(角色扮演式智能体) 把任务拆分给不同角色的 Agent,通过对话协作完成任务。 这些模式不是互斥的,可以混搭使用。 其中 ReAct 已经被 LangChain、LlamaIndex、Dify、Spring AI Alibaba 等开发框架内置为基础框架。 2.2.2 Agent 开发框架 1、从低代码到高代码 低代码平台是对于高代码的一层封装,其抽象层次很难满足所有场景,无法在性能、扩展性和复杂业务逻辑方面满足大规模生产的要求。 高代码是当下 AI 原生应用生产落地的主流形态,ADK、LangGraph、AutoGen、AgentScope、Spring AI Alibaba 等框架,为开发者提供了面向 Agent 的编程接口。 ...