AI开发

本书作者：测试开发刚哥，文章版权归个人所有，未经授权请勿转载。 2.1 模型 大模型扮演着大脑的角色，负责核心的理解、推理与生成任务。 2.1.1 模型分类 通用大模型：GPT、Claude、Qwen、DeepSeek、Gemini等通用大模型。 垂直领域模型：情感分析、语言翻译、意图分类等垂直领域模型。 通用大模型适合处理复杂、开放的任务，垂直领域模型适合处理简单、高频的任务。 2.1.2 模型能力和微调 模型的知识是固化的，需要不断地“喂”它，把这些信息结构化地描述清楚并且提供给它，它会在每次的交互中动态地理解你提供的内容，并结合自身的通用知识来完成内容的生成。 企业专属模型的训练和微调的成本是巨大的，它不仅包括高昂的计算资源费用，还需要海量的高质量标注数据、专业的算法团队以及漫长的开发周期。对于绝大多企业来说，投入与产出不成正比，很难持续。 2.1.3 如何选择模型 基于企业的实际业务场景，权衡任务复杂度、性能要求、开发成本和响应延迟等多个因素来综合选择和组合最合适的模型。 一个务实的策略是从顶配开始，逐步优化：先用能力最强的模型搭建原型以验证业务逻辑，再逐步将流程中的非核心、简单任务替换为更经济、更快速的小模型，最终找到成本与性能的最佳平衡点。 2.2 框架 Spring或Dubbo开发一个微服务应用，代码确定，容易形成标准化的框架。而开发一个AI Agent应用，LLM存在高度不确定性，设计模式的落地方式差异很大。 2.2.1 Agent设计模式 1、Chain of Thought（思维链） 让模型在回答前，把推理过程一步步写出来。 2、Self-Ask（自问自答） 让模型在回答时学会反问自己，把大问题拆成多个小问题，然后逐个回答。 3、ReAct（推理+行动） 在推理和外部行动（比如调用搜索引擎或API）之间交替进行。 4、Plan-and-Execute（计划与执行） 把任务拆成两个阶段，先生成计划，再逐步执行。 5、Tree of Thoughts（ToT，树状思维） 不是单线思维，而是生成多条思路分支，像树一样展开，再通过评估机制选出最佳分支。 6、Reflexion / Iterative Refinement（反思与迭代优化） Agent自我纠错，犯错后会总结失败原因，再带着反思尝试下一次。 7、Role-playing Agents（角色扮演式智能体） 把任务拆分给不同角色的Agent，通过对话协作完成任务。 这些模式不是互斥的，可以混搭使用。 其中ReAct已经被LangChain、LlamaIndex、Dify、Spring AI Alibaba等开发框架内置为基础框架。 2.2.2 Agent开发框架 1、从低代码到高代码 低代码平台是对于高代码的一层封装，其抽象层次很难满足所有场景，无法在性能、扩展性和复杂业务逻辑方面满足大规模生产的要求。 高代码是当下AI原生应用生产落地的主流形态，ADK、LangGraph、AutoGen、AgentScope、Spring AI Alibaba等框架，为开发者提供了面向Agent的编程接口。 2、高代码的演进 高代码模式本身经历了从ChatClient→Workflow→Agentic的演进过程。 ChatClient，一次单一的LLM调用。Workflow，将传统工作流转化为LLM节点编排。Agentic，提供面向Agent的API，并内置多种通用的协作模式（Pattern）。 3、零代码的愿景 尝试让用户完全通过自然语言即可驱动开发。目前处于探索与验证阶段，难以承担大规模生产任务。 2.3 提示词 在AI原生应用中，不再编写复杂的代码，而是使用更接近人类语言的方式与AI沟通，这就是Prompt（提示词）。提示词的质量很大程度上影响了AI应用的输出效果。 2.3.1 提示词是什么 提示词可以是一个具体的问题、一段描述、一组关键词，或是相关的上下文，不仅限于自然语言文本，还可以包含代码片段、数据格式说明，甚至是图像与文字相结合的多模态输入。 2.3.2 提示词质量=AI输出质量 大模型的输出质量，既要看大模型本身，也要看提示词是否清晰、完整、具体。比如，“写点关于人工智能的东西”，生成的内容是泛泛而谈。“以科技专栏作家的身份，撰写一篇800字左右的文章，探讨人工智能在医疗影像诊断中的最新应用、优势与挑战，并列举实例”，能生成一篇逻辑严谨、信息详实、专业度高的文章。 ...

本书作者：测试开发刚哥，文章版权归个人所有，未经授权请勿转载。 1.1 大模型技术发展回顾和产业价值 1.1.1 大模型发展回顾与展望 2022年11月，ChatGPT横空出世，模型即服务（MaaS）模式快速兴起，AI从实验室走向商业场景。2024年，OpenAI推出o1模型和4o模型，大模型技术迎来质的飞跃。2025年，多家大模型厂商支持模型上下文协议（MCP），Google推出A2A架构，AI从单点工具向系统级生产力工具转变。 1.1.2 大模型的五大产业价值 效率新工具、服务新体验、产品新形态、决策新助手、科研新模式。 1.2 AI时代应用架构的演进 1.2.1 IT应用架构的演进脉络 云原生架构是指，Kubernetes等技术通过容器化、集群化管理，实现按量使用、秒级弹性的极致资源调度。 每一次架构升级，都是在满足业务规模更大、需求变化更快、资源成本更低的述求。 1.2.2 云原生应用架构向AI原生应用架构的跃迁 如果说，云原生解决的是如何高效地运行，那么AI原生是在此基础上解决如何智能地运行。 在云原生应用架构中，我们讨论的是容器如何管理、服务如何拆分、流量如何治理。而在AI原生应用架构下，其目标是在满足可扩展、可观测、安全合规的同时，最大化释放模型的智能潜力。 在大语言模型（LLM）出现之前，AI只能以功能模块形态嵌入系统。LLM具备通用理解、推理和生成能力，并能通过函数调用、外部工具联动和知识库，形成可扩展的Agent体系。AI原生应用的运行逻辑不再完全由工程师编写的代码所决定，而是由大模型进行自出判断、行动和生成，并具备以下3个特征： 以LLM为核心，用自然语言统一交互协议； 以多模态感知扩展输入边界，以Agent框架编排工具链； 以数据飞轮驱动模型持续进化，实现系统的自我优化。 1.3 AI原生应用及其架构的定义 AI原生应用架构，涵盖了模型、应用开发框架、提示词、RAG、记忆、工具、网关、运行时、可观测、评估和安全等关键要素。 1.3.1 大模型推理决策 传统应用使用编程语言（Java、C++等）进行编码，AI原生应用使用大语言模型（LLM），通过Prompt（提示词）等自然语言方式进行构建。 LLM具有语义理解与推理方面的能力，能够在面对模糊和复杂的开放式任务时，自主生成和调整业务执行逻辑，并根据需要完成工具调用与流程编排。 1.3.2 Agent编排和执行 传统应用是工具，Agent是助手。单Agent无法完成复杂任务时，可以协同多Agent编排完成复杂任务。自身能力受限时，可以扩展工具，甚至自己编写工具完成任务。 1.3.3 数据优化决策 模型输出可能存在偏差，甚至在某些情况下完全不符合用户或业务方的预期。为了解决这个问题，AI原生应用必须具备基于数据驱动的持续进化能力。在多轮交互中，持续保留并利用历史信息，理解用户的偏好、行为习惯与目标。同时，应用还需要通过数据采集构建高质量的评测数据集，并结合行业数据、用户反馈数据和客户业务数据进行持续评估与优化。 1.3.4 工具调用与环境连接 大语言模型运行机制的本质仍是基于“输入Token→输出Token”的序列生成过程。受限于这一机制，模型既无法直接感知外部环境，也无法获取实时更新的知识，更缺乏对物理世界的直接操控能力。 AI原生应用通常通过工具调用的方式扩展模型的环境连接能力。一是支持语音、图像乃至动作等多模态输入；二是支持联网检索获取最新信息，并且通过API对接外部系统，或直接驱动企业内部系统的业务流程。“模型+工具”协同运行。 1.4 AI原生应用架构成熟度 1.4.1 AI原生应用架构成熟度的定义 AI原生应用架构成熟度，是指用于综合衡量AI原生应用在技术实现、业务融合与安全可信等方面所达到的水平，客观反映其从简单功能集成到复杂智能决策的演进阶段与发展层次。 1.4.2 AI原生应用架构成熟度的演进 1、概念验证级：单点功能辅助 2、早期试用级：场景化初步闭环 3、成熟应用级：核心业务深度集成 4、完全成熟级：企业级自适应迭代 1.4.3 AI原生应用架构成熟度的评估 以五大能力特征作为核心评估维度：自然语言交互能力、多模态理解与生成能力、动态推理与自主决策能力、持续学习与迭代能力、安全可信。 本评估体系旨在为AI原生应用的规划、开发、部署与优化提供一套完整的诊断工具和行动指南，最终推动其从概念验证走向规模化、高价值的产业应用。 参考资料： https://developer.aliyun.com/ebook/8479

电子书网站由AI实现，Claude Code+DeepSeek-V4-Pro。技术栈Python+MkDocs，主题Read the Docs，静态托管GitHub Pages。具有中文搜索功能。

电子书，简洁专注的阅读体验。对于技术文章来说，电脑端比手机端更适合阅读，尤其是代码。电子书的左侧目录能快速找到文章，虽然公众号也有文章分类功能，但是不能像目录树一样有“位置感”。电子书还能支持搜索。所以把个人网站做成了电子书。