AI原生应用的关键要素

本书作者:测试开发刚哥,文章版权归个人所有,未经授权请勿转载。 2.1 模型 大模型扮演着大脑的角色,负责核心的理解、推理与生成任务。 2.1.1 模型分类 通用大模型:GPT、Claude、Qwen、DeepSeek、Gemini等通用大模型。 垂直领域模型:情感分析、语言翻译、意图分类等垂直领域模型。 通用大模型适合处理复杂、开放的任务,垂直领域模型适合处理简单、高频的任务。 2.1.2 模型能力和微调 模型的知识是固化的,需要不断地“喂”它,把这些信息结构化地描述清楚并且提供给它,它会在每次的交互中动态地理解你提供的内容,并结合自身的通用知识来完成内容的生成。 企业专属模型的训练和微调的成本是巨大的,它不仅包括高昂的计算资源费用,还需要海量的高质量标注数据、专业的算法团队以及漫长的开发周期。对于绝大多企业来说,投入与产出不成正比,很难持续。 2.1.3 如何选择模型 基于企业的实际业务场景,权衡任务复杂度、性能要求、开发成本和响应延迟等多个因素来综合选择和组合最合适的模型。 一个务实的策略是从顶配开始,逐步优化:先用能力最强的模型搭建原型以验证业务逻辑,再逐步将流程中的非核心、简单任务替换为更经济、更快速的小模型,最终找到成本与性能的最佳平衡点。 2.2 框架 Spring或Dubbo开发一个微服务应用,代码确定,容易形成标准化的框架。而开发一个AI Agent应用,LLM存在高度不确定性,设计模式的落地方式差异很大。 2.2.1 Agent设计模式 1、Chain of Thought(思维链) 让模型在回答前,把推理过程一步步写出来。 2、Self-Ask(自问自答) 让模型在回答时学会反问自己,把大问题拆成多个小问题,然后逐个回答。 3、ReAct(推理+行动) 在推理和外部行动(比如调用搜索引擎或API)之间交替进行。 4、Plan-and-Execute(计划与执行) 把任务拆成两个阶段,先生成计划,再逐步执行。 5、Tree of Thoughts(ToT,树状思维) 不是单线思维,而是生成多条思路分支,像树一样展开,再通过评估机制选出最佳分支。 6、Reflexion / Iterative Refinement(反思与迭代优化) Agent自我纠错,犯错后会总结失败原因,再带着反思尝试下一次。 7、Role-playing Agents(角色扮演式智能体) 把任务拆分给不同角色的Agent,通过对话协作完成任务。 这些模式不是互斥的,可以混搭使用。 其中ReAct已经被LangChain、LlamaIndex、Dify、Spring AI Alibaba等开发框架内置为基础框架。 2.2.2 Agent开发框架 1、从低代码到高代码 低代码平台是对于高代码的一层封装,其抽象层次很难满足所有场景,无法在性能、扩展性和复杂业务逻辑方面满足大规模生产的要求。 高代码是当下AI原生应用生产落地的主流形态,ADK、LangGraph、AutoGen、AgentScope、Spring AI Alibaba等框架,为开发者提供了面向Agent的编程接口。 2、高代码的演进 高代码模式本身经历了从ChatClient→Workflow→Agentic的演进过程。 ChatClient,一次单一的LLM调用。Workflow,将传统工作流转化为LLM节点编排。Agentic,提供面向Agent的API,并内置多种通用的协作模式(Pattern)。 3、零代码的愿景 尝试让用户完全通过自然语言即可驱动开发。目前处于探索与验证阶段,难以承担大规模生产任务。 2.3 提示词 在AI原生应用中,不再编写复杂的代码,而是使用更接近人类语言的方式与AI沟通,这就是Prompt(提示词)。提示词的质量很大程度上影响了AI应用的输出效果。 2.3.1 提示词是什么 提示词可以是一个具体的问题、一段描述、一组关键词,或是相关的上下文,不仅限于自然语言文本,还可以包含代码片段、数据格式说明,甚至是图像与文字相结合的多模态输入。 2.3.2 提示词质量=AI输出质量 大模型的输出质量,既要看大模型本身,也要看提示词是否清晰、完整、具体。比如,“写点关于人工智能的东西”,生成的内容是泛泛而谈。“以科技专栏作家的身份,撰写一篇800字左右的文章,探讨人工智能在医疗影像诊断中的最新应用、优势与挑战,并列举实例”,能生成一篇逻辑严谨、信息详实、专业度高的文章。 ...

AI原生应用及其架构

本书作者:测试开发刚哥,文章版权归个人所有,未经授权请勿转载。 1.1 大模型技术发展回顾和产业价值 1.1.1 大模型发展回顾与展望 2022年11月,ChatGPT横空出世,模型即服务(MaaS)模式快速兴起,AI从实验室走向商业场景。2024年,OpenAI推出o1模型和4o模型,大模型技术迎来质的飞跃。2025年,多家大模型厂商支持模型上下文协议(MCP),Google推出A2A架构,AI从单点工具向系统级生产力工具转变。 1.1.2 大模型的五大产业价值 效率新工具、服务新体验、产品新形态、决策新助手、科研新模式。 1.2 AI时代应用架构的演进 1.2.1 IT应用架构的演进脉络 云原生架构是指,Kubernetes等技术通过容器化、集群化管理,实现按量使用、秒级弹性的极致资源调度。 每一次架构升级,都是在满足业务规模更大、需求变化更快、资源成本更低的述求。 1.2.2 云原生应用架构向AI原生应用架构的跃迁 如果说,云原生解决的是如何高效地运行,那么AI原生是在此基础上解决如何智能地运行。 在云原生应用架构中,我们讨论的是容器如何管理、服务如何拆分、流量如何治理。而在AI原生应用架构下,其目标是在满足可扩展、可观测、安全合规的同时,最大化释放模型的智能潜力。 在大语言模型(LLM)出现之前,AI只能以功能模块形态嵌入系统。LLM具备通用理解、推理和生成能力,并能通过函数调用、外部工具联动和知识库,形成可扩展的Agent体系。AI原生应用的运行逻辑不再完全由工程师编写的代码所决定,而是由大模型进行自出判断、行动和生成,并具备以下3个特征: 以LLM为核心,用自然语言统一交互协议; 以多模态感知扩展输入边界,以Agent框架编排工具链; 以数据飞轮驱动模型持续进化,实现系统的自我优化。 1.3 AI原生应用及其架构的定义 AI原生应用架构,涵盖了模型、应用开发框架、提示词、RAG、记忆、工具、网关、运行时、可观测、评估和安全等关键要素。 1.3.1 大模型推理决策 传统应用使用编程语言(Java、C++等)进行编码,AI原生应用使用大语言模型(LLM),通过Prompt(提示词)等自然语言方式进行构建。 LLM具有语义理解与推理方面的能力,能够在面对模糊和复杂的开放式任务时,自主生成和调整业务执行逻辑,并根据需要完成工具调用与流程编排。 1.3.2 Agent编排和执行 传统应用是工具,Agent是助手。单Agent无法完成复杂任务时,可以协同多Agent编排完成复杂任务。自身能力受限时,可以扩展工具,甚至自己编写工具完成任务。 1.3.3 数据优化决策 模型输出可能存在偏差,甚至在某些情况下完全不符合用户或业务方的预期。为了解决这个问题,AI原生应用必须具备基于数据驱动的持续进化能力。在多轮交互中,持续保留并利用历史信息,理解用户的偏好、行为习惯与目标。同时,应用还需要通过数据采集构建高质量的评测数据集,并结合行业数据、用户反馈数据和客户业务数据进行持续评估与优化。 1.3.4 工具调用与环境连接 大语言模型运行机制的本质仍是基于“输入Token→输出Token”的序列生成过程。受限于这一机制,模型既无法直接感知外部环境,也无法获取实时更新的知识,更缺乏对物理世界的直接操控能力。 AI原生应用通常通过工具调用的方式扩展模型的环境连接能力。一是支持语音、图像乃至动作等多模态输入;二是支持联网检索获取最新信息,并且通过API对接外部系统,或直接驱动企业内部系统的业务流程。“模型+工具”协同运行。 1.4 AI原生应用架构成熟度 1.4.1 AI原生应用架构成熟度的定义 AI原生应用架构成熟度,是指用于综合衡量AI原生应用在技术实现、业务融合与安全可信等方面所达到的水平,客观反映其从简单功能集成到复杂智能决策的演进阶段与发展层次。 1.4.2 AI原生应用架构成熟度的演进 1、概念验证级:单点功能辅助 2、早期试用级:场景化初步闭环 3、成熟应用级:核心业务深度集成 4、完全成熟级:企业级自适应迭代 1.4.3 AI原生应用架构成熟度的评估 以五大能力特征作为核心评估维度:自然语言交互能力、多模态理解与生成能力、动态推理与自主决策能力、持续学习与迭代能力、安全可信。 本评估体系旨在为AI原生应用的规划、开发、部署与优化提供一套完整的诊断工具和行动指南,最终推动其从概念验证走向规模化、高价值的产业应用。 参考资料: https://developer.aliyun.com/ebook/8479

我3个月没手写测试用例了,但我的用例采纳率是80%

编写测试用例,是我做测试工作最痛苦的一件事情,没有之一。最难受的是把测试点写成“标准”用例。先要写一个让人一目了然的用例标题,还要讲究什么主谓宾造句,曾经为了让标题好看,我还硬加“验证”2个字前缀。前提条件要把账号数据这些罗列出来。步骤要写清楚每一步干啥,预期也要具体化和量化,不能只写正确。文字写起来啰里啰嗦,写多了头都炸了。

2026-01-03 · 1 分钟 · 13 字 · 测试开发刚哥 · AI技术 · #AI测试

Claude Code使用技巧帮你提效80%

Claude Code是Anthropic公司的产品,跟字节的豆包、阿里的千问和腾讯的元宝一样,只不过它更擅长于跟代码打交道。用Claude Code来写代码,就是通常说的Vibe Coding,跟着感觉编程。

2026-01-02 · 1 分钟 · 37 字 · 测试开发刚哥 · AI技术 · #AI测试

免费搭建你的电子书网站(附源码)

电子书网站由AI实现,Claude Code+DeepSeek-V4-Pro。技术栈Python+MkDocs,主题Read the Docs,静态托管GitHub Pages。具有中文搜索功能。

2026-01-02 · 2 分钟 · 370 字 · 测试开发刚哥 · AI技术 · #AI开发

AI测试工具开发新姿势MCP Python SDK

本书作者:测试开发刚哥,文章版权归个人所有,未经授权请勿转载。 简介 MCP是什么?通俗易懂地讲,在互联网时代,应用程序是通过HTTP来交互的,而来到AI时代,大模型可以通过MCP来进行交互。MCP是Model Context Protocol缩写,专为大模型(LLM,Large Language Model)设计的大模型上下文协议。 MCP Server是什么?MCP Server就像网关之于应用程序,数据库连接池之于数据库,位于中间位置,接收请求,调用大模型。可以调用Server进行业务开发,也可以自建Server实现特定功能。 MCP Python SDK是什么?MCP的Python实现,它包含以下功能(官方原文): Build MCP clients that can connect to any MCP server Create MCP servers that expose resources, prompts and tools Use standard transports like stdio, SSE, and Streamable HTTP Handle all MCP protocol messages and lifecycle events 安装 推荐使用uv工具来管理Python项目。 安装3.10以上版本Python: uv python install 3.10 创建示例项目: uv init mcp-server-demo cd mcp-server-demo 创建虚拟环境: uv venv ### 如果当前不是默认Python3.10,需指定版本 uv venv --python 3.10 执行后会提示: Creating virtual environment at: .venv Activate with: source .venv/bin/activate 激活: ...

2026-01-01 · 3 分钟 · 628 字 · 测试开发刚哥 · AI技术 · #AI测试

原创电子书全新重磅升级

电子书,简洁专注的阅读体验。对于技术文章来说,电脑端比手机端更适合阅读,尤其是代码。电子书的左侧目录能快速找到文章,虽然公众号也有文章分类功能,但是不能像目录树一样有“位置感”。电子书还能支持搜索。所以把个人网站做成了电子书。

2026-01-01 · 1 分钟 · 11 字 · 测试开发刚哥 · AI技术 · #AI开发