AI Agent工作流自动化怎么落地？从选场景到上线的完整实操

AI代理工作流自动化的核心要点, 并不是指让人工智能来代替人类去完成所有的任务, 其真正的意义在于能够准确选择那些高频且重复的场景, 搭建起可以验证的流程, 并有效控制相关的成本以及潜在风险, 正确的做法是先尝试去跑通一个较小的具体场景, 然后在此基础上再进行逐步扩展, 以此来避免在刚开始的时候就直接采取在全公司范围内进行转型这种过于激进的做法。

选场景：先做小而可验证的事

应该优先去选择那些频率高、重复次数多、规则相对清晰、容错率可以在接受范围内、并且数据能够获取到的任务。这里有一些典型的场景举例, 比如客服工单的分类、会议纪要的生成商品描述的批量改写, 以及内部知识库的问答这些情况。

用来做判断标准的方法是看那个场景每周至少是不是要执行50次以上, 而且结果必须得有明确的是和非的标准存在。

搭Agent工作流：规划→调用→执行→验证

Agent这个概念, 它指的是那些能够自己去把任务的步骤给规划好, 然后去把各种工具给调用起来，最后还能够去把这些多步骤的任务都给执行完毕的这样一个AI系统, 当我们要把它落地的时候, 应当按照以下这样的结构来进行搭建:

进行任务拆解的时候, 要把复杂的目标拆分成3到5个子步骤, 并且在每一个步骤中都要有明确的输入和输出。

工具的接入是一个过程, 这个过程的场景包含搜索、数据库、API和代码执行等。具体的连接方式是或者通过原生的工具协议来进行连接, 这种连接方式可以实现系统对工具的调用。

在权限控制方面, 我们会为每一个Agent分配只完成任务所必需的最小权限。对于涉及支付的、删除数据的、以及向外发送信息的高风险操作, 这些操作必须经过人工确认才能执行。

在异常处理这件事上, 每一道工序都得设好失败的重新尝试机制，还有最后的兜底策略, 这样才可以让某一个环节卡住的情况, 不至于让这整个流程全部都停摆。

数据与知识库：垃圾进，垃圾出

Agent（智能代理）的效果在很大的程度上, 是决定于材料的质量的。知识库方面, 一定要做到定期的更新, 还要做去重和去噪的工作, 同时也需要做好权限的分级管理。

对于那些频繁发生变化的信息, 应该优先使用RAG这种技术来进行实时查询, 所谓的RAG就是检索增强生成这种机制, 意思是需要先从知识库里面进行检索, 然后再让模型根据检索到的结果来回答问题, 绝对不能把这些信息直接写死在模型的参数里面去。

提示词与流程设计

每一条提示词里都必须包含角色、任务、背景、输入材料、输出格式以及评价标准这六个要素。如果遇到复杂的任务, 要让智能体先把计划列出来, 在得到确认之后再去执行。

这里有几个关键性的技巧需要留意, 首先是要求智能体对不确定的信息进行标注, 绝对不要强行编造内容。其次呢, 给出一个或者两个正面的例子, 要比那些空泛的描述有效得多。最后输出的格式要明确到每一个字段的层级。

测试与评测

你需要建立一个包含20至100条真实任务的测试集。并且, 你要记录正确率、幻觉率、格式合规率、响应时间和单次成本这些数据。在一次操作中, 只改变一个变量。通过这种方式来对比前后的数据差异。你要明确公开榜单的内容仅仅具有参考价值, 它不能替代你自己进行的任务测试工作。

上线与持续迭代

先是在小范围之内进行灰度测试，等于是把流程跑通之后再扩展场景。产品上线以后, 每周都要抽样复核十到二十条数据, 不能说是做一次测试就直接长期放行算清楚全链路上的成本, 这其中包括了token的费用、算力的费用、存储的费用以及人工审核的工时和集成的维护成本。

使用比较便宜的模型并且加上人工审核的做法, 可能在某些情况下比使用昂贵的模型来实现全自动处理更加划算一些。

风险与合规要点

Agent这个东西, 它有可能去编造一些事实出来, 也可能会捏造一些数据出来, 只要是涉及到了事实的东西, 大家必须要通过人工的方式去进行核实。

当Agent在调用外部工具的时候, 可能会把内部的数据给发出去, 这种情况下是需要做出站审计并且对字段进行脱敏处理的。

你要对提示词注入进行警惕, 千万不要把那些不可信的网页或者是文档直接扔给高权限 Agent , 你需要隔离好内容的界限去限制工具的使用范围，并且坚持最小权限的原则。

在把由人工智能生成的内容拿去商业使用之前, 必须先确认所使用的工具是否有合法授权, 并且还要了解本地的法律法规是怎样的情况, 而且这件事得以最官方发布的那些文件规定为准。

常见问题

Q：Agent和RAG怎么选？

对于需要采取多个步骤的进行规划, 并且还需要调用外部工具的情形而言, 应当使用Agent这种架构方式；如果只是只需要根据现有的文档内容来进行回答的话, 那么使用RAG这样的技术体系就足矣了。

大多数企业在刚开始的时候, 往往都会选择先采用RAG这一方案来把整个流程跑通, 等基础搭建好了之后, 再慢慢叠加进去Agent所具备的那些能力。

Q：Agent能完全替代人吗？

A: 它能替代那些重复执行的环节, 却没法替代判断, 也代替不了责任以及创意。对于高风险的决策这件事儿, 必须得要保留人工来确认。

关于初始预算的确定方法, 请问人们应该如何去进行设定呢?

首先, 我们选择的是通过API进行方案部署的方式, 这种模式是按照所消耗的token数量来收取费用的, 当每月预算处于1000元到5000元这个区间范围的时候, 是有能力去验证某一个特定场景的可行性的, 但是, 如果遇到数据具有较高敏感性、或者调用频率极高的状况, 那么就必须重新评估是否采取私有化部署的形式了。

常见问题

《AI Agent工作流自动化怎么落地？从选场景到上线的完整实操》主要讲什么？

AI代理工作流自动化的核心要点, 并不是指让人工智能来代替人类去完成所有的任务, 其真正的意义在于能够准确选择那些高频且重复的场景, 搭建起可以验证的流程, 并有效控制相关的成本以及潜在风险, 正确的做法是先尝试去跑通一个较小的具体场景, 然后在此基础上再进行逐步扩展, 以此来避免在刚开始的时候就直接采取在全公司范围内

AI 人工智能相关内容，适合谁看？

适合关注AI 人工智能的读者，尤其是需要落地执行的运营和建站从业者。