为了面向站内丰富的个人开发者生态,支持开发者在小红书站内建设丰富的「应用」并集成 AI 服务相关的能力,我们推出 开放平台AI基座相关能力。但面向 AI 合规及内容安全问题,我们需要从平台视角出发,提供通用的 AI 服务能力,包含如小红书笔记库RAG,笔记检索/发布、站内趋势检索MCP插件等能力。同时,面向个人开发来说,使用平台的能力可大大降低开发者自行部署模型及相关能力的难度和成本。
在智能体开放平台大框架下(如下图), 开发者可借助小红书开放平台的云服务能力完成其开发与部署。理论上,部署后的智能体服务可通过小程序、SDK 或 HTTP API 等多种方式进行对接。目前,在开放平台测,我们已支持智能体与包括小程序、小组件在内的多种容器载体进行关联:
本文档主要介绍基于云函数的函数式AI智能体的开发方式,和相关的 Node 开发范式
从技术角度来看,基于 LLM 构建的智能体多数以“服务”形式存在,开发者可借助小红书开放平台的云服务能力完成其开发与部署。理论上,部署后的智能体服务可通过小程序、SDK 或 HTTP API 等多种方式进行对接,下面重点介绍
函数式 Agent 智能体:基于「Serverless - 云函数」开发AI智能体。对于该类型的AI智能体,开发者能够完全掌控业务逻辑,满足高度个性化的需求。基于其开放平台提供的开发范式,开发者可访问开放平台的「模型」、「知识库」、「数据库」等系列产品能力,采用高代码的方式实现智能体的感知(Perception)、规划(Planning) 和 行动(Action) 等方面的能力,满足个性化需求。
在平台侧,为了降低 独立开发者、企业开发者开发 AI 智能体的成本,我们提供了通用的开发服务框架,并提供基于「云服务」系列开发、调试、发布及运维能力。对于开发者来说,无需关注任何服务运维的问题,基于通用的开发服务框架可快速开发 AI 智能体接入小红书的社区生态中:
const { AgentRuntime, AgentDriver } = require("@vectorx/agent-runtime"); const test_answer = "hi,我是开放平台智能体,我可以帮你做很多事情!"; /** * @typedef {import('@vectorx/agent-runtime').IAgent} IAgent * * @class * @implements {IAgent} */ class MyAgent extends AgentRuntime { async sendMessage() { return new Promise((res) => { const charArr = test_answer.split(""); const interval = setInterval(() => { const char = charArr.shift(); if (typeof char === "string") { // 返回标准的结构定义 this.sseSender.send({ data: { choices: [ { message: { role: "assistant", type: "answer", content: char }, }, ], }, }); } else { clearInterval(interval); this.sseSender.end(); res(); } }, 50); }); } } // 基于云函数进行发布 exports.main = function (event, context) { return AgentDriver.run(event, context, new MyAgent(context)); };
一个智能体对应一个 Servless 云函数
使用 cli 工具,在项目代码根目录运行
关于 cli 工具,可参考 使用 @vectorx/xhs-cloud-cli 工具开发智能体
函数式 Agent 基于 云服务 Serverless 能力进行开发与部署,其具备 简单易用、自动扩缩容、简化运维等特定。作为 「通用的开发服务框架」,我们定制了:面向开发者 Agent 函数服务框架 @vectorx/functions-framework 与 @vectorx/agent-runtime 运行时框架,以及对接开发服务的 智能体 AI 服务基座 。开发者通过使用平台标准的 Agent 开发框架,可快速完成 agent 的本地开发与部署。 从云服务视角来看, @vectorx/functions-framework 与 @vectorx/agent-runtime 和 智能体 AI 服务基座 的关系如下:
关于 @vectorx/functions-framework 与 @vectorx/agent-runtime,可继续阅读 使用 @vectorx/agent-runtime 对接平台 AI 能力