跳转至

插件

一项可复用能力通常不只有工具,还可能包含说明提示词、每轮提醒、钩子和清理操作。 许多框架要求将这些内容分别注册到不同位置;lovia 则用一个插件(plugin)对象统一提供。 插件是框架唯一的扩展入口,Skills、MCP、Todo 和 Memory 都建立在这套机制之上。

from lovia import Agent, Memory, Skills, Todo

agent = Agent(
    name="builder",
    model="<model>",
    plugins=[Todo(), Skills("./skills"), Memory("./.lovia/memory")],
)

契约

任何拥有 name 和异步 setup() 方法、且能返回 PluginInstance 的对象,都可以作为插件:

class Plugin(Protocol):
    name: str
    async def setup(self) -> PluginInstance: ...

runner 会在每次运行调用并 await 一次 setup();如果 handoff 到了另一个 agent,也会逐个执行目标 agent 插件的 setup()。返回的贡献内容会合并到运行循环的固定扩展点:

PluginInstance 字段 效果
tools 合并进 agent 工具集(同一个命名空间;冲突和其他工具来源一样会报错)
instructions 追加到 system prompt 的静态文本,运行开始时渲染一次
view_injectors 每轮调用;返回的 entries 只追加到本轮模型 view,不持久化
hooks 接收每个运行事件的 AgentHooks,和 agent 自己的 hooks 一起派发
input_guardrails / output_guardrails 和 agent 自己的护栏合并,在循环已有检查点运行
aclose 运行结束时 await 的 coroutine(多个插件按 LIFO,尽力清理)

插件是纯追加的:它们不驱动控制流。中止、重试和 handoff 仍由循环掌控。插件护栏也只能 通过 agent 自己护栏相同的检查点来终止运行。

name 是插件身份:每个 agent 内唯一(在任何 setup() 运行前校验),并且应保持稳定。

视图注入器:为每轮添加临时内容

这是一个比较特殊的扩展点。ViewInjector 每轮都会接收实时 RunContext,并返回要追加到本轮模型 view的 transcript entries:

def inject(ctx: RunContext) -> list[TranscriptEntry] | None:
    if not store.items:
        return None
    return [InputEntry(role="user", content=f"<system-reminder>\n{render(store.items)}\n</system-reminder>")]

因为注入的 entries 不进入 transcript 或 session,它们不会随着轮次增长而累积,不会破坏 provider 的缓存 prompt 前缀,恢复运行时也不会回放它们。injector 应该每轮重新生成自己的 内容(提醒、时钟、todo list)。injector 失败时放行:抛异常会记录日志并跳过, 不会中止运行。保持小而快;它们是在上下文策略塑造 view 之后追加的。

状态作用域

写插件时最需要想清楚的是状态放在哪里;这会直接决定并发下的行为:

  • 每次运行的状态setup() 内部构建并被闭包捕获。每次运行都有新副本,天然并发安全。 下面的 todo list 就是这样。
  • 跨运行状态(数据库、索引、术语表)放在插件对象上,在构造时传入。它被所有运行共享, 可能同时访问,所以必须并发安全。插件也不会关闭它:生命周期属于创建它的人。 Memory 就是这样。

示例:跨会话术语表

一个有状态插件的完整形态:共享后端、一个工具、提示词文本,再加一小段代码:

from dataclasses import dataclass
from typing import Protocol

from lovia import Agent, PluginInstance, tool


class Glossary(Protocol):
    """你的共享后端:DB、文件或内存 dict。"""

    async def define(self, term: str, meaning: str) -> None: ...
    async def lookup(self, term: str) -> str | None: ...


@dataclass
class GlossaryPlugin:
    """agent 可读写的跨会话术语表。"""

    store: Glossary          # 长生命周期,所有运行共享
    name: str = "glossary"

    async def setup(self) -> PluginInstance:
        store = self.store

        @tool
        async def define(term: str, meaning: str) -> str:
            """记录一个领域术语的含义,供当前和之后的会话使用。"""
            await store.define(term, meaning)
            return f"已记录:{term}。"

        @tool
        async def lookup(term: str) -> str:
            """查询之前定义过的领域术语。"""
            return await store.lookup(term) or f"没有 {term!r} 的定义。"

        return PluginInstance(
            tools=[define, lookup],
            instructions="当用户解释领域术语时,用 `define` 记录;"
            "在请用户重新解释前,先用 `lookup` 查询。",
        )


agent = Agent(name="assistant", model="<model>", plugins=[GlossaryPlugin(MyGlossary())])

如果插件在 setup() 中打开资源(MCP 连接、HTTP client),就通过 aclose 返回清理动作:

async def setup(self) -> PluginInstance:
    conn = await open_connection(self.url)
    return PluginInstance(tools=tools_from(conn), aclose=conn.close)

内置插件

插件 一句话 指南
Todo() 外置 Checklist,每轮重新展示 Todo
Skills(...) 带渐进披露的指令包 Skills
MCP(...) Model Context Protocol 服务器提供的工具 MCP
Memory(...) 跨会话长期记忆 记忆

Todo 的模型交互方式、恢复行为和观察接口无需编写自定义插件也很有用,因此单独整理在 Todo中。

注意事项

  • 把运行状态放在插件对象上是并发 bug。 同一个 agent 的两个并发运行共享插件实例; 不在 setup() 内部创建的可变内容,都是共享可变状态。
  • setup() 按 agent、按运行执行,包括 handoff 目标。 同一个插件如果挂在 handoff 两侧,会在一次运行中激活两次;请让 setup() 保持轻量,并且效果上幂等。
  • instructions 在一次运行内是静态的。 PluginInstance.instructions 只在运行开始时渲染一次; 需要每轮变化的内容应该放进 view injector。
  • 注入的 view entries 对持久化不可见,这是设计。某个提醒如果之后必须可审计,就把它做成 工具结果。

延伸阅读