插件¶
一项可复用能力可能同时包含工具、提示词、每轮提醒、钩子和清理操作。插件(plugin)把它们 打包在一起;Skills、MCP、Todo 和 Memory 都使用这套扩展机制。
from lovia import Agent, Memory, Skills, Todo
agent = Agent(
name="builder",
model="<model>",
plugins=[Todo(), Skills("./skills"), Memory("./.lovia/memory")],
)
如果能力只有一个独立函数,直接使用 @tool 通常更清楚。只有当它需要同时携带
提示词、状态、每轮提醒或清理逻辑时,才值得写成 Plugin。
契约¶
任何拥有 name 和异步 setup(ctx) 方法、且能返回 PluginInstance 的对象,都可以作为插件:
Runner 会在每次运行调用并等待一次 setup();如果 Handoff 到另一个
Agent,也会依次执行目标 Agent 插件的 setup()。返回内容会合并到运行循环的固定扩展点。
ctx 是本次运行的实时 RunContext,与工具、钩子拿到的是同一个句柄,插件可以据此按会话或用户
定制自己的贡献。setup 时 session_id、run_id、deps 已经确定,agent / workspace
是正在激活的那个 Agent;entries 在运行开始时为空,不要从它推导任何东西。
PluginInstance 字段 |
效果 |
|---|---|
tools |
合并进 Agent 工具集(共用一个命名空间;名称冲突时会报错) |
instructions |
追加到 system prompt,运行开始时渲染一次 |
view_injectors |
每轮调用;返回的条目只进入本轮模型 View,不持久化 |
hooks |
接收运行事件,与 Agent 自身的 AgentHooks 一起触发 |
input_guardrails / output_guardrails |
与 Agent 自身的护栏合并,在既定检查点运行 |
aclose |
运行结束时等待的 coroutine(多个插件按 LIFO 顺序尽力清理) |
插件的贡献内容只会合并到固定扩展点,Plugin 本身不接管控制流。中止、重试和 Handoff 仍由运行循环执行;插件护栏也只能在与 Agent 护栏相同的检查点终止运行。
name 是插件身份:每个 agent 内唯一(在任何 setup() 运行前校验),并且应保持稳定。
视图注入器:为每轮添加临时内容¶
这是一个比较特殊的扩展点。ViewInjector 每轮都会接收当前 RunContext,并返回要追加到本轮模型
View 的 TranscriptEntry:
def inject(ctx: RunContext) -> list[TranscriptEntry] | None:
if not store.items:
return None
return [InputEntry(role="user", content=f"<system-reminder>\n{render(store.items)}\n</system-reminder>")]
因为注入内容不进入 Transcript 或 Session,所以不会随轮次累积,也不会在恢复运行时回放。 它们还会保留 Provider 可缓存的 prompt 前缀。Injector 应在每轮重新生成提醒、时钟、Todo 列表等内容。 Injector 失败时放行:异常会被记录并跳过,不会中止运行。实现应尽量小而快;注入发生在 上下文策略塑造模型 View 之后。
状态作用域¶
写插件时最需要想清楚的是状态放在哪里;这会直接决定并发下的行为:
- 每次运行的状态在
setup()内部构建并被闭包捕获。每次运行都有新副本,天然并发安全。 下面的 todo list 就是这样。 - 跨运行状态(数据库、索引、术语表)放在插件对象上,在构造时传入。它被所有运行共享, 可能同时访问,所以必须并发安全。插件也不会关闭它:生命周期属于创建它的人。 Memory 就是这样。
示例:跨会话术语表¶
一个有状态插件的完整形态:共享后端、一个工具、提示词文本,再加一小段代码:
from dataclasses import dataclass
from typing import Protocol
from lovia import Agent, PluginInstance, RunContext, tool
class Glossary(Protocol):
"""你的共享后端:DB、文件或内存 dict。"""
async def define(self, term: str, meaning: str) -> None: ...
async def lookup(self, term: str) -> str | None: ...
@dataclass
class GlossaryPlugin:
"""agent 可读写的跨会话术语表。"""
store: Glossary # 长生命周期,所有运行共享
name: str = "glossary"
async def setup(self, ctx: RunContext) -> PluginInstance:
store = self.store
@tool
async def define(term: str, meaning: str) -> str:
"""记录一个领域术语的含义,供当前和之后的会话使用。"""
await store.define(term, meaning)
return f"已记录:{term}。"
@tool
async def lookup(term: str) -> str:
"""查询之前定义过的领域术语。"""
return await store.lookup(term) or f"没有 {term!r} 的定义。"
return PluginInstance(
tools=[define, lookup],
instructions="当用户解释领域术语时,用 `define` 记录;"
"在请用户重新解释前,先用 `lookup` 查询。",
)
agent = Agent(name="assistant", model="<model>", plugins=[GlossaryPlugin(MyGlossary())])
如果插件在 setup() 中打开资源(MCP 连接、HTTP client),就通过 aclose 返回清理动作:
async def setup(self, ctx: RunContext) -> PluginInstance:
conn = await open_connection(self.url)
return PluginInstance(tools=tools_from(conn), aclose=conn.close)
完整示例:循环守卫¶
插件不一定要提供工具。这个示例把 hook(观察)和 view injector(提醒)组合起来:当模型反复重试 一个以同样方式失败的工具调用时,提醒它一次。
import json
from dataclasses import dataclass
from typing import Any
from lovia import Agent, AgentHooks, PluginInstance, RunContext, events
from lovia.transcript import InputEntry, TranscriptEntry
@dataclass
class LoopGuard:
"""Nudge the model when it keeps retrying the same failing tool call."""
threshold: int = 3
name: str = "loop_guard"
async def setup(self, ctx: RunContext[Any]) -> PluginInstance:
# Per-run state, closed over by the hook and the injector below.
last: str | None = None # signature of the latest failed call
streak = 0
pending: str | None = None # a reminder owed to the next turn
hooks = AgentHooks()
@hooks.on(events.ToolCallCompleted)
def track(ev: events.ToolCallCompleted, ctx: RunContext[Any]) -> None:
nonlocal last, streak, pending
if not ev.is_error: # any success ends the streak
last, streak, pending = None, 0, None
return
try:
args = json.dumps(json.loads(ev.call.arguments), sort_keys=True)
except json.JSONDecodeError:
args = ev.call.arguments
sig = f"{ev.call.name}:{args}"
streak = streak + 1 if sig == last else 1
last = sig
if streak == self.threshold: # == not >=: once per streak
pending = (
f"You called `{ev.call.name}` with identical arguments "
f"{streak} times and it failed each time. Change approach "
"instead of retrying the same call."
)
@hooks.on(events.MessageCompleted)
def delivered(ev: events.MessageCompleted, ctx: RunContext[Any]) -> None:
nonlocal pending
pending = None # the model has answered a view that carried it
def remind(ctx: RunContext[Any]) -> list[TranscriptEntry] | None:
# Not cleared here: an overflow retry rebuilds the view and calls
# the injector again, and must still see the reminder.
if pending is None:
return None
content = f"<system-reminder>\n{pending}\n</system-reminder>"
return [InputEntry(role="user", content=content)]
return PluginInstance(hooks=hooks, view_injectors=[remind])
agent = Agent(name="builder", model="<model>", plugins=[LoopGuard()])
- 只统计工具错误(
ToolCallCompleted.is_error)。在 lovia 中,shell 命令以非零码退出不算错误 ——退出码只是输出的一部分——所以轮询、改完代码后重跑测试都不会触发它。 - 签名是工具名加参数的规范化 JSON,键的顺序和空白不影响比较;任何一次成功的工具调用都会 重置计数。
- 每段连续失败只提醒一次:在第
threshold次相同失败之后的下一轮注入。它是 view entry, 从不写入 transcript 或 session,所以缓存的 prompt 前缀保持稳定。 - 不强行中止。 模型如果无视提醒,仍会撞上
max_turns/RunBudget, 它们才是最后的兜底。
内置插件¶
| 插件 | 一句话 | 指南 |
|---|---|---|
Todo() |
外置 Checklist,每轮重新展示 | Todo |
Skills(...) |
带渐进披露的指令包 | Skills |
MCP(...) |
Model Context Protocol 服务器提供的工具 | MCP |
Memory(...) |
跨会话长期记忆 | 记忆 |
设计建议¶
- 把运行状态放在插件对象上是并发 bug。 同一个 agent 的两个并发运行共享插件实例;
不在
setup()内部创建的可变内容,都是共享可变状态。 setup()按 agent、按运行执行,包括 handoff 目标。 同一个插件如果挂在 handoff 两侧,会在一次运行中激活两次;请让setup()保持轻量,并且效果上幂等。- instructions 在一次运行内是静态的。
PluginInstance.instructions只在运行开始时渲染一次; 需要每轮变化的内容应该放进 view injector。 - 注入的 view entries 对持久化不可见,这是设计。某个提醒如果之后必须可审计,就把它做成 工具结果。
延伸阅读¶
- Todo · Skills · MCP · 记忆:深入了解内置插件
- 上下文管理:view 如何围绕 injector 组装
- 示例:
21_todos.py,25_custom_plugin.py