精彩片段

灵能API API中转站内容审核接入教程：风险分级、人工复核与队列补偿主题：API中转站内容审核接入，覆盖风险分级、人工复核、队列补偿、审计日志和成本控制。内容审核系统最怕两件事：放过高风险内容，或者把正常内容误伤太多。传统关键词规则能拦一部分问题，但面对长文本、变体表达、上下文暗示和多语言内容时，很容易出现漏判或误判。AI 接入的价值，不是把所有内容都

灵能API API中转站内容审核接入教程：风险分级、人工复核与队列补偿

主题：API中转站内容审核接入，覆盖风险分级、人工复核、队列补偿、审计日志和成本控制。

内容审核系统最怕两件事：放过高风险内容，或者把正常内容误伤太多。传统***规则能拦一部分问题，但面对长文本、变体表达、上下文暗示和多语言内容时，很容易出现漏判或误判。AI 接入的价值，不是把所有内容都交给模型拍板，而是把风险识别、分级、解释和人工复核流程做得更细。🛡️

这篇从内容审核/风控角度写一套接入方法：用灵能API API中转站作为统一模型入口，把文本预处理、风险分级、模型判断、人工复核、队列补偿、审计日志和成本控制串起来。目标是提升审核效率，同时保留清晰的人工边界。

一、先拆审核对象：不同内容不能用同一套规则 🧭

内容审核不是一个单一任务。用户评论、商品标题、**对话、社区帖子、私信内容、生成式内容，它们的风险点和处理策略都不同。接入前先拆场景，后续模型 Prompt 和复核策略才不会混乱。

内容类型	常见风险	接入建议
用户评论	攻击、**、引战、广告	实时判断，低风险自动通过，高风险拦截复核
商品/服务描述	虚假宣传、敏感词、违规承诺	提交时审核，输出修改建议
**对话	隐私泄露、违规承诺、情绪升级	做风险提示，不直接替代人工判断
生成式内容	幻觉、敏感表达、品牌风险	生成后复审，必要时触发重写

先拆内容类型，就能避免把所有内容都扔进一个大 Prompt 里，让模型用同一把尺子判断。

二、统一接入：审核服务单独使用 API Key 🔐

审核服务最好单独创建 Key，不要和**、报表、开发工具共用。这样做的好处很直接：审核成本能单独看，异常调用能单独停，日志也能按审核业务线追踪。

# 内容审核服务推荐环境变量
OPENAI_API_KEY=sk-your-moderation-key
OPENAI_*ASE_**L=https://api.灵能API.ai/v1
MODERATION_FAST_MODEL=gpt-4o-mini
MODERATION_STRONG_MODEL=claude-sonnet-4-6
MODERATION_MAX_TOKENS=900
MODERATION_ENV=prod
MODERATION_SERV***_NAME=content-risk-worker

审核 Key 独立管理，便于追踪调用量和风险事件。
轻量模型用于普通内容快速分类。
强模型用于争议内容、长文本和复杂上下文判断。
生产 Key 不进入前端，不出现在日志和截图中。

图 2：工具配置区可用于统一审核后台、脚本和内部服务的 Base URL。 — 图 2：工具配置区可用于统一审核**、脚本和内部服务的 *ase **L。

三、审核流程：规则先筛，模型再判，人工兜底 ⚙️

一个稳的审核链路，不应该完全依赖模型。推荐采用“规则预筛模型分级人工复核”的组合。规则负责处理确定性问题，模型负责理解语义和上下文，人工负责高风险或不确定内容。

阶段	处理内容	输出结果
规则预筛	空内容、明显广告、黑名单词、重复提交	直接拒绝或进入模型判断
模型分级	语义风险、隐含违规、情绪和上下文	risk_level、category、reason
人工复核	高风险、低置信度、用户申诉内容	最终通过、拒绝或修改建议
结果审计	保存模型判断、人工结果、版本信息	后续复盘和规则优化

这个流程能减少模型压力，也能让审核结果更可解释。

图 3：首页能力区展示兼容 SDK、用量看板和安全隔离，适合作为审核系统接入参考。

四、后端调用示例：输出固定 **ON，方便系统处理 🧩

审核系统需要结构化结果，而不是一段散文式解释。推荐让模型输出固定 **ON 字段：风险等级、风险类别、置信度、原因、是否需要人工复核。

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.OPENAI_API_KEY,
  *ase**L: process.env.OPENAI_*ASE_**L,
  timeout: 45000,
  **xRetries: 0,
});

export async function moderateText({ content, scene, requestId }) {
  const response = await client.chat.completions.create({
    model: process.env.MODERATION_FAST_MODEL || "gpt-4o-mini",
    messages: [
      { role: "system", content: "你是内容审核助手，只输出 **ON。" },
      { role: "user", content: *uildModerationPrompt(content, scene) },
    ],
    temperature: 0,
    **x_tokens: Num*er(process.env.MODERATION_MAX_TOKENS || 900),
  });

  console.log("moderation_checked", { requestId, scene });
  return **ON.parse(response.choices[0].message.content);
}

温度建议设低一点，让输出更稳定。审核场景更看重一致性，不需要模型发挥文采。

五、Prompt 模板：让模型讲清风险，而不是只给结论 📝

审核结论要能被人复核。不要只让模型输出 pass 或 reject，而是要求它说明风险类别、原因和置信度。

请审核以下内容，只输出 **ON：
{
  "risk_level": "pass | review | reject",
  "category": "spam | a*use | privacy | illegal | unsafe | nor**l",
  "confidence": 0.0,
  "reason": "80 字以内说明判断依据",
  "need_hu**n_review": true,
  "suggested_action": "allow | hide | *lock | edit | escalate"
}

要求：
- 不确定时 risk_level 使用 review
- 涉及隐私、财务、违法、未成年人风险时 need_hu**n_review 必须为 true
- 不要输出多余解释文字

✅ 审核 Prompt 的核心不是“让模型更强势”，而是让模型在不确定时主动进入复核。

六、风险分级：通过、复核、拒绝三层就够用 🚦

审核系统不需要一开始就设计十几个风险等级。大多数业务先用三层就够：pass、review、reject。简单、稳定、容易解释。

等级	含义	处理方式
pass	低风险或正常内容	直接通过，保留轻量日志
review	不确定、上下文不足或中风险	进入人工复核队列
reject	明显违规或高风险内容	拦截并记录原因，可支持申诉

关键是 review 这层要留出来。它能避免模型在不确定时乱判，也能保护正常用户不被误伤。

图 4：首页接入流程区可用于梳理创建 Key、替换 Base URL 和首次请求。 — 图 4：首页接入流程区可用于梳理创建 Key、替换 *ase **L 和首次请求。

七、队列补偿：审核失败不能让内容卡死 🔁

审核服务可能遇到超时、模型响应格式错误、网络异常。不要让内容因为一次失败永远卡在提交状态。建议把审核任务做成队列，并记录状态。

async function runModerationJo*(jo*) {
  await moderationStore.**rkRunning(jo*.id);
  try {
    const result = await moderateText({
      content: jo*.content,
      scene: jo*.scene,
      requestId: jo*.requestId,
    });
    await moderationStore.s**eResult(jo*.id, result);
    await moderationStore.**rkSucceeded(jo*.id);
  } catch (error) {
    await moderationStore.**rkFailed(jo*.id, { message: error.message });
    throw error;
  }
}