返回探索
指南VibeFix 内容整理更新于 2026年11月20日

有人在刷你的 AI 功能:vibe 项目的 AI 滥用防护实战

免费又不限量的 AI 功能最招滥用:一个账号一个周末能烧掉一个月的模型预算。五层漏斗——身份、配额、行为、成本、复核——再加成本熔断。本篇走查示例中的项目、人物与数字均为虚构。

深夜里一名开发者对着两块满是代码的屏幕工作,盯着产品的用量

你的 vibe 项目上线第三周,AI 功能突然火了——不是因为用户变多了,而是因为账单变多了。周一早上你打开模型服务商的控制台,发现周末两天烧掉的 token 是平时一个月的量,调用日志里同一个账号一夜生成了上千篇 newsletter。你没被黑客攻击,没有密钥泄露,只是有几个人发现你的 AI 功能免费、不限量,于是把它当成了自己的免费打字机。这就是 AI 功能滥用:不是注入攻击、不是撞库,而是一群真实用户用真实账号,把你的模型账单当水喝。

先说清楚两件事。第一,本篇里的走查项目“小字报”、开发者“林晚”和所有调用量、金额数字全部是虚构的,只是为了把防护过程讲明白而编的例子。第二,划界:本站已经发过《Prompt 注入防御》,那篇讲的是攻击者用精心构造的输入操纵模型、让它说出不该说的话;也发过《Agent 花费硬上限》和《注册反机器人验证》,前者管的是你自己的 Agent 别失控烧钱,后者管的是注册环节的机器人。本篇只讲一件事——用户滥用你产品里的 AI 功能怎么办:怎么发现、怎么分层拦、怎么在不误伤好用户的前提下把账单摁住,不重复注入防御,也不重复注册反刷。

深夜里一名开发者对着两块满是代码的屏幕工作,盯着产品的用量

一、滥用长什么样:先认出四种人

防护的第一步是认人。滥用你的 AI 功能的通常是四种人,动机和打法各不相同,拦法也不一样。

第一种是“薅羊毛的个人用户”。他发现免费额度每天能生成二十篇 newsletter,于是每天准时来薅满,还教朋友一起来。他的调用看着都像正常请求,只是量大、时间准。虚构的“小字报”上线时免费额度是每天二十次生成,林晚在日志里看到三个账号连续七天每天正好用满二十次,一次不多、一次不少——这就是薅羊毛的指纹:掐着上限用,从不超限,因为超限会被拦。

第二种是“拿你当 API 用的开发者”。他不走你的界面,抓了你的请求格式,用脚本批量调用你的 AI 接口,生成内容再卖到别处。特征是调用间隔极其均匀、没有页面停留、User-Agent 千篇一律。林晚在第三周发现一个账号每小时整点准时发起六十次调用,间隔精确到秒——人不是这样用产品的,脚本才是。

第三种是“试探底线的捣乱者”。他不图钱,就想看看你的 AI 能不能被哄着输出违规内容、能不能被绕过内容过滤。特征是输入越来越长、越来越怪,连续多次触发你的内容过滤。这类人量不大,但一次漏网就可能让你收到平台警告。

第四种最隐蔽:“被盗用的正常账号”。账号本身是真实用户注册的,但密码在别处泄露了,别人拿去批量调用。特征是行为突然变了:一个平时每周生成两篇的用户,某天凌晨三点开始每分钟生成一篇。认出这一种,靠的不是单次调用长什么样,而是“这个人平时不是这样的”。

认出这四种人之后,防护就有了方向:对第一种要限量,对第二种要鉴权,对第三种要过滤,对第四种要风控。指望一道墙拦住四种人,是滥用防护里最常见的误会。

二、五层防护漏斗:每一层只干一件事

别想着用一个“防刷系统”解决所有问题。实用的做法是五层漏斗,每一层只干一件事,拦不住的交给下一层。下面的漏斗数字是虚构的示意数字,用来说明每一层的分工,不是任何真实产品的统计。

五层防护漏斗(虚构示例):1000 次可疑调用经身份层 400、配额层 300、行为层 200、成本层 80,剩 20 次进入人工复核

第一层是身份层:谁在调用。AI 功能必须登录才能用,匿名调用一律不给。每个账号、每个 API 密钥都要能对应到一个真实身份,调用日志里必须能查到“这次调用是谁发起的”。林晚踩过的坑是:上线第一周为了降低注册门槛,AI 生成功能允许游客试用三次——结果这三次成了滥用的入口,换个浏览器指纹就能再领三次。改成登录后可用,滥用立刻少了一大半。这一层拦的是“连身份都没有的调用”。

第二层是配额层:每人每天能用多少。免费用户每天二十次、付费用户每天两百次,写进产品规则里,也写进代码里。配额要按账号算、按天算,超了就返回明确的提示和升级入口,而不是悄悄放行。关键是配额必须在服务端执行:前端显示“今日剩余三次”只是提示,真正的计数器要在服务端,客户端传来的任何数字都不能信。

第三层是行为层:这次调用像不像人。看三件事:速度、节奏和内容。速度是单位时间内的调用次数,正常人两次生成之间至少要读一会儿结果;节奏是调用间隔是不是均匀得像时钟;内容是输入长度、重复度是不是异常。触发行为规则时别直接封号,先上软措施:加一道人机验证、把响应延迟几秒、临时把配额减半。软措施的好处是误伤了也能立刻恢复,硬封号误伤了就是一次客诉。

第四层是成本层:这单生意还做不做得下去。给每个账号、每个功能都设一个成本上限:单次生成的最大 token 数、单日最大的模型花费。超过上限的调用直接拒绝,并记下来。林晚给“小字报”设的规矩是:单次生成最多四千 token,免费账号单日模型成本超过两块钱就停掉当天的免费额度。这个数字本身不重要,重要的是“超过就停”这个动作是自动的,不需要你半夜起来手动关。

第五层是人工复核:漏网的怎么办。再好的漏斗也会漏。每天花十分钟看一眼被拦下来的调用:有没有正常用户被误伤、有没有新花样的滥用正在冒头。复核的产出是两样东西:把误伤的账号放出来、把新发现的滥用特征写成下一条规则。没有复核的防护系统,三个月后一定会同时出现两种问题:好用户进不来,坏用户拦不住。

三、配额设计:免费额度不是越大越好

免费额度是获客工具,也是滥用的入口。设计配额时记住三条。第一条,免费额度要够体验、不够谋生:能让新用户完整走完一次核心流程、看到一次好结果,但不够他每天批量生产拿去卖。“小字报”的免费额度从每天二十次砍到每天五次之后,注册转化率只掉了不到一成,滥用调用却少了八成——因为薅羊毛的人要的是量,不是体验。

第二条,配额要分级,不要一刀切。新注册账号、验证过邮箱的账号、付费账号,额度应该不一样。新账号先给小额度,用满一周没有异常再慢慢放开。这叫“额度成长”:账号越老、行为越正常,额度越高。一次性给新账号满额,和把家门钥匙挂在门口没有区别。

第三条,超限时的提示要说人话。“429 Too Many Requests”这种提示,用户看不懂,也不知道下一步干什么。好的提示是三句话:你今天的免费额度用完了、明天几点恢复、如果现在就需要可以升级到付费版。林晚把超限提示改成这个版本之后,因为“额度用完”来找客服的人少了一半,升级付费的人反而多了——因为提示里给了出路,而不是一堵墙。

四、成本熔断:账单失控时的救命开关

配额防的是单个账号,熔断防的是全局失控。熔断是三档开关,提前写好、自动执行,别等到账单出来才想起来。

第一档是预警。模型花费达到昨天同期的两倍、或者单小时调用量超过过去七天同一时段的三倍,就发通知给你。预警的阈值要按你的业务量来定,定得太低会天天响、响多了你就不看了,定得太高等于没有。林晚的预警线是:单日模型花费超过五十块钱发一次通知,超过一百块钱再发一次。五十块钱这个数字是虚构例子里的,照搬没有意义,重要的是你的预警线要写在配置里、而不是记在脑子里。

第二档是降级。触发预警后,系统自动做三件事:免费用户的排队变慢、单次生成的最大长度减半、非核心的 AI 功能(比如“换个风格再写一版”)临时下线。降级不是关停,好用户只是觉得慢了一点,但滥用者的单位时间产出直接腰斩。降级要写进产品状态页里,告诉用户“现在系统繁忙,部分功能变慢”,别让用户对着转圈干等。

第三档是断路。单日花费冲到你设定的硬上限,就把所有 AI 调用停掉,只留付费用户的最小额度。硬上限的数字按你的承受能力来:一个月能烧掉的钱,最多就是这个数。断路开关必须能手动恢复,也必须能在恢复前先看一眼日志——到底是哪个账号、哪个功能烧掉的钱。没有断路器的系统,和没有刹车的车没有区别。

熔断的三档要定期演练:每个月手动触发一次降级,确认通知能收到、排队真的变慢了、断路真的停得下来。演练时发现的故障,比真实滥用时发现的故障便宜得多。

五、内容过滤与隐私:别让模型替你惹麻烦

滥用防护不只是省钱,还有一层是别让模型输出给你惹麻烦。输入侧做两件事:第一,长度和格式限制,单次输入超过一万字直接拒绝,附带超大附件的请求先走文件大小检查;第二,敏感词与越狱试探的拦截,连续多次触发过滤的账号先降级、再人工看。输出侧做一件事:生成结果先过一遍过滤再返回给用户,别把模型的原始输出直接吐给前端。

隐私上还有一条红线:别把用户的原文提示词原样记进日志,更别拿去做训练。日志里只记脱敏后的摘要:调用时间、账号、token 数、触发了哪条规则。林晚的日志规范是:提示词只保留前二十个字,其余的全部打码;包含邮箱、电话、地址的调用,整条提示词都不落日志。这一条不是为了防滥用,而是为了万一哪天日志泄露了,你不用给用户写道歉信。

六、误伤好用户怎么办:留一条申诉的路

任何防护都会误伤。误伤本身不可怕,可怕的是用户被误伤之后找不到人说话。留三样东西。第一,被拦时告诉用户为什么:“你的调用速度超过了正常范围”比“系统繁忙”有用得多。第二,给一个申诉入口:被封的账号可以在站内发一条申诉,写清楚自己在做什么。第三,申诉要在一个工作日内有人看:一个人团队也要做到每天看一次申诉列表,误伤的账号当天放出来,还要把这次误伤记下来,改掉触发它的那条规则。

林晚的“小字报”有过一次真实的教训——当然,这里的“真实”是指虚构例子里的情节:一个用户在截止日前赶稿,一小时生成了四十篇 newsletter,被行为层判定为脚本、封了账号。用户申诉时贴出了自己的发稿日历和草稿时间线,林晚当天就把账号放了出来,还把行为层的阈值从每小时三十次放宽到五十次,并且给“连续生成”加了一条例外:同一主题下的连续生成不计入脚本判定。误伤修好的那天,防护系统才真正变强了一点。

七、复盘:把每次滥用变成一条规则

防护系统最怕的不是滥用,而是滥用来了、走了,你什么都没留下。每次处理完一起滥用事件,花二十分钟写三行复盘:第一行写“发生了什么”,比如哪个账号、哪个功能、烧了多少钱、持续了多久;第二行写“哪一层本该拦住它”,是身份层没要求登录,还是配额层没在服务端执行,还是行为层阈值定得太松;第三行写“改了哪条规则”,并且把这条规则写进代码、写进检查清单,而不是只记在脑子里。

复盘还有一个用处:它能告诉你防护是不是过度了。每个月看一次被拦的调用里有多少是误伤,如果误伤连续两个月超过一成,说明某条规则定得太紧,该松一松;如果漏网的滥用连续两个月都在涨,说明该加新的一层,而不是把旧阈值越调越紧。林晚的“小字报”每月复盘一次,三个月下来配额层的阈值改了两次、行为层加了一条“同一主题连续生成不计入脚本判定”的例外,误伤率从一开始的两成降到了半成以下——这些数字同样是虚构例子里的,但方向是对的:复盘不是写报告,是让下一回的拦和放都更准一点。

八、上线前检查清单:抄走就能用

AI 功能上线之前,把下面这张清单逐项打勾。它是林晚第二次上线“小字报” AI 功能前用的那张。

第一,AI 功能必须登录才能用,匿名调用一律拒绝,调用日志能查到每次调用属于哪个账号。第二,配额在服务端执行,免费额度和付费额度分开写,新账号先给小额度。第三,单次生成的最大 token 数、单日最大的模型花费都设了上限,超过就自动停。第四,三档熔断写好了:预警线、降级动作、断路上限,全部能自动执行,每个月演练一次。第五,输入长度有限制,输出先过滤再返回,日志里不存完整的用户提示词。第六,被拦的用户能看到原因、能申诉,申诉列表每天有人看。第七,超限提示写的是人话:额度用完了、几点恢复、怎么升级。

最后一句话:AI 功能的滥用防护,不是一次性搭好的墙,而是一套每天只花十分钟的习惯——看一眼日志、放一个误伤的账号、加一条新规则。林晚的“小字报”到今天也没有做到零滥用,但账单再也没有出现过周末烧掉一个月钱的情况。对一个人团队来说,这就够了:防护的目标不是让坏人绝迹,而是让滥用变得不划算,让好用户永远有路可走。

阅读 5评论 0

评论 (0)

ME
0/1000
评论加载中...
浏览项目广场发布你的项目

相关文章

真实照片:一双手在 MacBook Pro 上打字,屏幕显示改写 HTML 内容的 JavaScript 代码,白色桌面上有白色鼠标、纸张和文件夹
指南
别让函数把你绕晕:JavaScript 函数、参数与箭头函数实战指南

函数你每天都在调,这篇把你一直在做的事讲清楚。本文按 MDN 的《Functions》《Arrow function expressions》《Rest parameters》三篇官方文档讲清楚:声明与表达式、参数与实参、默认值、剩余参数、展开语法、返回值、箭头函数省写规则、this 的坑、回调与高阶函数、作用域。

工具技巧前端工程AI 编程实践
真实照片:木桌上的笔记本电脑、平板与手机同时显示同一个绿叶主题网站,手机上导航已折成单列,桌角有一盆绿植
指南
手机上缩成一团?响应式布局与媒体查询实战指南

同一个页面要在手机、平板、电脑上都站得住。本文按 MDN 的《Responsive web design》《Using media queries》《viewport meta 参考》三篇官方文档讲清楚:流式 HTML、viewport 标签、流式网格与 max-width、图片不撑破容器、媒体查询语法、按内容定断点、mobile-first、响应式字号、按能力查设备与上线检查清单。

移动应用设计体验前端工程
真实照片:木桌上的卡西欧科学计算器,屏幕显示 123456789 + 987654321 = 1111111110,旁边是写满手写数学公式的笔记本、钢笔、咖啡杯和笔记本电脑一角
指南
别让 0.1 + 0.2 坑了你的账单:JavaScript 数字与 Math 实战指南

JavaScript 里数字只有一种类型 Number,存成 64 位浮点数,所以 0.1 + 0.2 等于 0.30000000000000004。本文按 MDN 的《Basic math in JavaScript》《Math》《Number》三篇官方文档讲清楚:一种数字类型、浮点误差、钱改成分算、字符串转数字、NaN 与 Infinity、安全整数、四种取整、Math.random、Math 工具箱与显示格式化。

工具技巧前端工程AI 编程实践