
那个挂着「马尾辫」的 GitHub 项目刷屏了GLiNER2 号称帮你省下 80% 的 token【免费下载链接】gliner2.5-multi-v1项目地址: https://ai.gitcode.com/hf_mirrors/fastino/gliner2.5-multi-v1最近开源圈流传着一个项目名字不响、头像不酷打开仓库首页第一反应多半是这是哪个大聪明在恶搞没错就是它——被程序员戏称为「马尾辫」的那个仓库。有掘金博主专门写了篇吐槽文标题就很有画面感幽默一个 GitHub 名字叫马尾辫但是他给你省了 80% 的 token。文章两千多阅读、十几条点赞评论区清一色是笑完我去装了。今天咱不笑聊聊它到底在帮谁省钱。一、它到底是个啥一句话说清先说人话。现在大家让 AI 干活的套路是这样的把一段文字丢给 ChatGPT 或者大模型说帮我从这段话里把人名、公司、产品、价格都挑出来整理成一张表。大模型确实能办到但它有个毛病——又贵、又慢、还不一定守口如瓶你每发一次请求输入的文字、它生成的表格全都要按 token 计费而且你的合同、客户数据都得原封不动传到别人的服务器上。GLiNER2 的思路完全反过来它不是大模型是一个只有2.87 亿参数的小模型对比一下主流大模型动辄 70 亿起步差了两百倍。你把它当成一位专门管档案的老文书不用教、不用喂整篇文章、不用看它一步步思考你把文字和要抓哪几样东西往它面前一放它一次扫描、瞬间出结果。更关键的是这位老文书可以完全放在你自己电脑上跑。CPU 就行不用显卡不用联网数据一个字节都不出你的机器。二、到底有多牛三个点最扎心第一个一个顶五个一次出全套。普通的文字处理工具挑人名是一个模型、判情绪是一个模型、抽关系又是一个模型得摆一排。GLiNER2 是一个模型同时干五样活抽实体、判主题和情感、整理成结构化表格、抓人物之间的关系、甚至能给每个被提到的人单独标上他对这件事是高兴还是不满。官方 README 里有组直观的演示输入一句话苹果 CEO 蒂姆·库克昨天在库比蒂诺发布了 iPhone 15它直接吐出公司——苹果置信度 0.98、人物——蒂姆·库克0.97、产品——iPhone 150.96、地点——库比蒂诺0.95。每条还附带一个我有多确定的分数哪条拿不准你自己一眼就能看出来不用盲信。第二个小个子成绩不输大模型。别小看只有 2.87 亿参数。它背后的论文今年 7 月挂在 arXiv 上里有一张很能打的对比表零样本实体识别GLiNER2 拿了 0.590 分GPT-4o 是 0.599——基本打平文本分类 7 个基准平均分0.72把同级别的其他开源方案甩开了半个身位速度在普通 CPU 上50 个标签的分类任务只要约 0.2 秒比 GPT-4o 走 API 还快约 2.6 倍比同类小模型方案快一个数量级。翻译成人话挑信息的活它干得和几十倍体量的大模型差不多但快得多还不要钱。第三个省钱省在哪这里给你算明白。省 80% token这个说法是社区传开的具体省多少因场景而异但方向一点不虚。走大模型路线你处理一条文本要付输入 token 输出 token 等待时间三笔账文本越长、表格越复杂账单越肥走 GLiNER2 路线小模型本地一次算完输出短小精悍token 账单直接趋近于零而且批处理一万条和一条单价不打折——它压根没单价。另外它还是多语种的中英混着来、二十多种语言都支持对处理跨境电商评价、海外舆情这类活儿特别对路。三、普通人怎么上手门槛有多高先泼半盆冷水它不是那种装了就跟你聊天的 App而是给做 AI 应用的人准备的省钱配件。但对开发者来说门槛真的低到离谱不需要显卡一台普通的办公笔记本就能跑官方还备了一个 7400 万参数的迷你版跑在 CPU 上飞快安装就是一行命令的事装完直接调用模型自动下载全程不用碰服务器嫌折腾它家还有个云端托管服务上传一批标注数据就能帮你微调出行业专属版不用自己租 GPU开源协议是 Apache 2.0商用免费不用看谁脸色。谁最受益做 RAG 知识库和智能问答的团队先把文档里的关键信息刮干净再喂给大模型成本立降、做电商订单和售后工单自动归档的公司、需要盯舆情分类的媒体运营还有金融、法律这种数据绝对不能出内网的行业——最后这一点恰恰是大模型 API 最给不了的东西。四、程序员为什么看完会心一笑因为大家突然发现风向变了。过去一年行业里有个默认动作遇到什么文字处理需求第一反应都是丢给大模型吧。大模型什么都行但什么都能干的代价是什么都贵。GLiNER2 这类项目的走红等于给所有人提了个醒——不是每个活都得请教授出马一个训练有素的专业技工干起特定活儿又快又便宜。这就是那个马尾辫项目真正有意思的地方它名字像个玩笑干的却是笔实打实的账。GitHub 上 2400 多颗星一半是冲着名字来的一半是算了算电费之后默默加上的。最后留个问题给大家你手里有没有那种明明很简单、却只能靠大模型硬算的任务比如订单归档、评论打标签、合同要素提取——欢迎在评论区聊聊说不定下一个省 80% token 的项目就从你们的吐槽里长出来了。【免费下载链接】gliner2.5-multi-v1项目地址: https://ai.gitcode.com/hf_mirrors/fastino/gliner2.5-multi-v1创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考