ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

一次调用,多项决策:GLiNER2.5-Decide如何单次前向同时打分意图、紧急度与路由

一次调用,多项决策:GLiNER2.5-Decide如何单次前向同时打分意图、紧急度与路由 一次调用多项决策GLiNER2.5-Decide如何单次前向同时打分意图、紧急度与路由【免费下载链接】GLiNER2.5-Decide项目地址: https://ai.gitcode.com/hf_mirrors/fastino/GLiNER2.5-DecideGLiNER2.5-Decide 是 GLiNER2.5 家族中的 340M 参数英文文本分类模型主打「一次调用、多项决策」你可以在单次前向推理中同时为一段文本打分意图、紧急度、路由队列等多个标签头无需提示词模板也不生成任何 token。适合意图分类、情绪分析、工单路由、垃圾邮件识别等运营决策场景pip install gliner2后即可在本地 CPU/GPU 上运行。它是什么340M 参数的运营决策专用分类器GLiNER2.5-Decide 不是一个通用大模型而是一个「标签集在调用时才传入」的专用分类器编码器DeBERTa-v3-large24 层、隐藏维度 1024见 encoder_config/config.json架构span 结构的SpanExtractortoken_pooling为 first不生成文本只做打分见 config.json参数规模340MCPU 或 GPU 均可跑通权重文件 model.safetensors协议Apache 2.0 开源配套词表与分词器 tokenizer.json它的定位很明确不推理、不解释、不回答开放式问题只负责对「客户意图、银行请求、情绪、优先级、文档类型、邮件路由、转人工、审核策略、严重级别、垃圾邮件」这类运营决策给出标签。核心能力单次前向同时给多个标签头打分 传统做法里你要判断一封邮件「发送者想要什么、有多紧急、该归哪个团队」往往要跑三次分类甚至串联多个提示词。而classify_text支持在一个调用里传入多个「头」模型对同一段文本一次性完成打分model.classify_text( From: compliancegroup.example\nSubject: Protocol update — action required today\n\n..., { intent: [fyi, request, approval, complaint, newsletter, security_alert], urgency: [low, normal, high, critical], route: [support, billing, legal, security, finance, archive], }, ) # {intent: request, urgency: high, route: legal}一次前向三个答案。路由系统因此不必把模型跑三遍这是「Decide」系列最核心的卖点。单标签 vs 多标签两种返回形态单标签任务意图、路由、情绪返回一个字符串例如{intent: refund_request}多标签任务如产品方面、主题标签返回所有超过阈值的标签例如{aspects: [battery, keyboard, screen]}可用multi_label: True和cls_threshold控制除此之外同一接口还支持带描述标签给标签名附加一句定义私有分类体系无需换更大的模型、序数打分把0~5当普通字符串传入输出 urgency 排名、基于文段的 yes/no 问答传入prompt问题等玩法全部在 README.md 的 Examples 一节有完整示例。基准表现17 个领域上跑赢更大的模型 官方在fastino/fast-decisions基准17 个领域、每域 300 条留出样例、统一文本与候选标签上做了精确匹配评测模型平均准确率GLiNER2.5-Decide (340M)60.2%GLiNER2.5-Decide-1B59.6%JevK557.6%GLiNER2.5-multi-Decide (287M)56.7%SemIf (Qwen3.5-4B)56.4%GLiFormer large-v149.0%Laya Router46.6%340M 的模型反而拿到最高分——对追求低延迟、可本地部署的团队来说「更小、更快、更准」正是选择它的理由。注意该基准是英文语料多语言输入请使用同家族的 GLiNER2.5-multi-Decide。快速上手三步完成安装与首次调用 ⚡pip install gliner2from gliner2 import AutoExtractor model AutoExtractor.from_pretrained(fastino/GLiNER2.5-Decide)然后任选一个任务标签集调用classify_text即可例如垃圾邮件二分类model.classify_text( Your mailbox is almost full. Click here in the next hour..., {label: [spam, ham]}, ) # {label: spam}没有提示词要调、没有生成参数要调标签集即产品目录——想改分类体系直接改传入的标签列表。典型应用场景清单邮件分诊意图 紧急度 路由一次给齐收件箱落袋前拿到三个答案工单路由员工描述问题而非部门模型把工单直接开进正确队列benefits、it_access…客服意图识别退款、取消订阅、登录故障共享一个收件箱与标签集首轮就启动正确工作流⭐评论情绪与方面分析先判 mixed再用多标签头拆出 battery / keyboard / screen️内容审核allow / personal_data / harassment / scam / spam 政策标签一次决策✋转人工闸门{handoff: [yes, no]}两标签判断成本极低适合每条消息都跑文档类型识别发票、合同、简历、会议纪要作为抽取流程前的分流闸门⏱️紧急度排序0~5字符串标尺SLA 系统直接读取分数如何接入托管训练与推理服务如果不想自管模型Fastino 提供托管 API数据集上传、训练任务提交、checkpoint 评估与部署一条龙。SKILL.md 中定义了完整的 API 工作流——模型目录查询、数据集上传与状态轮询、训练任务提交与日志检查、推理调用与 checkpoint 部署等接口约定以及训练数据准备与阈值调优的最佳实践可把它当作接入手册参考。资源导航项目说明与全部任务示例README.md模型架构配置config.json编码器DeBERTa-v3-large配置encoder_config/config.json托管 API 工作流与数据准备指南SKILL.md分词器与特殊 tokentokenizer.json、special_tokens_map.json一句话总结如果你需要给意图、紧急度、路由、情绪等多个决策维度打分又不想为每个维度单独跑一次模型GLiNER2.5-Decide 的单次前向多头打分就是那个「一次调用多项决策」的答案。【免费下载链接】GLiNER2.5-Decide项目地址: https://ai.gitcode.com/hf_mirrors/fastino/GLiNER2.5-Decide创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表