
GLiNER2云API使用指南免GPU批量抽取与长文档扫描【免费下载链接】GLiNER2Unified Schema-Based Information Extraction项目地址: https://gitcode.com/gh_mirrors/gl/GLiNER2GLiNER2 是一个基于统一 Schema 的信息抽取框架支持命名实体识别、文本分类、结构化数据抽取和关系抽取。通过它的云 APIGLiNER2API你可以在没有 GPU 的机器上完成批量信息抽取基础安装包不需要 PyTorch一行pip install gliner2即可调用云端模型客户端还内置了批量分区请求和长文档分块扫描能力处理年报、合同这类超长文本时无需改动服务端协议。3步快速接入免GPU开始抽取第 1 步安装轻量客户端pip install gliner2 # 仅需 requests/pydantic无需 torch无需 GPU第 2 步准备 API Key在 Fastino 平台注册账号并生成 API Key然后设为环境变量推荐方式export FASTINO_API_KEYyour-api-key-here第 3 步初始化并发起请求from gliner2 import API # GLiNER2API 的简洁别名 client API() # 自动读取 FASTINO_API_KEY results client.extract_entities( Apple CEO Tim Cook announced the iPhone 15 in Cupertino., [company, person, product, location], ) print(results) # {entities: {company: [Apple], person: [Tim Cook], # product: [iPhone 15], location: [Cupertino]}}客户端接口与本地模型完全对齐之后切换本地推理只需换一个加载方式业务代码不用改。批量抽取自动分区 失败保护处理成百上千条文本时直接用batch_extract_entities。客户端会按batch_size把请求在本地有序分区后逐批发出而不是把全部内容塞进一次请求documents [...] # 你的文本列表 results client.batch_extract_entities( documents, [company, person, product, location], batch_size8, # 每个分区 8 条 include_confidenceTrue, # 附带置信度 include_spansTrue, # 附带字符级 start/end 位置 )失败保护如果第 3 个分区失败前两个分区的结果不会丢——异常对象GLiNER2APIError上会挂partial_results已完成的分区和failed_range失败区间你可以先把已完成的工作落盘再决定如何重试。长文档扫描分块切片自动合并超过模型上下文窗口的文档年报、合同、工单、日志不要手动截断。extract_entities_long系列方法会在本地把文档切成重叠的词窗口逐块发给云端再把块内结果映射回全文字符偏移并去重合并annual_report open(annual_report.txt).read() result client.extract_entities_long( annual_report, [company, person, product, location], chunk_size384, # 每块最多 384 个词 chunk_overlap64, # 相邻块重叠 64 个词 include_spansTrue, ) # 偏移是全文全局位置可直接切片验证 for company in result[entities].get(company, []): assert annual_report[company[start]:company[end]] company[text]分块扫描如何工作切块按词而非字符切成重叠窗口切块逻辑见 gliner2/inference/chunking.py请求所有块拼成一个批量请求发给云端重映射块内start/end偏移加回块起点变成全文偏移去重重叠区被识别两次的同一实体按置信度择优合并不同位置的重复提及会保留。最快配置参数chunk_size 与 chunk_overlap 怎么调场景推荐起点一般长文chunk_size384chunk_overlap64关键实体常出现在块边界附近提高 overlap 到 96–128追求更快响应调小chunk_size和 overlap⚠️ 两个实体如果从不同块跨越如人名在页尾、公司名在下一页页首任何 overlap 都无法合并建议预先按句子/段落分段。除实体外还有classify_text_long长文分类、extract_json_long长文结构化抽取、extract_relations_long长文关系抽取以及通用 Schema 版extract_long/batch_extract_long参数完全一致。批量处理多份长文档用batch_extract_entities_long(documents, ..., batch_size8)。错误处理与重试策略客户端内置指数退避重试对 429/5xx 自动重试 3 次并把 HTTP 错误映射为清晰的异常类型from gliner2 import API, AuthenticationError, ValidationError, GLiNER2APIError client API(timeout60.0, max_retries5) # 大文档建议放宽超时 try: results client.batch_extract_entities(texts, [company, person]) except AuthenticationError: print(API Key 无效检查 FASTINO_API_KEY) except ValidationError as e: print(f请求参数有误: {e}) except GLiNER2APIError as e: print(fAPI 错误: {e}) print(f已完成部分: {len(e.partial_results)} 条) # 先保存再重试云API vs 本地模型怎么选维度云 APIAPI()本地模型AutoExtractor环境要求仅需 Python 3.10免 GPU需安装[local]扩展含 torch内存占用≈0模型在云端2–8 GB离线使用❌✅正则校验器 RegexValidator❌✅成本按请求计费部署后免费适用场景无 GPU 生产环境、Serverless、快速原型、低内存机器高吞吐、离线、敏感数据不出网两者接口一致可以从 API 无缝切换到本地先用 API 快速迭代 schema量大后再切本地降本。进阶阅读完整 API 教程含结构化抽取、关系抽取、组合 Schematutorial/7-api.md长文档抽取专题分块参数、重叠策略、批量长文tutorial/12-long_context.md云 API 客户端源码分区、重试、偏移合并gliner2/api_client.py项目总览与本地模型加载README.md小结pip install gliner2 一个 API Key就能在任意无 GPU 环境跑起批量信息抽取长文档交给*_long系列方法自动分块扫描你只需要关心chunk_size和chunk_overlap两个参数。【免费下载链接】GLiNER2Unified Schema-Based Information Extraction项目地址: https://gitcode.com/gh_mirrors/gl/GLiNER2创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考