Typhoon OCR 1.5 2B 8位量化模型：苹果芯片上的终极泰英文档OCR解决方案

【免费下载链接】typhoon-ocr1.5-2b-8bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/typhoon-ocr1.5-2b-8bit

Typhoon OCR 1.5 2B 8位量化模型是一款基于Qwen3-VL架构的视觉语言模型，专为苹果芯片优化，提供高效精准的泰英文档识别能力。该模型通过8位量化技术，在保持识别精度的同时将体积压缩至约2.5GB，实现了在Apple Silicon设备上的快速部署与运行。

核心特性：专为泰英文档设计的OCR解决方案

多语言支持与结构化输出

作为基于Qwen3-VL架构的视觉语言模型，Typhoon OCR 1.5 2B专注于泰语和英语的文档理解任务。其输出采用结构化格式，包括Markdown文本、HTML表格、LaTeX公式、图片描述标签和页码标记，满足专业文档处理需求。

8位量化技术：平衡性能与效率

该模型采用8位量化（组大小64，仿射模式），实现约9.94位/权重的精度，同时保持视觉编码器的高 precision。这一优化使模型体积减少约50%，却不损失OCR识别 accuracy，特别适合内存受限的苹果芯片设备。

快速上手：简单三步开始使用

1. 安装依赖

通过pip命令快速安装mlx-vlm库：

pip install -U mlx-vlm

2. 准备官方提示词

创建prompt.txt文件，复制以下官方提示词（确保完整保留格式）：

Extract all text from the image. Instructions: - Only return the clean Markdown. - Do not include any explanation or extra text. - You must include all information on the page. Formatting Rules: - Tables: Render tables using <table>...</table> in clean HTML format. - Equations: Render equations using LaTeX syntax with inline ($...$) and block ($$...$$). - Images/Charts/Diagrams: Wrap any clearly defined visual areas in <figure>...</figure> with Thai descriptions. - Page Numbers: Wrap page numbers in <page_number>...</page_number>. - Checkboxes: Use the unchecked / checked box characters as appropriate.

3. 运行OCR识别

执行以下命令处理图片文件（将page.jpg替换为实际图片路径）：

python -m mlx_vlm.generate \ --model mlx-community/typhoon-ocr1.5-2b-8bit \ --image page.jpg \ --prompt "$(cat prompt.txt)" \ --max-tokens 4096 \ --temperature 0.0 \ --repetition-penalty 1.1

优化参数设置：获取最佳识别效果

为确保文档提取的准确性，建议使用以下参数组合：

图片处理建议：对于A4文档，推荐长边分辨率1500-2000像素以保证小字体清晰，16GB内存设备应避免超大型图片以防内存不足。

模型转换指南（高级用户）

如需从基础模型自行转换，可使用以下命令：

python -m mlx_vlm convert \ --hf-path typhoon-ai/typhoon-ocr1.5-2b \ --mlx-path typhoon-ocr1.5-2b-8bit \ -q --q-bits 8 --q-group-size 64

许可证信息

本模型采用Apache-2.0许可证，继承自基础模型typhoon-ai/typhoon-ocr1.5-2b。

项目文件结构

模型包含以下核心文件：

• 配置文件：config.json、generation_config.json
• 量化信息：quantization_config
• 分词器配置：tokenizer_config.json、vocab.json

通过这些优化设计，Typhoon OCR 1.5 2B 8位量化模型为苹果芯片用户提供了一个高效、精准的泰英文档OCR解决方案，特别适合需要处理多语言文档的专业人士和企业用户。

【免费下载链接】typhoon-ocr1.5-2b-8bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/typhoon-ocr1.5-2b-8bit