ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Google AI Edge Gallery上手指南:4步在手机上跑起本地大模型,全程离线

Google AI Edge Gallery上手指南:4步在手机上跑起本地大模型,全程离线 Google AI Edge Gallery上手指南4步在手机上跑起本地大模型全程离线【免费下载链接】galleryA gallery that showcases on-device ML/GenAI use cases and allows people to try and use models locally.项目地址: https://gitcode.com/GitHub_Trending/gallery44/galleryGoogle AI Edge Gallery是一款在手机上本地运行开源大模型的应用。文本生成、图片问答、语音转写全部离线完成数据不出设备支持Android 12及以上和iOS 17及以上。本文按安装、认识功能、实操、排坑四步讲清日常用法适合没有技术背景的读者。快速上手环境要求与安装系统要求Android 12或iOS 17内存建议8GB以上。安装在Google Play或App Store搜索Google AI Edge Gallery即可。无法访问Google Play的用户可从项目的releases页面下载APK手动安装。首次下载模型需要联网。模型来自Hugging Face推荐先选Gemma-3n-E2B约3GB兼顾速度和能力。第一次成功运行进入AI Chat页面选择刚下载的模型。输入介绍一下你自己并发送。看到回复即表示配置完成。之后断网使用功能不变。能力全景聊天、图片与语音AI Chat多轮对话。Gemma 4系列支持Thinking Mode能看到模型逐步推理的过程方便理解复杂问题是怎么解的。Ask Image用相机或相册图片识别物体、描述场景、解视觉谜题。Audio Scribe实时录音转文字并支持翻译。Prompt Lab单轮测试工作台可逐项调整temperature、top-k等参数。 技能与实验功能Agent Skills内置查询维基百科、生成二维码、交互式地图等技能也能从URL或本地文件导入。仓库自带示例见skills/built-in/。MCP连接外部工具服务器让离线模型调用实时数据目前仍属实验功能。Mobile Actions与Tiny Garden基于FunctionGemma 270m微调模型用自然语言控制设备、种虚拟花园。模型管理与基准测试从列表下载模型、加载自己的模型并对各模型在你的硬件上跑分。场景实操场景一离线图片问答路径打开Ask Image → 从相册选图 → 提问这是什么。 效果无需联网模型识别物体并给出描述。需要选支持视觉输入的模型Gemma 3n和Gemma 4系列都支持。场景二语音转文字路径打开Audio Scribe → 开始录音。 效果录音实时转为文字可切换翻译。全程本地处理录音不会离开设备。场景三接MCP获取实时信息路径Agent Chat → 点输入框下方的MCP按钮 → Add MCP Server → 填入服务器地址末尾需带/mcp路径。 效果模型可调用网页抓取等外部工具。官方建议用Gemma-4-E4B工具调用最稳定。细节见mcp/README.md。避坑指南下载失败进度卡住原因单个模型2.6~4.4GB网络中断或空间不足都会卡。对策预留5GB以上空间用稳定的Wi-Fi重试。运行模型时卡顿或闪退原因Gemma 4系列峰值内存可达6~7GB超出设备承受范围。对策换Gemma3-1B这类小模型或先关掉后台应用。找不到Thinking Mode开关原因该功能只支持Gemma 4系列模型。对策切换模型后再试其他模型不会有此入口。MCP工具调用无响应原因工具描述会占用上下文而本地模型只有4k~10k tokens小模型还难以解析工具schema。对策只保留当前任务需要的工具模型用Gemma-4-E4B。计算类结果偶尔偏差原因GPU加速对浮点运算的精度不如CPU稳定。对策涉及坐标、数值计算的任务把加速器切换为CPU。性能与调优按任务选模型纯文本聊天用1B档响应快、占用小推理和图片任务选E2B或E4B。下载新模型前先用应用内置的benchmark在你自己的硬件上跑一轮实测速度再决定。每个模型占2.6~4.4GB定期在模型管理里删除不用的释放空间。想要更稳定的输出在Prompt Lab里调低temperature想要更多样的回答则调高。给开发者本地构建见DEVELOPMENT.md需先创建HuggingFace Developer Application再把clientId填入ProjectConfig.kt。自定义技能见skills/README.md。一个技能就是一个文件夹加一份SKILL.mdJS类技能在隐藏webview里执行。自定义设备动作见Function_Calling_Guide.md在Actions.kt里定义动作在MobileActionsTools.kt里注册工具。MCP接入细节见mcp/README.md。源码入口Android/src/app/src/main/java/com/google/ai/edge/gallery/。写在最后从安装到跑起第一个模型整个流程大约10分钟之后所有功能都可离线使用。体验好不好主要取决于模型选得对不对。现在就打开模型管理页面下载Gemma-3n-E2B几分钟内你就能看到第一条回复。【免费下载链接】galleryA gallery that showcases on-device ML/GenAI use cases and allows people to try and use models locally.项目地址: https://gitcode.com/GitHub_Trending/gallery44/gallery创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表