12月18日,
谷歌宣布推出FunctionGemma,一款基于Gemma3270M微调的专用模型,旨在将强大的函数调用能力引入手机等边缘设备。FunctionGemma继承了Gemma系列的轻量化优势,并通过专项微调,使边缘设备无需依赖云端算力,能够精准理解用户指令并调用相应功能。与通用大模型不同,FunctionGemma专为定制化设计,既能与人类自然对话,也能生成结构化的函数调用代码来指挥计算机。
在Google进行的“移动操作”测试中,FunctionGemma展现了惊人的可塑性。未经微调的基础版本准确率为58%,而经过针对性微调后,其执行复杂指令的准确率跃升至85%。为了在算力和
电池受限的边缘设备上流畅运行,FunctionGemma采用了极致的轻量化设计,利用Gemma的256k词表高效处理JSON数据和多语言输入,大幅降低了延迟。该模型目前已适配NVIDIA Jetson Nano等开发板及主流移动设备,甚至能作为“交通指挥官”,处理简单任务并将复杂逻辑路由至更大的Gemma327B模型。
谷歌为FunctionGemma构建了广泛的生态支持,开发者可通过HuggingFace、Kaggle下载模型,并利用Unsloth、Keras或NVIDIA NeMo进行微调。在部署方面,该模型全面支持LiteRT-LM、vLLM、L
网页链接和Ollama等工具。谷歌还同步发布了TinyGarden游戏演示和“移动操作”微调指南,展示了如何用自然语言控制虚拟农场或手机系统设置,帮助开发者快速构建属于自己的私有化、低延迟端侧智能体。

来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。