Liquid AI发布LFM2.5-VL-3B,31亿参数视觉语言模型,专为设备端设计,支持屏幕理解、函数调用、锚定和多图像输入。在28项基准测试中平均得分69.4,与4.7B模型相当。内存占用约3GB,解码速度228 tok/s。许可证对年收入低于1000万美元的公司免费,高收入需商业许可。
Meta在WhatsApp推出可选“诈骗警报”功能,利用设备端AI模型识别可疑消息并警告用户,但不会自动报告。用户可标记信任或分享最近5条消息以改进准确性。该功能旨在应对WhatsApp上日益严重的诈骗问题,如电汇和杀猪盘,2025年用户因诈骗损失超4.25亿美元。
苹果的Ferret-UI Lite是一种优化的3B参数模型,旨在理解屏幕图像和UI元素,并与应用直接互动。研究者开发了小型设备端GUI代理,提升了复杂布局中的准确性,表现优于大型模型。尽管在长任务上仍面临挑战,但Ferret-UI Lite可作为设备端智能代理,增强隐私保护。
在设备上部署小型语言模型(SLMs)可以改善延迟和隐私,但面临准确性和内存挑战。CAMPHOR是一个创新的设备端SLM框架,能处理多用户输入并在本地推理个人上下文,确保隐私。其架构通过高阶推理代理分解任务,协调专家代理进行上下文检索、工具交互和计划生成。通过参数共享和提示压缩,减少模型大小、延迟和内存。实验显示,微调的SLM代理在任务完成上优于封闭源LLMs,并增强隐私。
完成下面两步后,将自动完成登录并继续当前操作。