跳到正文
V2EX·· 8 小时前AI 评分46

开源版豆包手机操作系统 open-doubao-phone:用 AI 操作手机应用

整了一个开源版的豆包手机操作系统 open-doubao-phone

AI 导读

开源项目 open-doubao-phone 基于 Android 17,支持通过语音或文本让 AI 操作手机应用,并提供长期记忆。系统优先使用无障碍模式,支持不足时回退到视觉模型;用户可自行配置支持视觉识别的大模型,jev 和 TTS 为可选项。

正文

TLDR

一个开源版的豆包手机操作系统,一句话用 agent 操作所有手机应用,支持长期记忆

主要内容

贴个图:

开源内容:

碎碎念

我觉得豆包手机的概念还是非常正确的, 但是豆包手机的一代和二代都有一些不足的地方,主要是对其他非字节系的应用有一些权限限制,没有办法操作。所以我做的开源版其实规避了这些风险,因为它运行在一个将他作为一等公民操作系统里面,(当然可以独立运行),第一优先使用无障碍模式,如果某些应用对于无障碍支持比较差那就会 fallback 到视觉模型,所以不会有豆包手机一代和二代的问题,而且你可以使用自己的模型,达到更好的使用体验

整个流程就是:你可以通过唤醒词、长按电源键,或者手动点击的方式触发唤醒,用语音或者文本输入你的需求。AI 会通过视觉大模型和 jev 来判断,并给你提供自动操作的过程

就和现在的 Codex 和 Claude Code 在电脑上做事情差不多的感觉,只不过它运行在手机上

顺便说一下,jev 确实挺好用的。有了 jev 以后,一旦 jev 的判断命中了,可以很强地加速操作 当然,有时候没有办法拿到之前的结果,不得不 fallback 到大模型上面,这时候操作就会比较慢大模型就相当于通用解,但是慢。

你可以自己配置想要的模型,只需要大模型支持视觉识别就行,jev 和 TTS 是可选的

这个系统是基于 AOSP 来实现的,操作系统里面自带了谷歌三件套,因为确实发现,没有谷歌 Play 确实有点难用

一些真机的实际视频演示可以在官网上看到

如果觉得这个项目有点意思欢迎留个 star

来源:V2EX · v2ex.com