文｜一見(jiàn)財(cái)經(jīng)
當(dāng)AI接管手機(jī)，帶給我們的究竟是便利還是毀滅？
10月30日，榮耀Magic7旗艦系列發(fā)布會(huì)上，榮耀CEO趙明用榮耀智能助手YOYO “全自動(dòng)” 點(diǎn)咖啡一炮走紅，YOYO理解了他的意圖，并點(diǎn)開(kāi)美團(tuán)、點(diǎn)擊商戶、選擇商品、跳轉(zhuǎn)至支付頁(yè)面，最后由用戶確認(rèn)支付。
榮耀還展示了“一句話取消自動(dòng)扣款”，YOYO進(jìn)入支付寶的自動(dòng)扣款頁(yè)面，關(guān)閉App的付費(fèi)訂閱。
除了榮耀，在11月29日大模型企業(yè)“智譜”的Open Day上，CEO張鵬展示了其手機(jī)助手產(chǎn)品AutoGLM，一句“幫我在智譜開(kāi)放日的群聊里發(fā)個(gè)兩萬(wàn)的紅包，數(shù)量為一百個(gè)，名字為AI給你發(fā)的第一個(gè)紅包”，即可讓AI打開(kāi)微信、選擇紅包數(shù)量、總金額、更改紅包命名，最后輸入密碼發(fā)送。
這兩年，在AI浪潮下，國(guó)產(chǎn)安卓手機(jī)廠商積極在手機(jī)上部署大模型，如榮耀的魔方大模型、vivo藍(lán)心大模型、OPPO安第斯大模型等，最集中的表現(xiàn)就是手機(jī)里的各種智能助手。
有了大模型的加持，智能助手變得以前更聰明，除了能更好地回答問(wèn)題，手機(jī)廠商還希望將AI變?yōu)橹?，輔助用戶完成各種復(fù)雜操作。
不過(guò)，在用戶獲得便利性的同時(shí)，某些手機(jī)為了實(shí)現(xiàn)“智能化”另辟蹊徑，導(dǎo)致手機(jī)權(quán)限被濫用，用戶隱私“裸奔”。
濫用無(wú)障礙接口，不走正道走“盲道”
國(guó)產(chǎn)安卓手機(jī)廠商在宣傳大模型加持下的“AI手機(jī)”時(shí)，絕大多數(shù)只談能力，卻未告知其操作第三方App的技術(shù)原理以及給用戶帶來(lái)的隱私風(fēng)險(xiǎn)。
有券商研究報(bào)告指出，目前AI手機(jī)智能助手調(diào)用第三方App，主要有兩條技術(shù)路線：
路線一：通過(guò)意圖框架實(shí)現(xiàn)。通過(guò)API調(diào)用應(yīng)用，實(shí)現(xiàn)跨應(yīng)用功能。
具體來(lái)說(shuō)，就是手機(jī)廠商與App開(kāi)發(fā)企業(yè)協(xié)商、以合法的API接口的形式接入。比如蘋(píng)果與華為，二者均在開(kāi)發(fā)者官網(wǎng)推出了用戶意圖框架的合作方案，設(shè)計(jì)了統(tǒng)一的合作模式，并提供了開(kāi)發(fā)者文檔的指引，讓開(kāi)發(fā)者自主選擇是否接入、如何接入，開(kāi)放哪些場(chǎng)景與接口。
路線二：通過(guò)純視覺(jué)方案實(shí)現(xiàn)。無(wú)需第三方App同意，直接調(diào)用安卓系統(tǒng)的無(wú)障礙等系統(tǒng)級(jí)權(quán)限。
具體做法是，安卓手機(jī)廠商以多模態(tài)大模型技術(shù)配合無(wú)障礙權(quán)限，先讀取屏幕內(nèi)容，再以模擬用戶點(diǎn)擊的方式代替用戶操作，實(shí)現(xiàn)手機(jī)智能助手代替用戶接管手機(jī)，以達(dá)到調(diào)用APP功能的目的。
無(wú)障礙（Accessibility API）是安卓操作系統(tǒng)給殘障人士專(zhuān)設(shè)的特殊接口，Accessibility API允許應(yīng)用程序讀取屏幕內(nèi)容并代替用戶執(zhí)行輸入，用戶開(kāi)啟后可以輔助用戶朗讀屏幕、語(yǔ)音控制點(diǎn)擊按鍵等。
業(yè)內(nèi)人士表示，“無(wú)障礙”近乎于系統(tǒng)級(jí)別的最高權(quán)限，開(kāi)啟后可以向善，也可以作惡。一旦這項(xiàng)權(quán)限遭到惡意調(diào)用，就如同手機(jī)大門(mén)敞開(kāi)，用戶數(shù)據(jù)安全與隱私保護(hù)體系淪為“馬奇諾防線”。
這些年，濫用無(wú)障礙接口的案例很多，同時(shí)也是相關(guān)部門(mén)打擊的重點(diǎn)。
2021年，百豪公司利用無(wú)障礙接口及監(jiān)聽(tīng)消息通知等功能，開(kāi)發(fā)出自動(dòng)搶紅包外掛“紅包獵手”“多多搶紅包”，后被杭州鐵路運(yùn)輸法院認(rèn)定為違反《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》第十二條第（四）項(xiàng)規(guī)定，構(gòu)成不正當(dāng)競(jìng)爭(zhēng)，一審判處賠償騰訊公司70萬(wàn)元，二審、終審均維持原判。
另?yè)?jù)福建省龍巖市中級(jí)人民法院(2019)閩08刑終119號(hào)刑事判決書(shū)中記錄，三位被告開(kāi)發(fā)的應(yīng)用“超級(jí)雷神”，利用無(wú)障礙功能實(shí)現(xiàn)了“自動(dòng)搶紅包”等功能，構(gòu)成侵入計(jì)算機(jī)信息系統(tǒng)程序罪，最終三位被告均獲刑三年。
目前，某些國(guó)產(chǎn)安卓手機(jī)廠商通過(guò)濫用無(wú)障礙接口，實(shí)現(xiàn)手機(jī)的AI功能，根本原因是野心大于實(shí)力。
對(duì)于很多國(guó)產(chǎn)安卓手機(jī)廠商來(lái)說(shuō)，由于出貨量小，各家用戶意圖框架不統(tǒng)一，接入開(kāi)發(fā)工作量大等原因，缺乏和app廠商談判的籌碼，只有少數(shù)App愿意接入，讓其調(diào)用API。
不過(guò)，國(guó)產(chǎn)安卓手機(jī)廠商一方面不滿足于自有App的有限場(chǎng)景，另一方面又不甘心與一家家App企業(yè)慢慢談合作，同時(shí)還希望快速上馬熱門(mén)場(chǎng)景，深入支付寶、美團(tuán)、微信等頭部應(yīng)用的重點(diǎn)功能。
于是，部分手機(jī)廠商冒險(xiǎn)選擇了“路線二”，即調(diào)用無(wú)障礙接口，通過(guò)讀屏和模擬用戶點(diǎn)擊的方案調(diào)用第三方App。
傷害用戶隱私的威力堪比核武器
非法調(diào)用無(wú)障礙接口并非新興事物。
早在2023年手機(jī)大模型流行前，很多智能助手已經(jīng)可以實(shí)現(xiàn)一句話發(fā)微信等功能。通過(guò)調(diào)用無(wú)障礙接口、讀取屏幕內(nèi)容、模擬點(diǎn)擊來(lái)實(shí)現(xiàn)“智能化”，只是以前相對(duì)隱蔽、范圍有限。
從技術(shù)上講，手機(jī)“讀屏”有兩條實(shí)現(xiàn)路徑：一條是明面上的讀屏，另一條則是API Hook（API鉤子）。兩者都需要獲取無(wú)障礙、root等系統(tǒng)級(jí)權(quán)限，更深度侵入手機(jī)個(gè)人隱私。
讀屏是仿照人的理解方式，眼睛看到信息、大腦處理信息；而API Hook是操作系統(tǒng)的特權(quán)，通過(guò)讀取跑在系統(tǒng)上的App運(yùn)行情況、App調(diào)用了哪些系統(tǒng)控件，來(lái)判斷當(dāng)前處于什么App頁(yè)面、頁(yè)面上有哪些App信息。
通俗地說(shuō)，讀屏相當(dāng)于手機(jī)在前臺(tái)“看懂”了屏幕信息，API Hook是手機(jī)在后臺(tái)“監(jiān)控”了APP運(yùn)行信息。兩種方案綜合運(yùn)用，可以共同幫助AI理解手機(jī)里的內(nèi)容、完成不經(jīng)App許可的功能調(diào)用。
2023年以前，手機(jī)大模型沒(méi)有被廣泛應(yīng)用前，這種侵犯用戶隱私的方式精度低，范圍也不大，但隨著這兩年大模型的盛行，多模態(tài)大模型能讓系統(tǒng)更好地理解當(dāng)前屏幕內(nèi)容。
如果說(shuō)以前的AI相對(duì)“智障”，侵害用戶隱私的威力只是手榴彈，那么有了大模型能力的識(shí)屏就相當(dāng)于核武器。
現(xiàn)在，也許你只是請(qǐng)手機(jī)幫忙發(fā)條微信，但手機(jī)卻要讀取你屏幕上的所有信息、照片、聊天記錄，并可以通過(guò)大模型分析，獲取身份、位置、支付等各類(lèi)敏感信息。此時(shí)手機(jī)上的個(gè)人數(shù)據(jù)大門(mén)敞開(kāi)。
另外，借用API Hook技術(shù)，系統(tǒng)后臺(tái)在讀取App后臺(tái)運(yùn)行界面時(shí)，不僅局限于讀取某一屏的內(nèi)容，而是會(huì)綜合前后幾屏、上下文的內(nèi)容，在用戶不知不覺(jué)中，個(gè)人很可能已經(jīng)泄漏。
拒絕AI“監(jiān)視一切”刻不容緩
對(duì)于很多普通手機(jī)用戶來(lái)說(shuō)，只是體驗(yàn)到了智能手機(jī)帶來(lái)的便利性，但對(duì)于數(shù)據(jù)安全和隱私泄露風(fēng)險(xiǎn)，卻全然不知。
很多用戶在使用手機(jī)過(guò)程中，根本就沒(méi)有“授權(quán)意識(shí)”，即便手機(jī)有提示，用戶授權(quán)了，但面對(duì)專(zhuān)業(yè)的技術(shù)名詞，很多用戶根本不清楚自己授予了什么權(quán)限嗎？代價(jià)是什么？
手機(jī)廠商與App、用戶間天然存在著極不對(duì)等的權(quán)力關(guān)系，就好比科幻小說(shuō)《三體》中的農(nóng)場(chǎng)主與火雞，國(guó)產(chǎn)安卓手機(jī)廠商發(fā)展出各自高度定制化的操作系統(tǒng)，掌握遠(yuǎn)高于應(yīng)用層的權(quán)限，面對(duì)用戶更是有至高無(wú)上的“技術(shù)權(quán)力”。
在人工智能時(shí)代，隨著手機(jī)智能助手的發(fā)展，上述權(quán)力關(guān)系進(jìn)一步失衡，更多安全問(wèn)題將浮出水面：未經(jīng)許可調(diào)用App后，如果造成了數(shù)據(jù)泄漏，該由手機(jī)廠商還是App負(fù)責(zé)？哪些個(gè)人數(shù)據(jù)會(huì)被手機(jī)搜集、用于模型訓(xùn)練？用戶不愿意被搜集個(gè)人數(shù)據(jù)可以嗎？所謂的端側(cè)大模型，如何真正保護(hù)用戶個(gè)人數(shù)據(jù)不被傳送給第三方云端大模型？
12月18日，對(duì)外經(jīng)貿(mào)大學(xué)、中國(guó)人民大學(xué)、螞蟻集團(tuán)聯(lián)合發(fā)布的《算法與AI大模型的用戶認(rèn)知調(diào)研報(bào)告（2024）》，基于8030份問(wèn)卷的調(diào)研顯示，52%的用戶已在AI大模型中遭遇到了數(shù)據(jù)安全與隱私問(wèn)題。另外，有60%的用戶已經(jīng)意識(shí)到，AI大模型最大的風(fēng)險(xiǎn)來(lái)源于不受控制的搜集用戶隱私、個(gè)人資料。
今年6月，微軟公司曾試圖推出“Recall”（恢復(fù)）功能，原理與國(guó)產(chǎn)安卓廠商的讀屏模擬點(diǎn)擊方案高度雷同。每隔幾秒，系統(tǒng)會(huì)對(duì)當(dāng)前電腦屏幕截屏，再由AI識(shí)別、理解用戶意圖，為用戶提供智能化操作。
然而，該功能在推出后便收到鋪天蓋地的“差評(píng)”，更有行業(yè)人士稱(chēng)其為“隱私噩夢(mèng)”，遭到美國(guó)行業(yè)人士的集體抵制。出于對(duì)隱私風(fēng)險(xiǎn)的擔(dān)憂，微軟稱(chēng)將不會(huì)在新的個(gè)人電腦Windows系統(tǒng)中“上新”Recall功能。
微軟的計(jì)劃流產(chǎn)了，但國(guó)產(chǎn)安卓手機(jī)廠商卻把這一切變成了現(xiàn)實(shí)，在為用戶提供“智能體驗(yàn)”的同時(shí)，也打開(kāi)了潘多拉魔盒。