只需向手機發(fā)出“幫我點一杯咖啡”的指令，手機便能根據(jù)時間、定位、行為習慣等信息識別出用戶的品牌和口味偏好，再主動打開常用的外賣App，完成點單、填寫配送地址、付款等操作，全程無需人為操作。這樣的便利生活場景如今已經(jīng)成為現(xiàn)實。
近期，許多手機廠商推出自研或接入第三方大模型的手機智能體，如超級小愛、藍心智能、Bixby等。這些智能體在大模型和人工智能（AI）技術支撐下，可以化身用戶“貼身助理”，自主完成點咖啡、群發(fā)微信紅包等操作。
“享受手機智能體帶來便利的同時，我們也要清醒地意識到，這種便利是通過讓渡個人隱私數(shù)據(jù)換來的。”北京信息科技大學計算機學院信息安全系主任、網(wǎng)絡空間安全學科副教授劉慧勇告訴記者，當AI開始“接管”手機，“用隱私換便利”這一老問題便在新技術應用場景中再次出現(xiàn)。如何保護用戶隱私，是手機智能體健康發(fā)展無法回避的議題。
無障礙功能暗藏風險
記者通過查閱多個手機智能體發(fā)布會發(fā)布的信息發(fā)現(xiàn)，此類智能體多以AI技術為核心，整合語音識別、自然語言處理以及多模態(tài)感知能力，具備信息查詢、AI寫作、草圖變圖片、視頻鎖屏等功能，實現(xiàn)了從基礎問答到主動服務的跨越，手機儼然成了用戶的“貼身助理”。其中，少部分手機廠商通過內置本地化端側大模型，進一步提升了人機交互的自然流暢度。
“手機智能體的使用是建立在大量數(shù)據(jù)收集和使用基礎上的。為實現(xiàn)AI讀屏以及模擬點擊等功能，用戶往往需要開啟無障礙功能。”重慶大學計算機學院副教授李瑞遠在接受記者采訪時說。
他解釋道，無障礙功能是安卓系統(tǒng)為殘障人士打造的一項專屬功能，包括讀屏、放大屏幕、自動點擊、增強音頻、更改字幕等便捷操作，旨在讓殘障人士和普通人一樣使用智能手機。手機智能體要實現(xiàn)“接管”手機，需要用戶授權開啟無障礙服務權限，再借助AI讀屏功能，訪問手機全部應用，并像人一樣獲取、理解、分析屏幕界面元素，包括銀行卡信息、特殊密碼鍵盤和聊天記錄。最終，模擬人的手指在手機上完成線上購物、轉賬、下載軟件等操作。
劉慧勇進一步說，用戶一旦開啟無障礙功能，相當于給手機安裝了一張萬能門禁卡。用戶在使用語音助手、智能推薦等功能時，手機智能體可無限制地獲取地理位置、應用使用頻率、微信消息等隱私數(shù)據(jù)。部分手機智能體還會在用戶不知情的情況下，自動開啟無障礙權限，“默默”收集用戶隱私數(shù)據(jù)。
“手機中的通訊錄、短信記錄、通話記錄等信息都屬于敏感信息。操作系統(tǒng)通常對其設權限保護機制，手機應用需經(jīng)用戶顯示授權后才能獲取。”劉慧勇說，然而，當用戶借助手機智能體完成語音發(fā)微信、一鍵發(fā)紅包等操作時，情況有所不同。此類操作需要跨應用進行捆綁授權，在此過程中，操作系統(tǒng)會開放短信或微信權限，以確保相關功能順利實現(xiàn)。
多方發(fā)力守護個人數(shù)據(jù)安全
“技術的便利性與隱私風險，是一對天然的矛盾。而行業(yè)標準和法律法規(guī)的出臺常常滯后于技術應用。”劉慧勇認為，當前，手機智能體所收集、使用的數(shù)據(jù)流轉于手機終端廠商、智能體開發(fā)者、云服務商等多個主體間，其所有權、使用權和控制權歸屬難以界定。一旦發(fā)生數(shù)據(jù)泄露，由于追責鏈條長，難以有效溯源。
劉慧勇舉例，部分安全性不高的手機智能體，可能借助無障礙功能，在微信群中自動發(fā)送紅包并誘導他人點擊，將資金轉入不法分子賬戶，造成用戶財產(chǎn)損失；抑或是將收集到的各類信息出售給第三方公司，造成算法歧視等。“由于技術規(guī)范和防護機制的缺乏，用戶即便遭受損失，也很難通過有效途徑挽回。”劉慧勇說。
對此，劉慧勇建議，手機廠商與操作系統(tǒng)平臺應不斷完善相關技術，改善用戶數(shù)據(jù)處置流程，構建更加智能化的內部防御系統(tǒng)，防止智能體技術在演進過程中出現(xiàn)隱蔽的數(shù)據(jù)濫用問題。
此外，李瑞遠建議，手機廠商應盡量提供支持端側AI的手機智能體應用。云側AI雖然能提供更便利的服務，但用戶數(shù)據(jù)需頻繁上傳云端，隱私暴露風險較大。而端側AI支持數(shù)據(jù)在手機等終端設備上進行計算和處理，最大限度地減少數(shù)據(jù)傳輸，是一種“更私密”的技術解決方案。
西南政法大學民商法學院講師任龍龍說，技術的落地離不開法律法規(guī)的約束。當前，《中華人民共和國民法典》以及《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律，包括2025年1月1日生效的《網(wǎng)絡數(shù)據(jù)安全管理條例》等法規(guī)，都對數(shù)據(jù)、個人信息、生成式AI等新興技術的使用進行了規(guī)定。然而，手機智能體作為新興技術應用，目前仍存在一些法律模糊地帶。
任龍龍建議，職能部門應積極出臺相關政策、加大監(jiān)管力度，通過構建更精細的法律規(guī)則體系，細化數(shù)據(jù)分類，清晰界定數(shù)據(jù)資源持有權、數(shù)據(jù)加工使用權、數(shù)據(jù)產(chǎn)品經(jīng)營權等，避免出現(xiàn)惡意授權導致的隱私泄露事件。
“在相關技術和法規(guī)尚未完善的情況下，用戶應增強安全防范意識。”任龍龍說，在使用手機智能體時，消費者應謹慎開啟無障礙功能，關閉智能體免密支付授權功能，定期查看手機隱私報告，及時發(fā)現(xiàn)并處理智能體的異常行為。
只需向手機發(fā)出“幫我點一杯咖啡”的指令，手機便能根據(jù)時間、定位、行為習慣等信息識別出用戶的品牌和口味偏好，再主動打開常用的外賣App，完成點單、填寫配送地址、付款等操作，全程無需人為操作。這樣的便利生活場景如今已經(jīng)成為現(xiàn)實。
近期，許多手機廠商推出自研或接入第三方大模型的手機智能體，如超級小愛、藍心智能、Bixby等。這些智能體在大模型和人工智能（AI）技術支撐下，可以化身用戶“貼身助理”，自主完成點咖啡、群發(fā)微信紅包等操作。
“享受手機智能體帶來便利的同時，我們也要清醒地意識到，這種便利是通過讓渡個人隱私數(shù)據(jù)換來的。”北京信息科技大學計算機學院信息安全系主任、網(wǎng)絡空間安全學科副教授劉慧勇告訴記者，當AI開始“接管”手機，“用隱私換便利”這一老問題便在新技術應用場景中再次出現(xiàn)。如何保護用戶隱私，是手機智能體健康發(fā)展無法回避的議題。
無障礙功能暗藏風險
記者通過查閱多個手機智能體發(fā)布會發(fā)布的信息發(fā)現(xiàn)，此類智能體多以AI技術為核心，整合語音識別、自然語言處理以及多模態(tài)感知能力，具備信息查詢、AI寫作、草圖變圖片、視頻鎖屏等功能，實現(xiàn)了從基礎問答到主動服務的跨越，手機儼然成了用戶的“貼身助理”。其中，少部分手機廠商通過內置本地化端側大模型，進一步提升了人機交互的自然流暢度。
“手機智能體的使用是建立在大量數(shù)據(jù)收集和使用基礎上的。為實現(xiàn)AI讀屏以及模擬點擊等功能，用戶往往需要開啟無障礙功能。”重慶大學計算機學院副教授李瑞遠在接受記者采訪時說。
他解釋道，無障礙功能是安卓系統(tǒng)為殘障人士打造的一項專屬功能，包括讀屏、放大屏幕、自動點擊、增強音頻、更改字幕等便捷操作，旨在讓殘障人士和普通人一樣使用智能手機。手機智能體要實現(xiàn)“接管”手機，需要用戶授權開啟無障礙服務權限，再借助AI讀屏功能，訪問手機全部應用，并像人一樣獲取、理解、分析屏幕界面元素，包括銀行卡信息、特殊密碼鍵盤和聊天記錄。最終，模擬人的手指在手機上完成線上購物、轉賬、下載軟件等操作。
劉慧勇進一步說，用戶一旦開啟無障礙功能，相當于給手機安裝了一張萬能門禁卡。用戶在使用語音助手、智能推薦等功能時，手機智能體可無限制地獲取地理位置、應用使用頻率、微信消息等隱私數(shù)據(jù)。部分手機智能體還會在用戶不知情的情況下，自動開啟無障礙權限，“默默”收集用戶隱私數(shù)據(jù)。
“手機中的通訊錄、短信記錄、通話記錄等信息都屬于敏感信息。操作系統(tǒng)通常對其設權限保護機制，手機應用需經(jīng)用戶顯示授權后才能獲取。”劉慧勇說，然而，當用戶借助手機智能體完成語音發(fā)微信、一鍵發(fā)紅包等操作時，情況有所不同。此類操作需要跨應用進行捆綁授權，在此過程中，操作系統(tǒng)會開放短信或微信權限，以確保相關功能順利實現(xiàn)。
多方發(fā)力守護個人數(shù)據(jù)安全
“技術的便利性與隱私風險，是一對天然的矛盾。而行業(yè)標準和法律法規(guī)的出臺常常滯后于技術應用。”劉慧勇認為，當前，手機智能體所收集、使用的數(shù)據(jù)流轉于手機終端廠商、智能體開發(fā)者、云服務商等多個主體間，其所有權、使用權和控制權歸屬難以界定。一旦發(fā)生數(shù)據(jù)泄露，由于追責鏈條長，難以有效溯源。
劉慧勇舉例，部分安全性不高的手機智能體，可能借助無障礙功能，在微信群中自動發(fā)送紅包并誘導他人點擊，將資金轉入不法分子賬戶，造成用戶財產(chǎn)損失；抑或是將收集到的各類信息出售給第三方公司，造成算法歧視等。“由于技術規(guī)范和防護機制的缺乏，用戶即便遭受損失，也很難通過有效途徑挽回。”劉慧勇說。
對此，劉慧勇建議，手機廠商與操作系統(tǒng)平臺應不斷完善相關技術，改善用戶數(shù)據(jù)處置流程，構建更加智能化的內部防御系統(tǒng)，防止智能體技術在演進過程中出現(xiàn)隱蔽的數(shù)據(jù)濫用問題。
此外，李瑞遠建議，手機廠商應盡量提供支持端側AI的手機智能體應用。云側AI雖然能提供更便利的服務，但用戶數(shù)據(jù)需頻繁上傳云端，隱私暴露風險較大。而端側AI支持數(shù)據(jù)在手機等終端設備上進行計算和處理，最大限度地減少數(shù)據(jù)傳輸，是一種“更私密”的技術解決方案。
西南政法大學民商法學院講師任龍龍說，技術的落地離不開法律法規(guī)的約束。當前，《中華人民共和國民法典》以及《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律，包括2025年1月1日生效的《網(wǎng)絡數(shù)據(jù)安全管理條例》等法規(guī)，都對數(shù)據(jù)、個人信息、生成式AI等新興技術的使用進行了規(guī)定。然而，手機智能體作為新興技術應用，目前仍存在一些法律模糊地帶。
任龍龍建議，職能部門應積極出臺相關政策、加大監(jiān)管力度，通過構建更精細的法律規(guī)則體系，細化數(shù)據(jù)分類，清晰界定數(shù)據(jù)資源持有權、數(shù)據(jù)加工使用權、數(shù)據(jù)產(chǎn)品經(jīng)營權等，避免出現(xiàn)惡意授權導致的隱私泄露事件。
“在相關技術和法規(guī)尚未完善的情況下，用戶應增強安全防范意識。”任龍龍說，在使用手機智能體時，消費者應謹慎開啟無障礙功能，關閉智能體免密支付授權功能，定期查看手機隱私報告，及時發(fā)現(xiàn)并處理智能體的異常行為。
本文鏈接：手機越“懂”你，隱私越透明？http://www.sq15.cn/show-2-11794-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
上一篇： 破解廢舊手機回收難題
下一篇： AI助推基本公共服務更普惠精準