近日,搭載豆包AI助手的豆包手機(jī)火爆出圈,作為字節(jié)跳動(dòng)首次在操作系統(tǒng)層面深度整合的AI手機(jī),其支持跨應(yīng)用自動(dòng)操作、實(shí)時(shí)視覺(jué)理解等功能,迅速吸引了開(kāi)發(fā)者與科技愛(ài)好者的關(guān)注。官方商城顯示,發(fā)售首日貨源上線即售罄。同時(shí),在閑魚(yú)等二手平臺(tái),這款手機(jī)的二手售價(jià)區(qū)間從原價(jià)3499元至1.29萬(wàn)元不等,甚至有商家推出單日1600元的租賃服務(wù)。
豆包手機(jī) 圖片來(lái)源:中興商城
記者注意到,這種“火”不僅體現(xiàn)在“一機(jī)難求”的市場(chǎng)熱度上,更在于它給首批用戶(hù)帶來(lái)了一種從未有過(guò)的、近乎科幻的體驗(yàn)。在社交平臺(tái)上,有用戶(hù)分享了使用豆包手機(jī)通過(guò)B站的正式會(huì)員晉級(jí)考試的過(guò)程,其中涉及具體動(dòng)漫細(xì)節(jié)的硬核題目在豆包手機(jī)接管下,迅速識(shí)別題目并自動(dòng)選出正確答案。
用戶(hù)使用豆包手機(jī)通過(guò)答題 圖片來(lái)源:網(wǎng)絡(luò)
同時(shí),還有科技博主測(cè)試,對(duì)著手機(jī)說(shuō)一句“幫我剪輯視頻”,AI便能自動(dòng)識(shí)別素材并進(jìn)行粗剪。雖然目前版本在字幕準(zhǔn)確率上還有待提升,但這已經(jīng)讓人們看到了“動(dòng)口不動(dòng)手”的未來(lái)雛形。
然而,就在市場(chǎng)熱度攀升之際,多位用戶(hù)反饋豆包手機(jī)出現(xiàn)登錄異常。有用戶(hù)實(shí)測(cè)發(fā)現(xiàn),微信率先限制其登錄權(quán)限,隨后阿里系多款應(yīng)用(淘寶、閑魚(yú)等)、多家手機(jī)銀行APP陸續(xù)跟進(jìn),即使用戶(hù)手動(dòng)操作,也會(huì)觸發(fā)“登錄環(huán)境異?!钡陌踩崾?。《王者榮耀》等游戲則會(huì)開(kāi)啟環(huán)境檢測(cè),禁止AI助手介入操作,否則將強(qiáng)制下線。
對(duì)于封禁原因,相關(guān)APP廠商未直接回應(yīng),但行業(yè)普遍認(rèn)為,豆包手機(jī)獲取的高級(jí)權(quán)限,本質(zhì)上是在模擬人類(lèi)的點(diǎn)擊和滑動(dòng),這一技術(shù)特征與“群控軟件”“外掛”高度相似。當(dāng)一部手機(jī)擁有了類(lèi)似“自動(dòng)化”的能力,它確實(shí)觸碰了現(xiàn)有互聯(lián)網(wǎng)生態(tài)最敏感的神經(jīng)——賬號(hào)安全與公平性。
雖然字節(jié)跳動(dòng)方面反復(fù)強(qiáng)調(diào),AI讀取屏幕符合“最小必要”原則,且“不云端存儲(chǔ)、不用于訓(xùn)練”,但在缺乏第三方完整審計(jì)的情況下,這種承諾很難讓外界——尤其是握有海量用戶(hù)隱私的APP廠商們完全放心。
豆包團(tuán)隊(duì)發(fā)布的《關(guān)于調(diào)整AI操作手機(jī)能力的說(shuō)明》
面對(duì)爭(zhēng)議,豆包團(tuán)隊(duì)于12月5日發(fā)布《關(guān)于調(diào)整AI操作手機(jī)能力的說(shuō)明》,宣布三項(xiàng)核心調(diào)整:限制刷分、刷激勵(lì)等場(chǎng)景的AI使用;暫時(shí)下線金融類(lèi)應(yīng)用操作能力;暫停部分游戲競(jìng)技場(chǎng)景的AI自動(dòng)化功能。
豆包手機(jī)的遭遇,暴露了AI智能體發(fā)展的深層困境。當(dāng)AI從“輔助工具”升級(jí)為“主動(dòng)操作者”,現(xiàn)有法律法規(guī)與行業(yè)規(guī)范已難以完全覆蓋。比如,AI誤操作導(dǎo)致的損失,責(zé)任如何劃分?AI是否應(yīng)主動(dòng)阻止用戶(hù)的違法指令?這些問(wèn)題都缺乏明確答案。
目前,豆包團(tuán)隊(duì)表示,正與各應(yīng)用廠商溝通,試圖推動(dòng)形成AI操作行為準(zhǔn)則。這場(chǎng)由一款A(yù)I手機(jī)引發(fā)的行業(yè)震蕩,折射出AI技術(shù)在從“工具”轉(zhuǎn)向“智能體”過(guò)程中,必然面對(duì)的生態(tài)壁壘與法律挑戰(zhàn)。AI究竟是幫助用戶(hù)“解放雙手”的得力“助手”,還是迫使行業(yè)大喊“住手” 的“越界者”,仍有待監(jiān)管體系、行業(yè)共識(shí)和技術(shù)迭代共同給出答案。
見(jiàn)習(xí)記者 馬斌
校對(duì) 陶善工