12月6日消息,豆包手機(jī)近期“豆包手機(jī)”引發(fā)很多關(guān)注,阿里其系統(tǒng)深度內(nèi)嵌了豆包AI,已封魚可以實(shí)現(xiàn)更深層次的禁淘自動(dòng)化操作,比如自動(dòng)多電商平臺(tái)比價(jià)/下單,寶閑甚至系統(tǒng)自己刷游戲資源。法登
因權(quán)限過高帶來一些隱患,豆包手機(jī)很多主流App開始禁用“豆包手機(jī)”,阿里比如微信、已封魚多個(gè)手機(jī)銀行App都已經(jīng)禁止登錄。禁淘
根據(jù)媒體實(shí)測(cè),寶閑阿里系多款應(yīng)用也已經(jīng)開始拒絕“豆包手機(jī)”登錄,法登覆蓋淘寶、豆包手機(jī)淘寶閃購、阿里閑魚、已封魚大麥等。
不光是AI比價(jià)等功能無法使用,甚至連手動(dòng)操作打開上述App都會(huì)觸發(fā)安全機(jī)制,彈出登錄受阻提示。
此外,《王者榮耀》等游戲類App也開啟了AI控制檢測(cè),目前僅支持手動(dòng)打開,AI助手無法對(duì)其進(jìn)行開啟或控制,否則會(huì)被踢下線。
鑒于各類App目前的反應(yīng)情況,豆包官方也第一時(shí)間進(jìn)行了調(diào)整,日前發(fā)布了一份《關(guān)于調(diào)整AI操作手機(jī)能力的說明》,其中表示,將限制刷分、刷激勵(lì)的使用場(chǎng)景;進(jìn)一步限制金融類應(yīng)用的使用;限制部分游戲類使用場(chǎng)景。
原文如下:
各位關(guān)注豆包手機(jī)助手的朋友們:
大家好!豆包手機(jī)助手是把AI技術(shù)和手機(jī)系統(tǒng)深度結(jié)合的一次全新探索,雖然只是少量搭載技術(shù)預(yù)覽版的工程樣機(jī),社會(huì)的關(guān)注度卻遠(yuǎn)遠(yuǎn)超過我們的預(yù)期,“AI操作手機(jī)”更是引發(fā)了不少討論。
為了讓技術(shù)發(fā)展、行業(yè)接受度和用戶體驗(yàn)多方都能形成良性適配,我們計(jì)劃在接下來的一段時(shí)間,在部分場(chǎng)景,對(duì)AI操作手機(jī)的能力做一些規(guī)范化調(diào)整。這是為了讓技術(shù)走得更穩(wěn)、更遠(yuǎn)的必要鋪墊,希望能得到大家的理解。
具體包括,但不限于:
1、限制刷分、刷激勵(lì)的使用場(chǎng)景:部分App廠商推出激勵(lì)機(jī)制的初衷,是鼓勵(lì)真實(shí)用戶的主動(dòng)交互行為,不希望此類設(shè)計(jì)被AI領(lǐng)取。這一訴求我們充分理解,因此會(huì)對(duì)這部分能力進(jìn)行限制。
2、進(jìn)一步限制金融類應(yīng)用的使用:銀行、互聯(lián)網(wǎng)支付等金融場(chǎng)景,直接關(guān)聯(lián)用戶的資金安全,雖然手機(jī)助手在敏感操作時(shí)都需要用戶授權(quán),但審慎起見,豆包手機(jī)助手也將暫時(shí)下線操作這類APP的能力。我們也會(huì)積極與相關(guān)廠商溝通,希望共同制定清晰、安全的AI操作行為準(zhǔn)則。
3、限制部分游戲類使用場(chǎng)景:考慮到部分游戲場(chǎng)景涉及到競(jìng)技排名,為了保證公平,暫時(shí)下線部分游戲場(chǎng)景的AI使用能力。
目前,我們也在積極尋求與各應(yīng)用廠商的深度溝通,希望推動(dòng)形成更加清晰、可預(yù)期的規(guī)則,避免用一刀切的方式否定用戶合理使用AI的權(quán)利。
若您是相關(guān)領(lǐng)域的合作方,并有意向共建規(guī)范,歡迎聯(lián)系DevRel[at]mail.doubao.com (請(qǐng)將[at]替換為@)