蘋(píng)果Siri被曝“監(jiān)聽(tīng)”用戶(hù)敏感信息

中國(guó)用戶(hù)：我和Siri的悄悄話(huà)被傳到哪里去了

人民網(wǎng) 席莉莉 鄭宇鈞 陳遠(yuǎn)丁 黃鈺

近日，蘋(píng)果公司被曝，將部分用戶(hù)與語(yǔ)音智能助手Siri的對(duì)話(huà)錄音，發(fā)送給外包商進(jìn)行人工分析，其中涉及聯(lián)系方式等個(gè)人敏感信息。此后，美國(guó)加州的蘋(píng)果用戶(hù)提起集體訴訟。不少中國(guó)用戶(hù)也感到不安：自己與Siri的對(duì)話(huà)是否也同樣被人工分析？

“生活中一切圍繞隱私的數(shù)據(jù)都有可能被記錄，包括你的地理位置信息、醫(yī)療疾病信息、財(cái)務(wù)狀況，”信息安全團(tuán)隊(duì)網(wǎng)絡(luò)尖刀創(chuàng)始人曲子龍表示，理論上Siri只會(huì)監(jiān)聽(tīng)到被喚醒后的語(yǔ)音，但是Siri存在被誤喚醒的可能，會(huì)無(wú)意間泄露用戶(hù)隱私。

蘋(píng)果公司接受人民網(wǎng)采訪(fǎng)時(shí)承認(rèn)，中國(guó)用戶(hù)也在Siri評(píng)估計(jì)劃的影響范圍內(nèi)。8月28日，蘋(píng)果公司針對(duì)“Siri監(jiān)聽(tīng)事件”發(fā)布聲明，明確將對(duì)此做出改變，并計(jì)劃于今年秋季發(fā)布軟件更新，屆時(shí)再重啟Siri評(píng)估計(jì)劃。

用戶(hù)：我很信任siri，但是它居然在監(jiān)聽(tīng)

作為蘋(píng)果產(chǎn)品自帶的功能，Siri可以被用來(lái)安排日程、定鬧鐘、查天氣、回短信等。杭州新媒體運(yùn)營(yíng)小佳在深夜失眠時(shí)，只要一聲“Siri我睡不著”，通過(guò)語(yǔ)義智能判斷，Siri就會(huì)給她數(shù)綿羊，伴她入睡。 “我很信任它，但是它居然在監(jiān)聽(tīng)，感覺(jué)像是被知心朋友背叛”，小佳對(duì)Siri頗為失望。

Siri記錄的，不僅僅是用戶(hù)與Siri的對(duì)話(huà)，還有誤觸發(fā)時(shí)的語(yǔ)音信息?！皟H僅是拉開(kāi)拉鏈的聲音，就經(jīng)常能激活Siri?！庇?guó)《衛(wèi)報(bào)》引用匿名人士的爆料稱(chēng)，就算是用戶(hù)無(wú)意觸發(fā)Siri，Siri也會(huì)自行激活、錄下內(nèi)容、發(fā)回服務(wù)器。

夫妻性生活的秘語(yǔ)、醫(yī)生和病人討論病史，種種用戶(hù)并不希望被記錄的對(duì)話(huà)都可能在遠(yuǎn)端被人工分析。

蘋(píng)果公司回復(fù)人民網(wǎng)記者采訪(fǎng)稱(chēng)，“Apple非常重視客戶(hù)的隱私，致力于為中國(guó)和世界各地的客戶(hù)提供卓越的Siri體驗(yàn)，對(duì)于 Siri 的持續(xù)改進(jìn)和質(zhì)量保證，很小一部分 Siri 互動(dòng)（不到1％）會(huì)被拿來(lái)進(jìn)行評(píng)估，以確保我們?cè)谥袊?guó)和世界各地的客戶(hù)擁有最佳的 Siri 體驗(yàn)。這些互動(dòng)不會(huì)與您的 Apple ID 相關(guān)聯(lián)，只通過(guò)隨機(jī)標(biāo)識(shí)符與設(shè)備聯(lián)系起來(lái)?！?/p>

“盡管錄音沒(méi)有與Apple ID直接關(guān)聯(lián)起來(lái)，但用戶(hù)無(wú)意中透露的地理位置、聯(lián)系人等信息足以揭示其身份。”爆料人說(shuō)。

蘋(píng)果公司在對(duì)人民網(wǎng)的回復(fù)中提到：“8月 Apple 在全球范圍內(nèi)暫停了對(duì) Siri 的評(píng)價(jià)，同時(shí)我們進(jìn)行徹底審查。作為未來(lái)軟件更新的一部分，客戶(hù)將有能力選擇是否參與評(píng)價(jià)。 ”此前，蘋(píng)果用戶(hù)只能選擇“禁用”或“開(kāi)啟”Siri，即一旦使用則默認(rèn)同意錄音。

針對(duì)蘋(píng)果公司涉及的問(wèn)題，美國(guó)加州的蘋(píng)果用戶(hù)已提起集體訴訟。原告指責(zé)蘋(píng)果未經(jīng)他人同意非法和蓄意記錄個(gè)人機(jī)密通信信息，要求蘋(píng)果刪除所有Siri錄音并進(jìn)行賠償。

北京安理律師事務(wù)所合伙人王新銳指出，從個(gè)人信息保護(hù)的原則來(lái)看，人工智能產(chǎn)品應(yīng)遵循“知情同意”。即使是出于改善用戶(hù)體驗(yàn)的初衷，在沒(méi)有告知并征得用戶(hù)同意的前提下雇用第三方采集分析用戶(hù)數(shù)據(jù)，依然侵犯了用戶(hù)對(duì)個(gè)人信息流向的知情權(quán)。

專(zhuān)家：只要存儲(chǔ)了敏感信息就有泄露風(fēng)險(xiǎn)

Siri對(duì)用戶(hù)語(yǔ)音的采樣分析，在客觀(guān)上對(duì)個(gè)人隱私保護(hù)是否存在隱患？人民網(wǎng)記者就此詢(xún)問(wèn)蘋(píng)果公司，對(duì)方?jīng)]有作出回應(yīng)。

“只要存儲(chǔ)了敏感信息就有泄露風(fēng)險(xiǎn)?！鼻育埍硎荆碚撋蟂iri只會(huì)監(jiān)聽(tīng)到被喚醒后的語(yǔ)音，但是Siri存在被誤喚醒的可能，會(huì)無(wú)意間泄露用戶(hù)隱私。

此外，若在通過(guò)用戶(hù)授權(quán)的情況下采集的數(shù)據(jù)被泄露，該如何劃分責(zé)任？曲子龍認(rèn)為，用戶(hù)授權(quán)的主體是蘋(píng)果公司，這包含了數(shù)據(jù)的用途，超出這個(gè)范圍的使用，蘋(píng)果公司都要承擔(dān)相應(yīng)的責(zé)任。

據(jù)英國(guó)《衛(wèi)報(bào)》報(bào)道，來(lái)自蘋(píng)果外包公司的爆料人稱(chēng)用戶(hù)的敏感信息并沒(méi)有具體的程序來(lái)處理或保護(hù)，爆料人還提到，“在那工作的員工沒(méi)有經(jīng)過(guò)嚴(yán)格的審查，但他們有權(quán)利查看的數(shù)據(jù)卻十分廣泛”。

“肯定會(huì)有用戶(hù)信任蘋(píng)果公司對(duì)隱私的保護(hù)，但不信任蘋(píng)果的外包服務(wù)商，如果要經(jīng)外包服務(wù)商的處理，就不打開(kāi)Siri了?！蓖跣落J認(rèn)為用戶(hù)的擔(dān)憂(yōu)不無(wú)道理，對(duì)于蘋(píng)果公司來(lái)說(shuō)，重點(diǎn)要做好對(duì)外包服務(wù)商的風(fēng)控，比如要保證外包公司不會(huì)監(jiān)守自盜。

“外包出去的時(shí)候，其實(shí)某種意義上就是分享，因此，蘋(píng)果公司必須要在隱私政策里告知用戶(hù)。”北京師范大學(xué)法學(xué)院教授、亞太網(wǎng)絡(luò)法律研究中心創(chuàng)始人劉德良認(rèn)為。

在8月28日的聲明中蘋(píng)果公司承諾做出改變：當(dāng)用戶(hù)選擇加入時(shí)，只有 Apple 員工才被允許收聽(tīng) Siri 互動(dòng)的音頻樣本。

“什么人有權(quán)限訪(fǎng)問(wèn)用戶(hù)數(shù)據(jù)，需要完善的內(nèi)控制度。因?yàn)楣緝?nèi)部人處理同樣可能發(fā)生監(jiān)守自盜或?yàn)E用數(shù)據(jù)的問(wèn)題?！贝送?，王新銳指出，在“第三方外包”這一問(wèn)題之外，對(duì)用戶(hù)數(shù)據(jù)進(jìn)行分析的方式即采用人工或機(jī)器分析，也應(yīng)該在未來(lái)的隱私政策中告知用戶(hù)。

維權(quán)：偷聽(tīng)常被定義為道德問(wèn)題，很難立案

人民網(wǎng)記者8月14日就“Siri監(jiān)聽(tīng)事件”聯(lián)系工信部新聞處，詢(xún)問(wèn)蘋(píng)果公司此舉是否違反國(guó)內(nèi)相關(guān)法律與規(guī)定。截至記者發(fā)稿時(shí)尚未獲得明確回復(fù)。

“監(jiān)管部門(mén)應(yīng)該在個(gè)案處理和規(guī)則制定兩個(gè)層面兩手抓?！惫ば挪炕?dòng)媒體產(chǎn)業(yè)聯(lián)盟數(shù)字文化工作組組長(zhǎng)包冉分析指出，當(dāng)下需要推行的，是按照現(xiàn)行法律法規(guī)，結(jié)合消費(fèi)者的投訴，要求蘋(píng)果或其他相關(guān)公司，接受相應(yīng)的調(diào)查及做出嚴(yán)肅的情況說(shuō)明，并視情況予以依法依規(guī)的處罰或不處罰決定。

涉及個(gè)人隱私問(wèn)題，國(guó)內(nèi)主要依據(jù)《網(wǎng)絡(luò)安全法》，其中共有11條條款定義個(gè)人信息保護(hù)的保護(hù)規(guī)定。“事實(shí)上，網(wǎng)絡(luò)安全法是互聯(lián)網(wǎng)領(lǐng)域治理的一部上位法，需要很多針對(duì)細(xì)分領(lǐng)域的下位法予以支撐。”包冉建議。

對(duì)于個(gè)人隱私保護(hù)專(zhuān)項(xiàng)立法的作用，專(zhuān)家和業(yè)界意見(jiàn)不一。王新銳認(rèn)為，立法要推進(jìn)，但科技領(lǐng)域的問(wèn)題發(fā)展很快，不一定也來(lái)不及都等新的立法出來(lái)才能解決。他提出，智能語(yǔ)音助手的問(wèn)題，可以在目前的框架下去解決，并非沒(méi)有個(gè)人信息保護(hù)的單獨(dú)立法，這些問(wèn)題就解決不了。

從用戶(hù)的角度來(lái)說(shuō)，存在維權(quán)難的問(wèn)題。曲子龍解釋道，一方面是難以舉證，即用戶(hù)很難論證智能語(yǔ)音產(chǎn)品監(jiān)聽(tīng)濫用了個(gè)人隱私；另一方面，在法律層面，語(yǔ)音沒(méi)有納入隱私范圍。“偷聽(tīng)大部分被定義為道德問(wèn)題，如果難以證明其有明確的商業(yè)利益，很難立案?！?/p>

用戶(hù)積聚的疑慮和不滿(mǎn)潛滋暗長(zhǎng)，蠶食科技公司與用戶(hù)之間的信任。8月28日，蘋(píng)果公司在聲明中對(duì)Siri的未來(lái)發(fā)展做出承諾：在默認(rèn)情況下，蘋(píng)果公司將不再保留用戶(hù)與Siri互動(dòng)的音頻錄音。此外，用戶(hù)可以選擇是否允許蘋(píng)果公司獲取音頻樣本以改進(jìn)Siri，選擇允許的用戶(hù)也可以隨時(shí)退出。

2019年7月，美國(guó)投資機(jī)構(gòu)發(fā)布2019年《語(yǔ)音技術(shù)報(bào)告》，預(yù)測(cè)蘋(píng)果公司可能會(huì)在2020年的蘋(píng)果全球開(kāi)發(fā)者大會(huì)上推出Siri操作系統(tǒng)，讓 Siri的生態(tài)系統(tǒng)更加深入用戶(hù)生活。未來(lái)，監(jiān)管機(jī)構(gòu)對(duì)更無(wú)所不在的“Siri”做好準(zhǔn)備了嗎?