被網(wǎng)站算法“誤傷”網(wǎng)友侵權(quán)之訴被駁回【法院：平臺并無主觀過錯不構(gòu)成侵權(quán)】

 

　　某征婚交友平臺運營者實施算法時認(rèn)定用戶李某為“殺豬盤”，并對其進(jìn)行風(fēng)控，導(dǎo)致李某被好友誤認(rèn)為騙子。李某一氣之下將平臺訴至法院，要求道歉并賠償2萬元。

 

　　11月10日，北京青年報記者從北京互聯(lián)網(wǎng)法院獲悉，該院審結(jié)了首例涉及算法風(fēng)控系統(tǒng)引發(fā)人身權(quán)益侵權(quán)糾紛的案件。法院判決平臺并無主觀過錯，不構(gòu)成侵權(quán)，駁回了李某的訴訟請求。

 

　　案件

 

　　金融人士被網(wǎng)站算法“誤傷”

 

　　據(jù)了解，李某為某金融公司員工，注冊了某征婚交友平臺，提交了真實照片作為頭像以及實名認(rèn)證手機(jī)號。在李某正常使用平臺期間，征婚平臺對其賬戶進(jìn)行了封號處理，并向其他網(wǎng)友提示稱“賬號可能存在異常”“不要與之發(fā)生金錢來往”等。該情況導(dǎo)致李某多位朋友誤認(rèn)為其是騙子，造成李某名譽受損。

 

　　李某訴至法院，認(rèn)為平臺運營的算法技術(shù)造成誤判侵犯其名譽權(quán)，請求法院判令征婚平臺公開向其道歉予以澄清，并賠償損失2萬元。

 

　　征婚平臺辯稱，按照法律法規(guī)的規(guī)定，運營者對用戶在平臺的行為進(jìn)行監(jiān)管，履行平臺主體責(zé)任。李某為其運營平臺注冊用戶，在與平臺其他用戶聊天過程中，短期內(nèi)多次被檢測到出現(xiàn)“金融”“基金”“加微信”等“殺豬盤”詐騙案件所涉高頻詞匯，因此自動觸發(fā)了平臺風(fēng)控系統(tǒng)的審核規(guī)則，經(jīng)李某致電客服反映情況，平臺的人工核實后對該賬戶進(jìn)行解封。

 

　　平臺認(rèn)為，自己的行為僅是為公共利益依法履行主體監(jiān)管責(zé)任，系統(tǒng)自動判定原告賬戶為風(fēng)險賬號，不存在侵權(quán)行為。

 

　　法院

 

　　平臺風(fēng)控行為并無主觀過錯

 

　　該案訴訟過程中，平臺還提交了《關(guān)于涉案軟件風(fēng)控審核系統(tǒng)的情況說明》及相關(guān)證據(jù)，向法庭說明其“預(yù)防性風(fēng)控系統(tǒng)”算法邏輯機(jī)理，盡到了相應(yīng)的算法披露義務(wù)。結(jié)合雙方訴辯意見，該案中主要爭議點為，平臺采取涉案算法風(fēng)控行為是否存在主觀過錯。

 

　　北京互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)為，平臺根據(jù)涉案“預(yù)防性風(fēng)控系統(tǒng)”針對的詞匯和行為可見，該系統(tǒng)設(shè)置目的確系為預(yù)防“殺豬盤”等網(wǎng)絡(luò)詐騙行為，系為實現(xiàn)法律要求的監(jiān)管義務(wù)和公共利益，具有正當(dāng)性。

 

　　同時算法設(shè)置需在現(xiàn)有技術(shù)條件下合理、合比例，不得存在算法歧視、算法濫用等侵害他人合法權(quán)益的非法手段，根據(jù)已查明的事實及被告披露算法邏輯過程，涉案算法設(shè)置系基于特定詞匯和用戶行為的自動化反應(yīng)機(jī)制，并不存在對某類用戶的不當(dāng)歧視。

 

　　另外，鑒于涉案平臺為陌生人網(wǎng)絡(luò)交友戀愛類平臺，在目前社會背景下加強(qiáng)“殺豬盤”等網(wǎng)絡(luò)詐騙犯罪的篩查力度，于平臺服務(wù)類型來說具有一定合理性。

 

　　而平臺在發(fā)現(xiàn)誤封后，確按照其承諾的人工審核方式，在聲明的期限內(nèi)核查誤判并解除賬戶封禁和風(fēng)險提示，盡到了與涉案算法風(fēng)險相匹配的注意義務(wù)。

 

　　綜上，平臺基于法律監(jiān)管要求和公共利益保護(hù)的目的，設(shè)置“預(yù)防性風(fēng)控系統(tǒng)”算法應(yīng)用，對用戶行為進(jìn)行中立、無差別的風(fēng)險篩查，雖因技術(shù)水平所限造成系統(tǒng)誤判，但盡到了與涉案算法風(fēng)險相匹配的注意義務(wù)，并采取了合理的預(yù)防侵權(quán)措施，并無主觀過錯，不構(gòu)成侵權(quán)。

 

　　法院判決駁回李某的訴訟請求。一審宣判后，雙方均未上訴，該案判決已生效。

 

　　專家

 

　　尋求“個體”與“社會”平衡點

 

　　據(jù)北京互聯(lián)網(wǎng)法院介紹，該案是全國首次涉及算法風(fēng)控系統(tǒng)引發(fā)人身權(quán)益侵權(quán)糾紛進(jìn)行的審理。針對該領(lǐng)域，2022年《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《反電信網(wǎng)絡(luò)詐騙法》均規(guī)定了網(wǎng)絡(luò)服務(wù)提供者需履行涉電信網(wǎng)絡(luò)詐騙信息監(jiān)測、識別和處置的義務(wù)。在此背景下，網(wǎng)絡(luò)服務(wù)提供者通過技術(shù)手段，強(qiáng)化對高危風(fēng)險賬戶的監(jiān)測和預(yù)防功能，具有算法技術(shù)運用的正當(dāng)性。

 

　　中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春表示，數(shù)字經(jīng)濟(jì)時代，算法成為網(wǎng)絡(luò)平臺進(jìn)行信息交換、資源調(diào)配、內(nèi)部治理的重要途徑，對于算法的治理和規(guī)范是建構(gòu)網(wǎng)絡(luò)空間綜合治理秩序的重要組成部分。與此同時，平臺積極運用算法參與綜合治理，也需要對其行為的合理邊界和注意義務(wù)給出標(biāo)準(zhǔn)和指引。

 

　　劉曉春表示，本案中，法院一方面承認(rèn)了用戶權(quán)益在平臺經(jīng)濟(jì)中應(yīng)當(dāng)受到充分保護(hù)，另一方面也認(rèn)定了網(wǎng)絡(luò)平臺依據(jù)法律要求、履行打擊電信詐騙等治理義務(wù)的行為存在合法性基礎(chǔ)，當(dāng)兩者出現(xiàn)一定程度的利益沖突時，本案判決為平臺確立了合理的注意義務(wù)標(biāo)準(zhǔn)及具體認(rèn)定因素，在個體用戶權(quán)益保護(hù)和實現(xiàn)社會治理功能之間尋求精準(zhǔn)的平衡點，探索并確立了判斷平臺治理合理邊界的法律適用標(biāo)準(zhǔn)，在確認(rèn)平臺可以繼續(xù)采取有效措施防范“殺豬盤”等電信詐騙風(fēng)險的同時，又確保被算法“誤傷”的個體權(quán)益可獲得救濟(jì)途徑，從而實現(xiàn)更大范圍內(nèi)切實保護(hù)人民群眾切身利益的目標(biāo)，為構(gòu)建協(xié)同共治的網(wǎng)絡(luò)空間治理秩序提供法治保障。

 

　　(文/本報記者 王浩雄 北京青年報)