某征婚交友平臺運營者實施算法時認定用戶李某為“殺豬盤”，并對其進行風控，導致李某被好友誤認為騙子。李某一氣之下將平臺訴至法院，要求道歉并賠償2萬元。

11月10日，北京青年報記者從北京互聯網法院獲悉，該院審結了首例涉及算法風控系統引發人身權益侵權糾紛的案件。法院判決平臺并無主觀過錯，不構成侵權，駁回了李某的訴訟請求。

(相關資料圖)

案件

金融人士被網站算法“誤傷”

據了解，李某為某金融公司員工，注冊了某征婚交友平臺，提交了真實照片作為頭像以及實名認證手機號。在李某正常使用平臺期間，征婚平臺對其賬戶進行了封號處理，并向其他網友提示稱“賬號可能存在異常”“不要與之發生金錢來往”等。該情況導致李某多位朋友誤認為其是騙子，造成李某名譽受損。

李某訴至法院，認為平臺運營的算法技術造成誤判侵犯其名譽權，請求法院判令征婚平臺公開向其道歉予以澄清，并賠償損失2萬元。

征婚平臺辯稱，按照法律法規的規定，運營者對用戶在平臺的行為進行監管，履行平臺主體責任。李某為其運營平臺注冊用戶，在與平臺其他用戶聊天過程中，短期內多次被檢測到出現“金融”“基金”“加微信”等“殺豬盤”詐騙案件所涉高頻詞匯，因此自動觸發了平臺風控系統的審核規則，經李某致電客服反映情況，平臺的人工核實后對該賬戶進行解封。

平臺認為，自己的行為僅是為公共利益依法履行主體監管責任，系統自動判定原告賬戶為風險賬號，不存在侵權行為。

法院

平臺風控行為并無主觀過錯

該案訴訟過程中，平臺還提交了《關于涉案軟件風控審核系統的情況說明》及相關證據，向法庭說明其“預防性風控系統”算法邏輯機理，盡到了相應的算法披露義務。結合雙方訴辯意見，該案中主要爭議點為，平臺采取涉案算法風控行為是否存在主觀過錯。

北京互聯網法院經審理認為，平臺根據涉案“預防性風控系統”針對的詞匯和行為可見，該系統設置目的確系為預防“殺豬盤”等網絡詐騙行為，系為實現法律要求的監管義務和公共利益，具有正當性。

同時算法設置需在現有技術條件下合理、合比例，不得存在算法歧視、算法濫用等侵害他人合法權益的非法手段，根據已查明的事實及被告披露算法邏輯過程，涉案算法設置系基于特定詞匯和用戶行為的自動化反應機制，并不存在對某類用戶的不當歧視。

另外，鑒于涉案平臺為陌生人網絡交友戀愛類平臺，在目前社會背景下加強“殺豬盤”等網絡詐騙犯罪的篩查力度，于平臺服務類型來說具有一定合理性。

而平臺在發現誤封后，確按照其承諾的人工審核方式，在聲明的期限內核查誤判并解除賬戶封禁和風險提示，盡到了與涉案算法風險相匹配的注意義務。

綜上，平臺基于法律監管要求和公共利益保護的目的，設置“預防性風控系統”算法應用，對用戶行為進行中立、無差別的風險篩查，雖因技術水平所限造成系統誤判，但盡到了與涉案算法風險相匹配的注意義務，并采取了合理的預防侵權措施，并無主觀過錯，不構成侵權。

法院判決駁回李某的訴訟請求。一審宣判后，雙方均未上訴，該案判決已生效。

專家

尋求“個體”與“社會”平衡點

據北京互聯網法院介紹，該案是全國首次涉及算法風控系統引發人身權益侵權糾紛進行的審理。針對該領域，2022年《互聯網信息服務算法推薦管理規定》和《反電信網絡詐騙法》均規定了網絡服務提供者需履行涉電信網絡詐騙信息監測、識別和處置的義務。在此背景下，網絡服務提供者通過技術手段，強化對高危風險賬戶的監測和預防功能，具有算法技術運用的正當性。

中國社會科學院大學互聯網法治研究中心執行主任劉曉春表示，數字經濟時代，算法成為網絡平臺進行信息交換、資源調配、內部治理的重要途徑，對于算法的治理和規范是建構網絡空間綜合治理秩序的重要組成部分。與此同時，平臺積極運用算法參與綜合治理，也需要對其行為的合理邊界和注意義務給出標準和指引。

劉曉春表示，本案中，法院一方面承認了用戶權益在平臺經濟中應當受到充分保護，另一方面也認定了網絡平臺依據法律要求、履行打擊電信詐騙等治理義務的行為存在合法性基礎，當兩者出現一定程度的利益沖突時，本案判決為平臺確立了合理的注意義務標準及具體認定因素，在個體用戶權益保護和實現社會治理功能之間尋求精準的平衡點，探索并確立了判斷平臺治理合理邊界的法律適用標準，在確認平臺可以繼續采取有效措施防范“殺豬盤”等電信詐騙風險的同時，又確保被算法“誤傷”的個體權益可獲得救濟途徑，從而實現更大范圍內切實保護人民群眾切身利益的目標，為構建協同共治的網絡空間治理秩序提供法治保障。

（原題為《被網站算法“誤傷”認定為“殺豬盤” 網友侵權之訴被駁回》）