平台误判用户为“杀猪盘”骗子将其封号

“杀猪盘”等电信网络诈骗层出不穷，网络平台往往采取算法技术过滤不良信息。如果算法闹出“乌龙”，平台需要担责吗？近日，北京互联网法院审结了首例涉及算法风控系统引发人身权益侵权纠纷的案件，认定被告某征婚交友平台的误判封号行为不构成对用户的侵权。

李先生是一家金融公司的员工，他在某征婚交友平台注册账号，并提交了真实照片作为头像，实名认证了手机号。李先生称，自己在正常使用平台期间，账户被封了，其他网友还收到了提示，称李先生的账号“可能存在异常”“不要与之发生金钱来往”。李先生认为，这种情况导致多位朋友认为他是骗子，自己的名誉遭受损失。他诉至法院称，平台实施算法技术造成误判侵犯其名誉权，请求判令平台公开向自己道歉澄清，并赔偿损失两万元。

为何李先生会被封号？被告某征婚交友平台的运营者说，李先生在与其他用户聊天过程中，短期内多次被检测到出现“金融”“基金”“加好友”等“杀猪盘”诈骗案件所涉高频词汇，因此自动触发了平台风控系统的审核规则。经李先生致电客服反映情况，平台人工核实后已对其账户进行了解封。平台的行为仅是为公共利益依法履行主体监管责任，不存在侵权行为。

诉讼过程中，被告平台向法院提交了《关于涉案软件风控审核系统的情况说明》及相关证据，说明其“预防性风控系统”算法逻辑机理，尽到了相应的算法披露义务。

北京互联网法院审理认为，本案争议焦点为被告采取涉案算法风控行为是否存在主观过错。根据涉案“预防性风控系统”针对的词汇和行为可见，该系统设置目的确系为预防“杀猪盘”等网络诈骗行为，系为实现法律要求的监管义务和公共利益，具有正当性。同时，根据已查明的事实及被告披露算法逻辑过程，涉案算法设置系基于特定词汇和用户行为的自动化反应机制，并不存在对某类用户的歧视。

法院认为，鉴于涉案平台为陌生人网络交友恋爱类平台，在目前社会背景下加强“杀猪盘”等网络诈骗犯罪的筛查力度，于被告服务类型来说具有一定合理性。此外，被告公司也使用人工审核方式，在声明的期限内核查了误判，并解除了原告的账户封禁和风险提示，尽到了与涉案算法风险相匹配的注意义务。

综上，北京互联网法院认为，被告基于法律监管要求和公共利益保护的目的，设置“预防性风控系统”算法应用，对用户行为进行中立、无差别的风险筛查，虽因技术水平所限造成系统误判，但尽到了与涉案算法风险相匹配的注意义务，并采取了合理的预防侵权措施，并无主观过错，不构成侵权。

法院最终判决驳回原告李先生的诉讼请求。一审宣判后，双方均未上诉，该案判决现已生效。

本案主审法官介绍说，算法应用过程存在技术隐蔽性，考察算法行为是否构成侵权的前提需明确涉案算法运行的机制机理。本案中被告作为涉案软件的运营者，对算法应用过程具有披露义务，应提供证据证明涉案侵权行为系算法技术的实施所引发，并对算法运用的具体机理予以说明。

主审法官表示，这起案件首次对于算法应用于“风险控制”领域引发的侵权进行了审理。我国相关法律法规规定了网络服务提供者需履行涉电信网络诈骗信息监测、识别和处置的义务。因此，网络服务提供者通过技术手段，强化对高危风险账户的监测和预防功能，具有算法技术运用的正当性。

中国社会科学院大学互联网法治研究中心执行主任刘晓春认为，本案中，法院一方面承认了用户权益在平台经济中应当受到充分保护，另一方面也认定了网络平台依据法律要求，履行打击电信诈骗等治理义务的行为存在合法性基础。当两者出现一定程度利益冲突时，本案判决为平台确立了合理的注意义务标准及具体认定因素，在个体用户权益保护和实现社会治理功能之间寻求平衡点，为构建网络空间治理秩序提供法治保障。（记者 张雪泓）