发生算法乌龙，电子购物卡交易款项被冻结，谁的错？杭州法院这样判

钱江晚报·小时新闻记者 黄伟芬 通讯员 钟法 杭互法

为了应对网上交易欺诈等问题，网络交易平台采取算法技术过滤负面信息，紧急时刻还会启动算法风控系统筛查潜在交易风险。

(资料图)

卖家小李（化名）在某网络交易平台出售电子购物卡时，便遇上了算法风控系统审核，还因为这事将平台告上了法庭。

那么算法错了，板子怎么打？

图片来源 视觉中国

近日，杭州互联网法院审结了一起算法风控系统引发的网络服务合同纠纷案件，认定网络交易平台运营者实施算法风控，尽到了合理注意义务并设计了相应预防措施，不构成违约。

小李在某网络交易平台注册为会员后，在该平台出售一张价值900余元的电子购物卡。

交易完成后，小李发现平台冻结了该笔订单款项。

经小李申诉，平台客服尝试与买家联系核实，但买家未帮助小李申诉解冻。

原告小李诉称，其在正常使用平台期间被冻结了账户资金，导致订单款项无法正常转出。小李认为，被告平台实施算法技术造成误判，此举已构成违约，请求法院判令平台公开道歉。

被告平台辩称，其为平台运营者，依照法律法规需要对用户在平台行为进行监管，履行平台主体责任。原告交易过程中，被自动化系统识别到存在虚拟交易快速成交的情况，有虚假发货、诱导收货的潜在风险，该笔订单被识别为高风险订单，因此自动触发了风控系统审核规则，冻结订单款项15天。

事后，原告致电客服反映情况，该笔订单确为正常订单。平台此举是为了资金安全采取的必要措施，仅是为了公共利益依法履行主体监管职责，不构成违约。

本案诉讼过程中，被告提交了《关于涉案软件风控审核系统的情况说明》及相关证据，向法庭说明其“预防性风控系统”算法逻辑机理，尽到了相应的算法披露义务。

本案主要争议点为，被告采取涉案算法风控行为并对原告作出相应处置措施是否构成违约。是否构成违约情形，应在审判中从以下几个方面展开分析认定：

首先行为目的和主观意图、是否具有正当性。根据涉案“预防性风控系统”针对的交易类型和行为模式可见，该系统设置目的确系为预防网络诈骗行为，系为实现法律要求的监管义务和公共利益，具有正当性。

其次行为手段和性质、侵害财产权益的风险性程度、行为过程的审慎程度。算法设置需在现有技术条件下合理、合比例，不得存在算法歧视、算法滥用等侵害他人合法财产权益的非法手段，根据已查明的事实及被告披露算法逻辑过程，涉案算法设置系基于特定交易类型和行为模式的自动化反应机制，并不存在对某一类用户的不当歧视。

再次行为主体身份的特点、技术能力水平及社会责任。鉴于涉案平台为网络交易平台，在当下涉及虚拟交易领域网络诈骗行为频发的社会背景下，对于被告正常良性开展网络服务来说具有一定合理性。

最后是否采取了预防侵权的合理措施。被告预先设定了相应的人工审核方式，对于识别误判及解除账户封禁等事项也做了必要的纠错机制安排，尽到了与涉案算法风险相匹配的注意义务。

综上，被告基于法律监管要求和公共利益保护的目的，为了交易款项安全，设置预防性风控系统算法应用，对用户行为进行中立、无差别的风险筛查，虽因技术水平所限造成一定系统误判，但此误差为在所难免，也系小概率事件，被告已经尽到了与涉案算法风险相匹配的注意义务，并采取了必要的纠错机制安排，并不构成违约。

法院驳回原告的诉讼请求。一审宣判后，双方均未上诉，该案判决已生效。

新闻+

法官说法

随着数字经济背景下大数据、人工智能技术的飞速发展，算法技术被广泛运用于互联网应用场景中。与此同时，“大数据杀熟”“算法歧视”“深度伪造”等算法应用乱象也时有发生。如何构建鼓励算法行业发展与规制合理运用的算法治理秩序，成为算法侵权案件司法裁判关注的重点。本案对于算法纠纷的裁判作出以下探索：

一是针对“算法黑箱”问题。算法应用过程存在技术隐蔽性，考察算法行为是否构成侵权的前提需明确涉案算法运行的机制机理。本案中，法院认定，被告作为涉案软件的运营者，对算法应用过程具有披露义务，应提供证据证明涉案侵权行为系算法技术的实施所引发，并对算法运用的具体机理予以解释说明。

二是针对“违约认定”问题。法院结合算法技术特点和相关产业发展现状，对于涉案算法应用行为是否构成违约的认定问题，确立了算法行为目的和主观意图、是否具有正当性，行为手段和性质、侵害财产权益的风险性程度、行为过程的审慎程度、是否采取了预防性合理措施，行为主体身份的特点、技术能力水平及所附注意义务等综合性评判因素。

本文为钱江晚报原创作品，未经许可，禁止转载、复制、摘编、改写及进行网络传播等一切作品版权使用行为，否则本报将循司法途径追究侵权人的法律责任。