近期，《人物》推出一篇调查性文章《外卖骑手，困在系统里》。这篇文章揭示了“与生命赛跑”的外卖骑手所面临的困境。他们的时间、收入及生命安全，被强大的算法锁定。并且纵观当今社会，算法杀熟、隐私侵占，甚至于在推荐算法的支配下，我们吃什么、穿什么、听什么歌、获得什么信息都由算法决定，个体不可避免的进入了“信息茧房”，算法已经决定了人们的生活边界。在此背景下，12月20日，CCF YOCSEF太原在山西大学大数据科学与产业研究院成功举办“数字山西—是什么造成了平台经济下的算法治理困境？”观点论坛。

论坛邀请来自山西省高校、科研院所、管理、新闻和法律界的优秀代表围绕平台经济下的算法治理困境展开讨论。汕头大学商学院企业管理系系主任，周军杰副教授；河南工业大学，YOCSEF郑州2018~2020年度副主席，张玉宏博士作为引导嘉宾分享自己的观点。山西大学大数据科学与产业研究院产业研发中心主任，彭甫镕副教授；山西广播电视台融媒体发展管理部主任，徐文胜高级编辑；泰和泰（太原）律师事务所，山西省劳动与社会保障法专业委员会委员，杨熳律师作为特邀嘉宾进行分享。CCF YOCSEF太原AC委员乔钢柱和姚姗姗担任本次论坛执行主席。

执行主席乔钢柱和姚姗姗主持会议

避免算法治理困境需要社会、企业和个人进行整体性思维

汕头大学商学院企业管理系系主任周军杰副教授作了题为《智慧养老与数字包容型社会建设》的引导发言。他首先提出了自己的三个观点：算法的“技术中性”不等同于“价值中性”、算法支配人类最重要的原因是“监管的缺失”、需要整体思维，避免个体的理性导致集体的不理性。由此引出了三个观察到的怪象：同样是平台，但发展现状迥异；同样是算法，用户体验迥异；中美欧商业互联网，三种风景。最后做了总结性发言，技术是中性的，算法支配人类最重要的是“监管的缺失”，想要避免算法治理困境，需要整体性思维，避免因为个体的理性导致的集体不理性思考。

汕头大学商学院企业管理系系主任周军杰

深度解读大数据算法的歧视本质

河南工业大学张玉宏博士作了题为《大数据算法的歧视本质》的引导发言。他首先抛出了算法并非是中立，而是具有歧视性的观点。接着从Timnit Gebru事件谈起，从多个角度阐明大数据算法具有伦理歧视性。同时从哲学、社会学、儒家思想以及生物学等多个角度引证上述观点。在明确观点后，张玉宏提出如何将人类的歧视,尽可能不带到大数据里,值得我们思考？这里引用了著名科技哲学家凯文·凯利(Kevin Kelly)在《技术元素》中的一段话作为回答：我们需要训练技术,就像动物和儿童的最佳训练方法展示的那样,集中资源强化它们的正面特性,淡化负面特性,直至彻底消失。

河南工业大学张玉宏博士

经济利益和社会责任是结合发展

山西大学大数据科学与产业研究院产业研发中心主任彭甫镕副教授认为算法是人发明的，是为了解决人遇到的问题，算法的善与恶是由背后使用的人决定的。彭甫镕提到算法支配人类是发展的必然，通过列举高校教师的实际案例，表明了建立制度是发展的必经之路，也是获取结果的有效途径。最后列举了近期发生的支付宝事件，支付宝给大家带来了便利的同时，但是被国家紧急喊停，阐明了经济利益和社会责任是结合进行的，而不是偏向某个方面的观点。

执行主席乔钢柱为彭甫镕副教授颁发感谢牌

逐步完善监管和人性是发展的必然

山西广播电视台融媒体发展管理部徐文胜主任从自身经历引入观点，认为算法支配人类是发展的必然。监管的缺失、人性的贪婪是不会轻易解决的，都是在发展的过程中逐步完善的。如何平衡算法治理中的经济利益和社会责任，重要的是不要唯利是图，不要抛弃社会责任，更应该注重法治、道德层面的建设。

执行主席姚姗姗为徐文胜主任发感谢牌

法律和道德双重约束才是根本

泰和泰（太原）律师事务所杨熳律师认为算法善恶是由人来决定的。算法支配人类，各大公司资本的贪婪才是背后操纵的真实原因。短期来看，收益和价值不明显，长期来看，算法支配会引发社会性问题。平衡算法治理中的经济利益和社会责任是从底层法律制度规范、上层道德制约分阶段来讨论的，要求互联网经营企业遵守道德底线。最近国家出台电子商务等相关法律法规，从法律和国家角度来对互联网巨头进行约束。

执行主席乔钢柱为杨熳律师发感谢牌

思辨点一：算法是否有善恶？

汕头大学周军杰教授认为算法的善恶和使用算法的场景、指向性是相关的，当应用程序给用户带来效率上的提升，对用户是友好的；但是如果窃取用户隐私数据进行非必要的推荐，就是没有价值的。因此算法本身没有问题，重点在于怎么用。

河南工业大学张玉宏博士从人类自身经验积累的模式切入，认为人做决策过程中不可避免地存在歧视性。为了弱化歧视性的影响，当我们使用算法的时候，需要进行主体修正。而数据是算法的土壤，土壤的酸碱度会影响结果。算法的善恶，其实和企业的发展相关。

山西广播电视台徐文胜主任

北京邮电大学万岩教授认为从数据角度来看，数据是有偏差的，算法也会有歧视。但算法歧视不歧视，是做算法的背后操控者决定的，操控者需要被监管。如果数据本身带有歧视，就从数据规范上进一步整理，让数据本身更少的带有歧视性，用人类的道德规范、法律法规来约束算法。

千锋太原公司负责人田景全认为算法是否有善恶，要从算法是什么来看。算法不是刀，是现实的业务逻辑抽象出来的，属于一种考核体系，考核体系是带有善恶的。好的考核指标引导大家向善，不好的考核指标限制大家。

YOCSEF太原现任主席裴向东认为算法的善恶应该是加引号的“善恶”。算法就是计算方法。计算方法怎么产生，是由人来设定的。算法可以等同为人的思想和计算机的软件工程师的想法。人有没有善恶？如果是为了扶贫，那么就是善，如果是侵犯其他人的权益和信息，就是恶的。

CCF YOCSEF太原现任主席裴向东

中科院煤化所宋昌博士坚持算法本身是中性的。算法就是计算的方法，善恶是从立场来说的，对人类来说，是人本主义，对人有帮助的是好的。站在不同立场，会有不同的结论。

山西大学姚姗姗博士也赞同算法是中性的，算法只是一个技术，本身没有善恶从技术来说，只是背后的人赋予了它的善恶导向。

新闻学郭倩博士认为算法与其说是善恶，不如说是歧视。列举了搜索引擎中关于“女性”关键词的结果，大多会检索出跟外貌身材相关的肤浅的东西。这本身就是一种歧视，解决办法有两种，一种是法律，一种是协商。

思辨点二：算法治理困境最重要的原因是“人性的贪婪”、“监管的缺失”还是“发展的必然”？

汕头大学周军杰教授认为算法治理困境最重要的是监管的缺失。企业在应用过程中，很难有效执行自己的社会责任，监管上的罚金也都不痛不痒，但是国外某些国家会进行严厉的处罚，监管力度相比国内大的多。因此他认为监管的缺失和制度的威慑力不够是导致该现象的主要因素。

北京邮电大学万岩教授认为导致该现象的一个原因是监管的缺失，另一原因是要意识到算法会影响个人，要有自控能力，不能全部依赖算法解决问题。从政府部门来说，要做到监管。

山西广播电台徐文胜主任认为主要原因是“发展的必然”，他从人类社会发展角度分析，到今天我们的物质、精神、心灵生活都极大丰富，算法作为一种先进的手段，精准服务于人类生活的方方面面。至于监管的缺失，这和人生的局限是一个道理，社会的发展，总是先发展再监督和完善的。

杨熳律师则认为算法支配人类的最重要的原因是人性的贪婪。当算法应用过程中，为人类服务过程中，人性是贪婪和懒惰的。越这样，越被算法支配。

裴向东认为人性的贪婪和监管的缺失都是主要因素。人性的贪婪就是资本的逐利。社会上不好的盲点，互联网的监管是纠错式的，不是提前监管，而是出问题后再纠错。科技创新需要纠错，但是算法层面需要的是事前预防、事后纠错监管。从政府层面来说，庞大的数据会支配人类生活，会带给人类社会大的灾难，政府层面也在思考这个问题。

中科院煤化所宋昌博士认为算法支配人类是人性的贪婪，算法是人设定的，目的是为了人生活的更好。人性的贪婪一方面导致算法支配人类，另一方面，也是人类社会进步的一个动力。

中科院煤化所宋昌博士

     山西大学魏巍教授从宏观角度思考，不赞同算法支配人类。他认为算法最多是一部分人支配另一部分人的媒介。古代即使没有算法，也存在支配。只不过有了算法后，这个支配方式就更加隐秘。被支配的不是全体人类，而是一部分人类。这个里面涉及哲学、社会等各个方面。算法如果能支配人类，人类就很难获胜。如果不能从根本上避免人被支配，那么人类未来会很恐怖，但是现在来看，只是部分人类的生活被控制。对于顾客、快递员、公司来说，其实每个人都乐于接受这个算法，所以监管如何介入，会很难界定。因此人性的贪婪、监管的缺失，都不是重要的原因。

山西大学教授魏巍

河南工业大学张玉宏博士补充刚刚观点，他列举《人类简史》中一个很重要的观点，人类本身就是一种生物算法，电子算法取代了一部分生物算法的工程，脱碳入硅。善恶其实从不同的角度来看，对外卖小哥个人而言，很可能是被算法控制的，但是从人类社会整体来说，是带有整体性收益的。大数据算法无疑大大提升了世间万物的连接性，这种连接性是有价值的，否则打个车，订个外卖，都是困难的。不论百度搜索、滴滴外卖，今日头条，算法都极大提升了数据的处理速度。按照人类简史的观点，我们的贡献就体现在对数据的处理上（the value of anyphenomenon or entity is determined by its contribution to data processing）。

思辨点三：如何平衡算法治理中的经济利益和社会责任？

张玉宏认为监管是平衡经济利益和社会责任最重要的因素。他从人与动物的区别讲起，认为人是有伦理感情存在的，算法不仅要提高处理效率，还要考虑少数群体的利益。如何考虑，不仅仅靠道德来约束，还要依靠法律来卡住最低的道德底线。资本是趋利的，如果没有监管，那么一定会带来问题。

周军杰教授认为要从社会整体角度来考虑平衡，他列举了上海智能水表来服务社区养老的案例，基于一个用水量，来帮助老年人居家养老。牺牲部分人的利益，来获得整体社会的进步，我们要从社会整体的角度来改变当前严重依赖算法的悲观问题。

彭甫镕主任则从社会地位和收入角度分析，他认为外卖小哥超速、逆行，当时的这些行为，经济利益是占主导的，社会责任在其次。如果外卖小哥的社会地位和收入是高阶层，那么他更愿意在社会责任上负责更多，所以收入和眼界会决定这个平衡点在哪里。

泰和泰（太原）律师事务所杨熳律师

泰和泰（太原）律师事务所杨熳律师从法律层面分析，国家法律对互联网随意推送、垄断竞争等行为都进行了约束。在相关法律的条款中，也明确要求电子商务从业者遵守商业道德、公平参与商业竞争。今年11月国家市场监督总局发布的意见征集稿中，也对以上行为都进行了明确的界定和约束，对一些不良营销都进行了法律层面的界定。

山西大学姚姗姗博士认为企业必然会追逐经济利益，但是也要承担一定的社会责任。在我们当前的论坛背景下，外卖小哥被困在系统中，部分企业为了解决这个问题，就提出让用户选择是否多给小哥几分钟时间，相关企业是在转移责任到消费者身上；美团第一时间承认了错误，表明会进一步优化算法，两种做法产生的社会舆论截然不同。企业要自觉承担自己的社会责任，这样反而会对自己的经济利益有促进作业。

太原千峰互联科技有限公司太原分公司负责人田景全

千锋太原公司负责人田景全认为经济利益和社会责任不矛盾，勇于承担社会责任对企业的长期发展有利。海尔在很早的时候，就通过淘汰问题产品，承担起社会责任，维护了自己的声誉，现在再看海尔集团，带来了长期的价值。武汉爆发疫情后，我国第一时间就集中力量进行控制，现在看，我国是唯一经济正增长的国家，这也是社会责任长期的优势。格力电器，京东物流等等都是长期发展。对于聪明的企业来说，社会责任是企业发展的护城河，会对经济有促进作用。

裴向东也认为追逐经济利益的同时也不能忘记社会责任。社会层面，滴滴、美团等龙头企业的社会责任更重要，需要更多的参与到帮助国家治理和提升人民幸福度。疫情期间需要带有社会责任的企业参与，在经济复苏过程中，经济利益追逐的过程也不能忘记社会责任。社会科学是现阶段需要讨论的重点，当我们明白社会的分工和价值后，会有更深入的理解并通过相应举措来改善当前的平衡。

中北大学乔钢柱教授认为现阶段互联网公司还没有将社会责任上升到一个重要的高度。国家需要对这些企业有明确的界定，同时企业也要意识到社会责任在未来的价值。整个国家对企业的评价机制还是相对单一的，现在还是从盈利能力和资本金来说，这一点本身就需要进行体系的提升。评价机制也要介入社会责任以及大众监督的建议在内。

徐文胜主任认为除了法律法规的引导外，还有技术上的壁垒。技术还没有达到真正的安全化、便捷化。将来如果将以上问题解决，我们社会产生的经济效益将会更大，各司其职的工作，才能平衡好算法治理中的经济利益和社会责任。

CCF YOCSEF现任主席裴向东

最后，CCFYOCSEF太原现任主席裴向东对现场嘉宾及参会者表示感谢，并致谢CCF YOCSEF总部，CCF YOCSEF太原学术委员会；感谢金牌合作伙伴：国科晋云技术有限公司对本次活动的大力支持。

现场嘉宾及参会人员合影