算法为何要对公众“透明”?

磐石之心看财经 2021-11-11 00:02

汽车诞生后,关于汽车、马路、人之间关系的争论四起。有人说,因为汽车诞生后导致了更多车祸发生,所以不该有汽车。但是在经历了大讨论后,交通法规诞生,车祸率下降,汽车就不再是洪水猛兽了。

同样,当前的世界正在进入数字化时代,算法正在辅助人类很多活动。没有算法,网约车司机就没法接单;没有算法,外卖员就没法送外卖;没有算法,内容平台就无法做到千人千面;没有算法,无人驾驶汽车就没法安全行驶;没有算法,医院的癌症筛查就无法做到高效……

但是每个人对于算法都感觉到陌生,这就像是一个“魔盒”,你并不知道里面装着的是漂亮的公主,还是丑陋的魔鬼。这时候数字世界就出现了汽车诞生时的景象,人们展现出对未知的恐惧。想要构建数字时代的商业文明,就必须对算法制定规则。而制定规则的前提则是算法的透明化。

9月份,美团外卖首次公开了骑手交付时间的计算规则,并介绍了估计交付时间背后的算法逻辑后,11月5日再次公开了“订单分配算法”,让外界了解了美团外卖员是如何接单的。美团连续公开自己的算法,一方面满足了《互联网信息服务算法推荐管理规定(征求意见稿)》的要求,同时算法的公开有利于优化改进和舆论质疑的化解。

随着更多企业公开自己的算法必然有助于社会各界都能参与到算法的共建中来,除了帮助算法提高服务人的效率外,还能加入道德、人文和伦理,这也是数字时代进步的力量。

算法透明化,让公众具备知情权

算法是如何辅助人做决策的呢?以前我们看网络电影的时候,需要自己搜索影片内容。现在有了算法的帮助,会推荐适合每个人的电影;以前,我们自驾去很远的地方旅行,需要不停地查地图,如今利用GPS导航,可以智能推荐路线,智能避开拥堵,这也是算法在帮助做选择。

同样,每天你在办公室里点外卖,美团会把你的订单分配给骑手,会预估骑手送货时间,这背后同样是算法在帮助调配。算法还被用在医学、天文、化学、生物制药、工业等诸多领域,以帮助人提高效率。

但是“算法”可能会出问题。比如,部分媒体平台、短视频平台,通过算法把吸引眼球的内容,或是片面的内容持续推荐给用户,导致信息茧房;在某个假期,许多自驾游的人因为过度相信手机导航,他们在四川九寨沟附近一个死胡同里堵车一整天,自驾游的车主们在网上声讨许久。

算法一定不是完美的,也不是万能的。所以算法应该让用户有知情权,这就像是药品的说明书中会明确药品原材料、临床试验数据,告知效果和副作用一样。

据《算法推荐管理规定》第十四条:

算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。

从美团这次公开的算法规则也能看出,“订单分配”的目的,为了让骑手在安全行驶的前提下,通过更大的顺路程度获得更多的收入,同时也让用户准时收到餐。

但是“订单分配”算法目前依旧面临一些技术困难,比如,如何让“线上数字空间”与“线下物理空间”精准映射。如今,美团把这套算法公开出来,这种透明化有利于更多人参与到算法的优化中来,从而更接近于算法想要实现的目标。

算法不仅仅是个技术问题

算法的诞生是为了提高效率,解决人不能解决的大量难题。由于算法参与决策过程,因此算法不仅仅是个技术问题,还涉及到社会价值、伦理道德等多个方面,所以算法公开,有利于多方力量的加入,让算法变得更人性化。

在自动驾驶技术推进的过程中,算法就遇到了技术之外的难题——伦理问题。自动驾驶技术需要通过视觉传感器收集数据,然后对数据计算处理,通过算法去判断识别到的各类物体。

当自动驾驶汽车前方突然遇到一个行人,而旁边车道后方有来车的情况下,自动驾驶汽车是保护车主撞向行人,还是保护行人牺牲自己?这就是一个最典型的伦理问题。如果没有自动驾驶算法,人类可以根据自己的直觉做出判断,这都无可厚非。

但是如今车的控制者是算法,而算法本身不会思考,程序员需要在编写算法的时候就把伦理标准写进去,这就需要伦理委员会帮助程序员做出规范。所以算法不仅仅关系到技术,还关系到道德、社会价值、文化的方方面面。

同样,从美团外卖这次公布的算法规则来看,外卖员的工作强度也是考虑的其中一个因素,比如,为骑手设置接单上限,但是如何权衡骑手赚钱意愿与合理的劳动强度,这也需要更多人参与到算法非技术的讨论中来,帮助完善算法。

而只有把算法公开,才能让社会各界都参与到算法的合理性讨论中来,让哲学家、法律专家、历史学家等等都加入进来,让算法变得更加完美。

综上所述,在数字时代,商业价值的塑造依赖算法,而商业文明的塑造则需要让算法充分考虑社会价值、人文道德,让算法一直“向善”。这不仅对社会是有益的,对企业自身也是有益的,完善算法的同时,获得舆论的理解与支持。

美团已经抛出了算法公开的绣球,接下来会是谁呢?让我们拭目以待吧。

上一篇 & 下一篇