悦读

中国链
爱链中国,链你所爱!

科技向善进入“深水区”

更新时间:01-17信息来源:品途商业评论


"科技向善是一种产品能力,也是一种产品机会,所有科技企业和组织都可以思考和实践。"

——腾讯创始人、原CTO张志东

科技能否向善?

这是自2018年1月,腾讯研究院正式启动科技向善(Tech for Social Good)项目以来,互联网行业最受关注,也最具争议的话题之一。

支持者认为,这是一个厘清价值纷争,推动科技行业乃至整个人类社会可持续发展的前瞻思考,并将成为未来科技公司发展的主导力量。

质疑者则认为,这只是互联网巨头为自身品牌贴的"道德标签",而且与企业的商业竞争力天然矛盾,不可能真正落地。

两年来,随着越来越多公司和机构的讨论与实践,争议已经基本落幕,"科技向善"已成为行业共识,从学术层面的思考和倡议,逐渐转变为很多企业的战略纲领,甚至落地到了产品与服务之中。

比如,2019年11月11日,腾讯就已将自身的使命愿景,更新为"用户为本,科技向善"。

现在的问题关键,已经转变为:科技如何向善。

它是不是一个只有公司足够大了,有钱有闲了,才有资格考虑的技术伦理选择?

它与企业的竞争力,是否真的无法共生?

它作为一个无法标准化、无法量化的哲学判断,如何在企业管理和产品服务的无数细节中,得到有效的、一致的贯彻落实?

在这个过程里,政府、企业、学界、乃至用户,将各自扮演怎样的角色,担负怎样的责任?

这些问题,比前两年的那些争议,更加复杂、更加艰难,也更加重要。

用一句老话来说,我们已经走进了"科技向善"的"深水区"。

也正是因为这个原因,2020年1月11日,当腾讯在北京发布《科技向善白皮书2020》之时,以"千里之行"作为了活动的主题。

共识的达成,只是第一步。"科技向善"向全社会的落地与推行,才刚刚开始。

"以前没得选择,现在我想做个好人。"

——《无间道》刘健明

向善之心,人皆有之。

1999年,谷歌销售人员与客户会面的会议室里,联合创始人阿米特·帕特尔就在一个白板的右下角写下了四个大字:"Do not be evil"(绝不作恶)。

5年后,这句话被写进了谷歌的IPO招股书,成为这家科技巨头最广为人知的核心价值观之一。

但正如我们所知,无论是在太平洋的东岸还是西岸,科技行业现今都正在遭遇前所未有的质疑。

特斯拉创始人埃隆·马斯克提醒公众警惕人工智能之时,中国小学利用脑电波监测检查学生是否走神,被推上了热搜。

在美国国家运输安全委员会(NTSB)初步认定 uber自动驾驶程序存在缺陷之时,几十家中国数据公司因为涉嫌非法收集、处理或售卖用户隐私,遭遇了政府调查。

Facebook数据丑闻、Google参与美军项目、魏则西事件、基因编辑婴儿、空姐顺风车遇害……越来越多的科技公司和行为,都正被公众道德拷问。

为什么会这样?

北京大学中国社会与发展研究中心主任邱泽奇说,我们需要先回答两个问题:"科技过去向善了吗?现在向恶了吗?"

其实,没有改变,一如始终。

"互联网的道德底线并不比别人低,也不比别人高。"财经作家吴晓波说。

与其他诸多行业一样,"科技向善"问题的根源,是过去三十年来,以财富作为成功标尺,以股东利益最大化作为企业经营目标,这种单一的反馈机制,导致整个社会对于"善"的褒扬和对"恶"的惩戒,都走入了歧途。

最终,不论善恶,只论成败,成为了最普遍的生存法则。

这也是很多人的担心:在这种"劣币逐良币"的竞争格局下,"向善"就意味着自缚手脚,把利益拱手让给别人,影响商业利益和市场地位,直到被竞争对手彻底淘汰。

别人流量造假你不造,别人接垃圾广告你不接,别人DDOS你你不DDOS别人,别人卖用户隐私数据你不卖……到最后,别人融了资、挣了钱、敲了钟,你怎么办?

但是,"科技向善"真的没有生根发芽的土壤吗?

并非如此。

从"动物性"转向"社会性",从绝对"利我"转向相对"利他",从个体本能转向群体秩序,正是百万年来,人类得以超越万物,统治地球的根本。

我们对于风险的认知,往往远远落后于现实。

解决方案的建立与普及,也远远落后于风险的爆发。

但最终,终要回归正轨。

1908年,全世界第一辆T型汽车从亨利·福特的生产线下线。从此,大批量的汽车生产将世界全面带入了汽车时代。

然而,直到47年后,汽车上才开始安装安全带。此后又经过13年时间,它成为行业标配,美国政府才出台规定,要求汽车乘员必须佩带安全带。

腾讯研究院院长司晓说,这折射了人类社会发现和解决风险的几个阶段:

第一个阶段,是行业内的少数人,发现了风险,并认为解决手段是必要的;

第二个阶段,是行业内形成共识,解决手段逐渐普及,成为行业标配;

第三个阶段,行业共识成为整个社会的共同认知,得到全面推行,并进一步演化。

比如我们的汽车上,也不仅有了安全带,还有了安全气囊、有了ABS系统,有了EBD系统,甚至有了行人碰撞保护装置……

当全社会都认识到一件事的重要性,并达成共识,那么,在这个方向上,企业"向善"得越超前,就越能受到用户认可,获得更大的竞争优势。

北京大学国家发展研究院BiMBA商学院院长陈春花说,放眼全球,那些存在时间长达百年的公司,都并不是以规模取胜,为公众创造的价值才是它们的立身之本。一家企业的影响力大小,最终还是取决于,它能否推动整个社会的进步,改善人的生活方式。

吴晓波也说,纵观互联网发展几十年,到处都是野蛮生长,到处都是钱,好像却是不守规矩,发展越快。但现在回头来看,那些真正活得好、活得久的大公司,都是心纯,有自己底线的人。

现在,在行业内部,已经开始了向善的反思与实践,而在外部,2019也已经成为互联网监管从松到严的一个转折之年。

从中国打击数据倒卖、加强知识产权保护,到欧盟出台GDPR(General Data Protection Regulation,《通用数据保护条例》),都是市场环境日益净化的风向标。

从长远来看,"科技向善"也将逐渐转变为行业的趋势方向。

"企业经营者有责任去关注他们的产品和服务带来的深远社会影响。"前美国联邦贸易委员会主席 威廉姆·科瓦契奇(William Kovacic)说。

自工业革命开始,所有的技术变革,都基于人类对知识的运用。

——经济学家、管理学家 彼得·德鲁克(Peter F. Drucker)

吴晓波说,善是一种体系,是规范和反馈机制,我们的问题,只是在于规范缺失,所以大家不知道该不该做,做的边界又在哪。

如今,"科技向善"也已经走到了从凝聚共识,转变为集体行动、建立规范的变革拐点。

而且,这一趋势还正在日益急迫。

"长期以来,人类一直是从错误当中学习,但现在已经不能继续这样了。"麻省理工学院物理学终身教授、未来生命研究院创始人Max Tegmark说。

过去,我们先学会了利用火,然后用消防措施来解决火的失控问题;我们发明了车,然后用交通灯和安全带来解决拥堵和安全问题……

但现在,我们有了核武器,有了AI,有了基因科学,就不能等到核大战之后,等到超级智能失控以后,等到合成基因污染人类基因库之后,等到超级病毒全球蔓延之后,再来反思问题,寻找解决之道。

"我们需要主动,要在开始设计技术和产品的时候,就想对、做对,而不是坐以待毙。"Max Tegmark说。

当1969年10月29日,美国斯坦福大学和加州大学洛杉矶分校的计算机首次连接在一起的时候,没有人会想象到,在50年后,以互联网为标志的数字革命,用前所未有的速度和规模,深刻改变每一个人的工作和生活方式,改变整个人类社会的经济、文化、政治等各个方面。

如果说,工业革命改变了能源的生产和分配模式,那么互联网改变的,就是信息的生产和分配。

而除了互联网,核能、基因、人工智能、脑机接口等技术的发展,每一个领域都既可能为人类社会带来巨大福祉,也可能造成空前灾祸,甚至具有大规模灭绝人类的破坏力。

2016年3月,由微软开发的聊天机器人Tay在推特上线,通过抓取互动数据模仿人类对话。然而,短短一天之内,Tay就被"调教"成为一个呼吁种族清洗的极端分子。

2018年8月,委内瑞拉总统马杜罗在首都加拉加斯发表全国电视直播广话期间,遭遇载有爆炸物的无人机袭击,险些被刺杀。

2018 年 11 月,南方科技大学副教授贺建奎宣布一对基因编辑婴儿已在中国降生。人类从此越过了人类胚胎基因编辑的雷区边界。

2019年2月,人工智能研究公司OpenAI,推出了一个人工智能语言模型--GPT-2,只需要提供少量的信息,就可以编写出足以以假乱真的新闻。但在最终发布时,他们却一度不敢对外开源,因为完整版 GPT-2 所生成的假新闻,无法被人类和机器分辨。

……

潘多拉盒子已经打开,我们已经无法去慢慢等待。

向善的秩序与规范,必须加快建立。

"我们现在到了这样一个历史时间节点:如果没有整个社会层面的制约、监督和协同,单靠民间和企业的道德自觉,技术带给世界不可逆转的灾难性失控和失衡,也许比我们所想象的更早到来。"清华大学新闻与传播学院教授金兼斌说。

"善"应该成为科技产品的商业竞争力。

——社会科学家 曼纽尔·卡斯特(Manuel Castells)

互联网为我们带来了一个重大的变化:

在互联网诞生之前,工业化时代最主要的科技载体,是统一设计、大规模生产的实体产品,用户可以很容易地判断出产品导向,政府也可以通过对产品的标准化管理,对科技善恶进行判断和规制。

而现在,互联网上的产品与服务,都是数字化的海量动态信息,会根据交互数据,不断通过产品升级和算法升级,进行迭代优化。

互联网打破了金字塔式的信息生产传播结构,重构了整个社会的组织方式,让人与人、人与社会、人与自然之间的联系关系,超越了物理的限制,变得更加扁平。

由此,信息成为了当今时代最重要的生产资料,分配的主导权与形式也都有结构性的改变。

所以,在工业时代的权力怎么分配,不只是用户与企业的事情,而是要放在更大的价值分配体系和监管体系中去考量。

而科技企业的"向善",也从以前的主业归主业,公益归公益;转变为通过更具创新性的产品和服务,来助力于建立更好的社会。

尤其是最近几年,无论是予科技以伦理附加值,还是用规则来约束科技,都已经衍化出了丰富的实践模式。

2016年以来,腾讯的"天眼寻人"、字节跳动的"头条寻人"、百度的"AI寻人"、阿里的"团圆"系统 ,都已经与公安部,各地警方、医疗机构、新闻媒体、志愿者等组织合作,通过搜索寻人、AI比对等多重手段,帮助数以万计的失散家庭重新团圆。

2017年,Facebook与预防自杀的紧急救援机构进行了100多次合作,通过用户在平台上的自杀倾向言论进行分析,并判断是否主动提供帮助甚至进行干预。

在此之前,包括但不限于百度、谷歌、微信、知乎等平台,都已经进行了专门的设计,当用户以"自杀"为搜索关键词时,看到的结果,首先不会是自杀方式,而是温情的关怀,以及24小时的心理辅导救援电话号码。

更有意思的一些案例是,将善意融入产品的业务流程,既没有影响业务顺畅性,没有影响营收,也能给用户带来温暖,带来社会效益。

2017年8月,美团提出"青山计划",通过自身的外卖业务,推动用户的环保行为,此后两年,该计划的线上宣传触达已超过10亿人次,线下餐盒循环利用参与也超过8万次。

2018年,腾讯通过"健康约定"方式,对成年用户的游戏沉迷进行合理干预。仅仅是"欢乐斗地主",每周至少两天玩游戏超过4小时的用户数量,就在3个月内从25万下降到了10万左右。

2019年,快手已经今年适配了无障碍功能,帮助视障人士听取视频音轨以外的文字信息,并帮助他们实现对视频的转发、评论和点赞,让他们用耳朵"看到"更大的世界。美团也推出了无障碍版本的美团外卖应用,与传统的交互方式不同,这个App让视障用户可以只用语音交互,就点菜下单。

以前的"公益",主要是有钱、有时间的公司或个人,捐钱捐物或提供帮助,普通人也很难参与。

而现在,科技公司越来越多地将"向善"融入到了自身的业务之中,这样,每一个普通的人,都能够借助于平台,解决很多他之前根本不可能解决的问题,实现以前完成不了的公益。

比如微信鼓励健康的 "微信捐步",阿里巴巴鼓励环保的"蚂蚁森林",都将用户的个人行为,聚合转化为公益力量。目前,"蚂蚁森林"已将超过5亿用户的环保意愿,转化为了1亿多棵树,让无数荒漠重新变成了绿洲。

而这些"向善"的力量,也反过来提升了企业的品牌,加强了用户的情感认同。

用张志东的话来说,这些案例说明了,"善意+产品"和企业的生存发展,并不是矛盾关系。

"产品团队如果能有智慧,找到适当的产品环节入手,也许就能发现善意创新,能给产品带来正面帮助,可以视作是一个产品机会,而非一个负担。"张志东说。

搜狗公司CEO王小川也认为,对科技企业来说,把企业自己的使命做好,就是比单纯做慈善更好的行善方法。

"作为一家科技公司,你做的事情是一种责任,你的使命是你对未来世界的一个承诺,再投射到现在的选择,就有一个最优路径,就是善。"他说,"在自己的核心轨道里做事情,向善比单纯的捐钱,是巨大的进步。"

"我问一个做动漫的朋友,动漫内容的尺度在哪里?他说,尺度就是你会愿意给自己的孩子看这个动漫。"

——搜狗公司CEO 王小川

"科技向善"落地的一个最大障碍在于:

相对于市场份额、用户量、收入、利润等可以明确量化的KPI指标,企业的社会效益并不容易量化,也难以评估。

这导致绝大多数科技企业虽然有向善愿望,但生存和发展压力下的KPI导向,往往导致向善的产品设计被搁置在很低的优先级。

所以,"科技向善"的普及,一定不能止步于价值观的倡议,而是需要在整个企业乃至行业的文化、架构、管理、流程、产品等各个方面,通过完整的制度和规则建设,来确保核心价值观在实际工作中的贯彻执行,而不是在自上而下的层层传递之中稀释变异。

在吴晓波看来,这需要三个方面的合力:

一,共识的机制,以及共识前提下的自律。

二,行为规范,以及规范下的惩戒代价。

三,道德约束,以及约束下的技术创新。

在这方面,也已经有一些经验可循。

比如,总部设在美国华盛顿的国际性非盈利组织FOSI(Family Online Safety Institute,家庭网络安全研究所),就致力于制定新的解决方案和政策,来实现一个安全的网络环境。

斯坦福大学的PIL(Peace Innovation Lab,和平创新实验室),则通过"劝导技术"(Persuasive technology),从代码层面深入介入一些互联网产品的测试、设计、改进工作,帮助新技术产品变得更加公平、多元、友好。

"我们就像是一把保护伞。"PIL联合创办人玛格丽特·奎惠斯斯(Margarita Quihuis)说,它们会制定一套通用的数据标准,通过一套可以记录的嵌入代码,来对科技公司的产品进行测试,如果检测到用户是否正在遭受骚扰或是发生异常,就会立即介入,敦促工程师修正。

微软也已经成立人工智能伦理道德委员会,由一些有名望的专家、工程师、技术人员和伦理专家等共同组成,当产品开发中涉及到 AI 伦理的问题,它会与微软的法律办公室统一协调,为业务部门提供最终的咨询意见。

除此之外,在微软的全球分支中,包括各大工程团队,都建立了 AI Champion,负责对员工进行AI伦理培训,提供第一线的咨询。

"当遵循比较严格的伦理标准时,肯定会损失一部分客户,伤害到短期的商业利益。但我们宁愿牺牲一些业务,宁愿在一些重要的决定上达不到利益最大化,也要做出取舍。"微软(中国)有限公司助理法律总顾问、亚太研发集团法律事务总经理罗立凡说。

而在美国,最近十年来,已经有三种更加关注公众利益的公司形式相继出现:

第一类是PBC(PublicBenefit Corporation,公共利益公司),PBC 鼓励公司在制定决策时,除股东外还考虑多个利益相关者(如社会、工人、社区和环境)的利益。截至 2018 年,美国共有 31 个州可以接受 PBC 公司的注册,在册公司数量超过 4000 家,其中不乏 Kickstarter 和 This AmericanLife 这样的知名品牌。

第二类是B Corporation(共益企业)。B Corp 认证是由全球非营利机构B Lab为营利公司颁发的认证,企业需要通过系列在线评估并达到最低分数线,才能获得机构认证,评估主要涵盖对社会及环境的影响力等维度。同时,B Lab 每年还会对 10% 左右的认证企业进行抽查监督。

第三类公司形式是SE(social enterprise,社会型企业),主要从事的公益性事业,通过市场机制来调动社会力量,其法人身份可以是营利性质的,也可以是非营利性质的,表现形式也可能是共同合作模式、成熟的组织构架、非独立实体、社会商业或慈善组织。

这些制度化的努力,都将在未来的"科技向善"过程中成为经验与参考。

当我们面临无数可能性的选择,当我们的未来走到哪一步不清晰的时候,我们的路标就是"科技向善"。

——腾讯集团高级副总裁 郭凯天

从19 世纪90年代末到20世纪20年代,短短三十年里,人们见证了无数变革性的技术、产品、服务诞生:汽车、飞机、轮船、无线电、电话、收音机、电影以及作为发电手段的交流电。

这些变化曾让那个时代的所有人,因为经济社会的巨变而困惑,甚至恐惧。

但最终,它带来了巨大的生产力提升,让我们获得了更美好的未来。

一个世纪之后,不断涌现的各种科技创新,正以更快、更广、更深的速度与力量,重构整个世界的结构与规则。

在破与立的过程里,作为这场时代洪流的核心引擎,科技行业将担负着前所未有的历史重任,也将面临史无前例的艰难挑战。

力量越大,责任越大,科技的力量浩浩荡荡,一念可成福国,一念可造地狱。

正如以色列学者尤瓦尔·赫拉利所说,从来不是技术决定主义,我们可以用同样的技术突破,去创造截然不同的社会和境况。

在这个过程里,"科技向善"可以有很多角度理解,也可以有很多角度去实践。怎么去做,可能千变万化。

但无论如何,它都不仅仅是简单的企业责任或是品牌口号,也不是一个用来自我镀金或攻讦他人的泛道德标签,也不会局限于企业自身的商业竞争力。

"科技向善将是一个时代命题,是整个人类数字社会的共同目标。"郭凯天说。

在未来的很长一段时间,科技向善的下一步行动将包含两个部分:

一,利用科技的力量,来促进社会整体福祉的提升;

二,面对潜在的风险,及时寻求共识与解决方案。

对此,《科技向善白皮书2020》的预期是:

从商业角度,科技向善所追求的用户长期价值和社会福祉最大化,有可能成为商业竞争中的新竞争力。

从学术角度,在科技向善的理念之下,哪些困扰行业的基础问题,有望成为新的研究蓝海。

从治理的角度,科技向善将有助于更多元社会角色的互动与自我完善,通过审慎包容式监管在实现社会整体进步的同时,平衡多重目标。

正如科技的进步,这场以互联网为起点的,科技向善的千里之行,也不会是一家机构、一个国家所能独力推动,而会是一场汇集多方力量,不断蓄势,沿路加速的马拉松长跑。

但无论过程如何艰难,我们都相信,"科技向善"的愿景,都将不久的将来得以实现。

因为,它是这个时代的洪流所向,是每一个的心中所向。

来自每一个人的善意,将促成更有温度的科技回馈。