IBM陈黎明发表署名文章:科技向善与时代责任

IBM大中华区集团董事长 陈黎明      

2019年08月23日 06:00  

本文8048字,约11分钟

好科技?坏科技?科技的支配作用越来越明显,如何确保“科技向善”已成为当下迫在眉睫的人类议题。

科技的发展在社会进步中所扮演的重要作用、甚至是支配性作用越来越明显。人类得福于科学与技术的发明与创造,社会进步、生活方式及工作效率都因此得到了极大地提升。然而我们也需要认识到,科学给人类带来福祉的同时,常常也附带着价格的标签。科技在为社会进步、人类发展做出贡献的同时,也蕴含着许多潜在的风险甚至威胁。有的科技发明带来了永久的利益,有的科技发明带来了短暂的福祉后便伴随着难以修复的副作用,还有的科技发明本身就是人类的梦魇。技术所带来的善与恶有时是伴生的。因此我们更有必要关注好科技、坏科技以及科技向善的话题。

很多科技所带来的副作用甚至危害,有时需要很长的一个周期的演进才能显现出来,为人类逐步所认识。从1776年瓦特改造出第一台有实用价值的蒸汽机,到1952年伦敦被污染成雾都,这期间经过了176年的时间,负面效果才为人们所认识;从1933年英国诺斯威奇的一家化工厂无意中研制出最常用的塑料——聚乙烯,到1997年航海家兼研究人员查尔斯·摩尔(Charle Moore)发现了太平洋垃圾带,这期间经历了64年;从1930年由Thomas Midgleys发现的氟利昂并作为冷却剂被广泛使用,直到1985年英国南极考察队在南纬60°地区观测发现臭氧层空洞,才引起世界各国极大关注,这期间经过了55年,而这位科学家也得到了“比地球上任何一个生物对大气层的影响都大”这样一个负面评价。伴随科技的加速发展,其副作用显现所需要的时间是越来越短的。比如从2007年智能手机开始普及起,到现在全国儿童普遍视力下降、全民成为“低头族”,只用了10年的时间。

认识到这些,不是要我们因噎废食,而是为了实现更健康的、更可持续的科技进步。

人类文明的进步史也是科技发展史

许许多多的科技为人类的发展和进步起到了至关重要的作用,从最早的轮子、钉子、纸张、指南针、光学镜片、印刷术,到电的发现、蒸汽机、内燃机、疫苗、晶体管、个人电脑、互联网等,都为人类文明的进步带来了巨大的贡献,而且也都经受住了时间的检验。

轮子是一项在公元前3500年就出现的古老发明,极大提高了我们人类的运输效率和交通效率,对我们人类社会的发展始终发挥着正向的推动作用。钉子早在公元前3400年就在埃及出现,这个非常不起眼的发明,极大地改变了人类的建筑方式和水平,是一项非常了不起的科技进步。中国的建筑、家具所采用的榫卯结构据考证具有比钉子还要悠久的历史,并且一直沿用至今,在中国建筑和家具史上发挥了不可替代的作用。类似的科技发明还有很多,比如中国的四大发明,纸张、印刷、指南针、火药,——火药属不属于科技向善,值得商榷,虽然刚开始只被用来制作烟花,但是后来主要是被用来制造武器,据说地雷早在1277年(另有一说是1130年发源于中国)就在中国有使用,而地雷也被认为是最不好的发明之一。但是我们老祖宗发明的纸张、印刷、指南针却始终是发挥着正向的作用的。纸张和印刷使得我们的知识得以固化下来,进行有效地传承和传播,才有了今天文化和知识的繁荣。指南针开辟了航海,使得人类远行、全球交流成为可能。这些都是经过时间检验,属于“科技向善”的发明。

据说4500年前埃及长老建金字塔,需要10万人用30年的时间才得以建成;2000多年前秦始皇修建长城,动用了近百万人,饿死累死不计其数。现在,我们建港珠澳大桥,这个世界上最长的跨海大桥,仅用了2万多名工人、9年的时间。大兴国际机场,大概也是用了2-3万多名工人,历时4年时间建成。这得益于科技的进步,使我们拥有各种各样的工程器械、科技材料,以及科学的、系统的工程管理等。

在医学上的成就更能体现科技的力量。欧洲中世纪的黑死病先后夺走几千万人的生命。哥伦布发现了美洲大陆以后,欧洲人带到美洲大陆的瘟疫,像麻疹、天花、霍乱,使美洲大陆上400-500万印第安人传染,几乎种族灭绝。随着医学的昌明,抗生素、疫苗和各种药物的发现,不仅保障了健康,也延长了寿命。1700年,人类的平均寿命大概在35岁左右,1800年大概是37岁,几乎没怎么增长。但是工业革命之后,人类的平均寿命出现了巨大的飞跃。特别是20世纪以来,人类的平均寿命从1900年代初的40岁提高到了1980年代的61岁。1985年以后,人类平均寿命大概以每5年增长一岁的速度增长,7月29日国家卫健委召开发布会公布2018年我国人均预期寿命已经达到77岁,这得益于科技的不断发展。

技术的双刃剑

我们必须看到,当前,“科技向善”还只是一个美好的愿景和努力的方向,它还远不是现实。事实上现在科技所带来的副作用比比皆是,具有一定的普遍性,这绝不是危言耸听。有人说技术是中性的,但是在我看来,主导科技的主体是人类,人有善恶之分,也有可能善恶兼具,发明者、创造者无疑会将其个人的伦理倾向灌输到他/她所主导的科技发明和科技应用之中,使得科技本身存在好坏之分。

有一些科技是本着美好的愿望和良好的目的发明出来进入到我们的生活和商业,但是后来才证明事与愿违,带来的是不良的后果或者是副作用。农药的使用大规模地提升了农产品的产量。根据Yudelman等 (1998) 的研究报告,全球由于病虫害对农作物尤其是稻子、小麦、大麦、土豆、大豆、棉花、咖啡等的侵害导致减产50%。 沈阳农业大学的报告指出,农药每年为我国挽回的粮食损失4800万吨、棉花180万吨,蔬菜5800万吨。DDT、666粉的合成都曾被认为是化学上的奇迹,初衷是为了解决农作物的病虫害,但是在长时间使用后,发现它们在农作物病虫害防治方面很有效果的同时,对人体的伤害也非常大。除此之外,农药的残留会随着农作物和土壤的污染进入到人类的食物链,进一步伤害人类。由于一些农药的高稳定性,半衰期长,不易分解和亲脂性,通过食物进入人体后可以长期积累,导致对健康的影响。像DDT、666粉,这些有机氯农药,中国1983年就停止使用了,但是到现在36年过去,还有残留在人体里面。病虫害所产生的抗药性也不容忽视。农药自发明后用量巨大。据国家统计局的相关统计,目前我国年均使用农药超过了30多万吨。在世界上,有的农药甚至被直接当做生化武器来使用,直接威胁到人类的文明。橙剂本是一种除草剂、落叶剂,在越战期间被美军用作武器,对付越共游击队员。越战期间,美军使用了大约2000万加仑的橙剂,因为含有二噁英,导致了大规模的出生缺陷和癌症的发病,令人触目惊心。据越南红十字会统计,大约500万越南人受到感染,其中包15万名儿童。据报道,最近一家美国的农药生产厂商被判向一位学校园丁赔偿近三亿美元,因为该园丁使用了这家企业所生产的除草剂草甘膦后导致罹患了癌症。许多科技发明今天看似无害,不代表着未来也无害。随着科技的不断纵深,我们对过去的发明都会重新审视和认知。

人类经历了第一次工业革命、第二次工业革命,使得生产效率大幅提高,人们的生活方式和质量都得以极大的改善,但是带来的环境污染、气候变暖等都面临很大的挑战。根据BP公司每年一度发布的世界能源统计,2018年人类消耗一次能源超过138.6亿吨石油当量,排放339亿吨二氧化碳。中国由于人口总量、高速发展、城镇化、工业化以及汽车的普及,使得中国成为头号能源消耗大国,占全球能耗的24%,但是中国的人均能源消耗不到美国的三分之一,也低于全球主要发达国家,略高于世界平均水平。由于受能源结构的制约,多煤少气,加之经济依然保持相对快速发展以及能源使用效率依然较低,中国是头号二氧化碳的排放大国,占全球排放约28%。由于人类的活动,空气中二氧化碳的浓度从第一次工业革命之前的280PPM达到了目前的407.4PPM,使得自然界经过几亿年存续于地下的碳在很短的时间内(自第一次工业革命后)变成了空气中的二氧化碳、氮化物等,导致了全球气候变暖和大气污染。根据中国碳交易网数据推算,自1850年以来,全球总的人为碳排放量至少超过了1.5万亿吨,其中80%以上是发达国家所排放。事实上,在第一次工业革命和第二次工业革命时,化石能源的使用并没有使人类意识到在几十年上百年后所导致的环境恶化和气候变暖的后果。毛泽东曾在上世纪50年代初说过“从天安门望出去,应该处处都有烟囱”。在我小的时候上图画课,在画天安门城楼时,还想象地在旁边画上高高的烟囱,拖着长长的烟迹,因为烟囱在那个时代代表的是现代化和繁荣昌盛的标志。上世纪80年代,仅北京城区就有1.4万多个工业烟囱。

英国生物学家弗莱明1928年偶然发现了青霉素,并由此获得了1945年的诺贝尔生理学/医学奖。作为人类第一种抗生素,青霉素在人类的医疗健康领域发挥了不可替代的作用。但是随着各类抗生素的不断发现、使用、普及甚至滥用,使病菌产生了抗药性。抗生素还通过动物的使用进入到人类的食物链。人们有理由担心,有一天会不会有一种超级病毒突袭人类,以至于让我们措手不及。相信大家对2003年的非典以及近年的埃博拉病毒都还心有余悸。生化武器、化学武器更是悬在人类头上的一把达摩克里斯剑,说不定何时会威胁到人类的安全。根据军事科学院薛翔的《全球生化武器态势及影响透析》一文指出,用5000万美元建造的基因武器库,其杀伤威力远远超过用50亿美元建造的核武器库,只需20克的超级热病毒基因武器就足以使全球60亿人死于非命。

还有一类科技属于破坏性的科技,很难说是好是坏,像武器就属于这一类,它取决于你站在武器的哪一端;和冷兵器时代相比,现代武器的杀伤效率更高了。第二次世界大战中,美军在广岛和长崎的核爆当即造成几十万人死亡,受核辐射伤害的人不计其数。虽然核武器的发明使得全球在第二次世界大战之后没有发生第三次世界大战,但是美俄所存的一万三千多枚核弹头足够摧毁全球好几次。核武器无疑使得大规模杀伤性武器成为人类生存的现实的威胁。核扩散、核废料都是世界面临的难题。

塑料是石油产品的衍生产品,它一度也是高度发达和文明的象征。上世纪80年代,我刚出国时,看到美国的超市免费提供大大小小的塑料袋,真是感慨万千,惊叹于西方的富足发达。然而今天,全球塑料袋年产量已经达到一万亿个,已经成为人类的公害。它们的足迹遍布世界各个角落,包括海洋最黑暗的深处,珠穆朗玛峰的顶峰,甚至极地的冰盖。据英国的纽卡斯尔大学的研究人员报道,海洋里的塑料高达4亿吨。鱼类因为误食塑料而死亡的报道不绝于耳。地膜的广泛使用,无疑为农业提供了高产增产的有效手段,使得人们的餐桌上一年四季都能吃到新鲜的蔬菜。但是地膜的回收成为现今的一道难题,而地膜的自然分解需要几十年上百年的时间,不但污染了土壤、农作物,从而污染了食品。

科技对文化的冲击也是不言而喻的。随着交通工具的日益发达,通讯手段愈发先进,使得我们生活在一个地球村。在大城市,我们几乎可以吃到来自世界各地的餐饮。走在北京、上海、深圳和走在任何一个世界的大都市并无二致,建筑风格越来越趋同,餐饮有了融合食谱(fusion food),很多餐厅越来越失去特色,什么都卖,什么都不精。根据加州大学洛杉矶分校戴蒙(Jared Diamond)教授的估算,全球有7000余种不同的语言,很可惜,目前世界上的语言正在以人类历史上从来没有过的速度在急剧消失,照这个速度,到2100年,目前传下来的95%的语言都会消失。根据联合国教科文组织印证,现在每两周就有一种语言消失,97%的人使用4%的语种。这个世界会因为均质化而慢慢失去许多地方特色,文化也越来越趋同,失去多元的丰富多彩、姹紫嫣红。

还有一类科技是本着做坏事的目的开发出来的,是为作恶而诞生的,因此就是坏的科技,像木马病毒。有的科技甚至会直接威胁到人类的生存,比如大规模杀伤性武器就属于这一类,一旦被用来作恶,后果不堪设想。对于这一类科技,我们很难说它是中性的。

现在大家非常关注的人工智能、基因技术、纳米技术,这些新科技对推动社会的发展,无疑将会产生巨大的作用,但是它们潜在的风险也是巨大的。

有些科技的风险因为科技发展阶段的局限并不为我们今天所认识;有些风险是因为科学家本身的一己之私,成名得利,而铤而走险;利用先进科技进行非法勾当的表现形式多种多样,有的是显性的,比如各种诈骗;而有的可能披着合法的外衣,以隐性的方式不为人们所了解。

前些日子有中国的科学家宣布,一对经过基因改造的双胞胎诞生了,一旦相关基因进入主流人群,所带来的潜在风险,今天都还难以估量。

有人近期宣布了人机接口,科技上也许很有前沿性,但如何防止人的自主意识不会被控制,人与机的防火墙如何打造,黑客会不会对人脑的攻击从而导致了人的行为或倾向的改变,会不会导致组织犯罪,对治理产生什么影响等等,都是悬而未决的话题。

前一段时间我看到一个短视频,一个无人机载着一把手枪,直接面对要针对的人,这或许是个搞笑短片,但它毕竟描绘了一个未来可能发生的可怕场景。这些应用无疑都具有非常巨大的隐患,对我们的社会伦理、秩序、治理带来巨大挑战。

有的公司通过社交媒体大数据分析,利用客户资料了解用户的政治倾向,左右政治、操弄选举,有针对地推送,从而影响选举;有的公司过度收集个人信息,为了谋取自己的利益,侵犯个人隐私,给社会大众带来了很多的烦恼;有的搜索引擎根据付费的高低来设置搜索结果,而非最佳的、有利消费者的方式。对个人隐私的侵犯比比皆是、无孔不入。对个人隐私的收集无处不在,以各种形式合法或非法地存在。

在大数据、人工智能时代,利用科技做恶往往还具有隐蔽性,很多技术的背后其实是算法。算法本身就不是人人掌握的知识和技能,又看不见摸不着,在不知不觉之中就让用户中招,具有非常强的隐蔽性。

可以说科技的边界越大,未知就会越多,带来的隐忧也越大。对一些重大科技,如何在为人类谋取福祉的同时,规避不必要的风险,扬长避短,需要非常严肃地讨论。

我们可以看出,有的科技的确为人类带来了持久的福祉,有的为人类带来了短期的贡献,也有的在带来贡献的同时还带来了副作用,还有的被误用、滥用导致了恶果,更有的科技给人类带来了灾难。科技的好坏,需要时间的检验。在快节奏的今天,时间恰恰是最短缺的奢侈品,更需要科技向善的努力。

政府企业和科学家的担当

科技向善绝对不仅仅是科学家的事,也需要政府、企业和社会大众共同的努力。它与一项技术发明和应用的初衷(或是目的)、过程和后果有关。企业作为创新的主体,在研发时要基于公众利益、人类福祉来研发,本着向善的目的,严谨的研发过程,求实认真的态度评估任何一项科技对社会、个人所可能带来的短期、中期和长期的影响。政府也应当发挥积极的作用,评估各种技术可能带来的风险,从立法的角度来规避风险。因此,科技向善需要政府、企业和社会大众共同的努力。

对IBM来讲,我们竭尽所能,努力地使科技的发展始终发挥着正向的作用。IBM很早就有关于好科技与坏科技的讨论,并出版《让世界更美好》一书,探讨如何将科技用于创造美好生活上面。可以说,科技向善、企业为善很早根植于IBM的文化之中,并且一直在努力践行。

2017年10月,IBM率先提出了“数据责任”,作为IBM在大数据和人工智能新时代下的行动方向,成为首批集中对外阐述其数据责任策略的技术公司之一。我们认为:

——数据所有权与隐私:IBM认为,“客户的数据属于客户”。政府的数据政策要公正、公平,开放为要。IBM全面承诺保护客户数据的隐私,这是数据驱动之社会的基础, 这是IBM有别于一些数据公司的商业模式 。

——数据流动与获取:IBM认为,数据跨境自由流动是21世纪商业的关键。

——数据安全与信任:商业加密技术对现代企业至关重要,IBM反对任何削弱或限制加密技术有效性的做法。IBM坚持采用业界领先的安全做法和技术来保护数据。

——数据与人工智能:IBM认为,人工智能的价值在于对人的增强, 而不是替代。并且,人工智能企业必须能够解释他们的算法推荐。

——数据技能与新领职业:IBM正带头努力采取行动,确保更多的工人有机会从技术驱动的经济增长中受益。

IBM利用人工智能应用于医疗健康的辅助诊疗,解决人类医生匮乏和不均衡的问题。虽然前进的道路并不一帆风顺,但是IBM具有挑战不可能为可能的传统,这将是具有划时代意义的工程。

还有IBM“代码集结号”项目,号召全球2300万程序员利用AI等科技,为各种救灾编写解决方案,并把一些优秀的解决方案,部署到救灾当中去。以及像促进AI公平的开源工具包(AI Fairness 360)、能够帮助开发者训练不带偏见的脸部识别系统的多样性脸谱数据库(Diversity in faces)等。最近我的一位朋友在参加夏季达沃斯时尝试了一下人脸识别技术。结果人脸识别系统除了看出他是男性之外,其他所有的各项指标都和我所了解的这位仁兄南辕北辙,包括他的年龄、人种、善良、幸福、责任、社交、吸引力、攻击性等等。可见很多系统依然具有局限性,属于算法上的无能。我自己最近就遇到过我需要证明我是男性的怪事,我的证件上明明标注我为男性,而一个政府的系统读出我的证件为女性。这也属于技术无能事件。更有的算法还具有做恶的主观本质。

IBM从今年开始就利用人工智能辅助员工的薪资调整,从而将薪资更加透明地展示给员工。过去涨工资是老板说了算,今后可能就不是这样了。人工智能会给出一份非常详细的建议,它可以从40个和薪酬相关的方面来打分,最终给出一个综合的薪酬建议。这40个方面包括员工的工作岗位和级别、工作年限、技能水平、薪资竞争水平、绩效、职业潜力、员工的离职倾向等全方位的信息,并且结合公司的业务、战略和需求,以及市场薪酬趋势、公司业绩、行业对标、相应技能在市场上的稀缺度等诸多因素来综合考量,可以说比以前更加全面、更加客观了,也更加具有前瞻性、有据可依了,从而避免了不必要的人类偏好,比如老板说了算的传统做法。

当然,科技公司在保证科技不作恶方面的确有不容推卸的责任。这就要求企业要有正确的价值体系,并且践行这套价值体系,使之成为企业文化乃至基因的一部分。政府也应当扮演它应当扮演的角色,在立法、执法、社会引导方面着手,通过建立科技伦理、社会伦理等一系列综合的做法,来解决这类复杂的科技难题。

每一次新的、重大的科技进步对社会造成冲击的时候,人类社会都会通过法律、道德、技术进步等方方面面重新组织适应性,来塑造新的社会形态。人类美好的未来离不开科技,好的科技终将会给人类带来美好的未来,恶的科技最终还是会被人类的纠偏机制所终结。犹如亚当斯密所说“在政治实体之中,自然的智慧有充分的准备修正人类的愚蠢和不公所造成的不良后果,正如它在人体之中修正人类的懒惰和放纵的不良后果那样”。应对核武器的《核不扩散条约》以及应对全球气候变暖的《巴黎协定》都属于人类社会的纠偏实践,虽然这些纠偏机制往往效率也差强人意,但是最终我们还是期待这种社会纠偏机制能发挥作用。虽然坏的科技也往往会很快或是最终为人类所认知并抛弃,但是坏科技所带来的阶段性的破坏也是不容小觑的。

所以时间是紧迫的,以前我们是事后纠偏,现在、未来是不是我们事中就要纠偏,甚至事前就要纠偏,这些都是我们“科技向善”里面值得探讨的话题。

现在的科技,对我们已经具有支配性的影响,我们今天谈科技向善,是务实,而不是务虚,这是一件迫在眉睫的事情,需要整个社会共同关注、妥善解决。

科技向善,科技为善,我们未来才会更加美好。

IBM陈黎明访谈录:科技向善与时代责任(上集)

IBM陈黎明访谈录:科技向善与时代责任(下集)

更多相关评论 
打开财经APP, 阅读有价值的财经新闻
相关新闻
热门推荐