IBM陈黎明访谈录:科技向善与时代责任(下集)

2019年08月21日 09:00  

本文2615字,约4分钟

“科技向善”应该包含三方面内容:科技发明的目的是什么?过程是什么?最终科技发明所带来的后果是什么?

(视频文字实录)

科技向善的确是一个非常抽象的话题,我们对一项科技认识上的局限,有的时候不一定是故意的,我们作为科技人员,也不一定主观上有向恶的本意,但是因为我们认识的局限,可能导致了一项科技最终出现了偏差。

对于科技向善,我个人还没有一个非常完整的定义,但是我认为至少它应该包含三个方面。

第一是科技发明的初衷,也就是目的是什么?第二是科技发明的过程是什么?第三是最终科技发明所带来的后果是什么?这三点我觉得对于科技向善都有至关重要的标志意义。

另外,作为科技工作者,我们在做科研的时候,必须要去思考。如果说我们本着为人类的福祉,使得环境的改善,带来社会和人类的进步所进行发明创造,至少解决了一个目的的问题。还有,要对于后果,以及未来潜在的风险进行评估,如何把很多的风险化解于发明创造的过程当中,我觉得这个可能是作为科研人员应当思考的问题。

IBM有这样一个传统,就是去挑战不可能成为可能,所以我们希望能够去做出一些对人类有重大影响的一些科技创造,这也是科技向善的一个具体的体现。

IBM最近有一个项目叫Call for Code,就是代码集结号。这个项目是我们号召全球2300万程序员,为了救灾而编写程序,并把程序运用到救灾活动当中去,这其实也是为了人类的福祉而做出的努力,也是科技向善的一个具体表现。像代码集结号这样的项目,它不仅仅意味着一家公司主张科技向善,来做一项科技向善的工作,更重要的是去倡导整个社会利用科技做向善的事情,我觉得这才是它的核心。

再比如说我们有一个项目叫AI公平开源工具包,这实际上是为了实现不带偏见的面部识别技术而进行的一项努力。最近我参加夏季达沃斯,一位朋友到人脸识别系统去做了一次体验,体验之后他感到很悲催。因为他所有的指标中,除了他的性别是对的,所有其他的指标都是错的,比如说他的人种,识别系统认为他是一个欧美人,但他其实是一个中国人。比如说他的善良指数、幸福指数、人际交往能力、责任、吸引力,所有这些指标都跟我所了解的这位朋友完全是风马牛不相及,这个就是人脸识别技术本身存在的偏见。

当然,有时候很多人工智能技术的偏见不仅仅是因为系统算法的无能所带来,更有可能是因为有人有主观上的故意所导致的。在这种情况下,我们需要能够利用科技向善的一个倡议,使得我们能够避免这样的算法偏见出现,也帮助我们的社会大众认识到算法偏见可能会带来的伤害。

IBM还有其他一些项目,比如说我们有一个叫P-TECH(Pathway in Technology Early College High School )的项目。现在很多的年轻人不一定能上得了大学,不光是因为经济的原因,他可能是偏科,但同时他可能在科学、在技术、在工程、在数学方面有自身的天赋,这种情况下我们就跟一些学校合作,来培养这些孩子更好利用他们的天赋,利用他们的长项,从而培养他们能够将来融入到人工智能时代,这也是科技向善,一种企业社会责任的体现。

作为人类管理者,我们有的时候很难能够完全避免一些个人喜好或偏好的影响,使得在为员工涨薪的时候不一定有那么强透明度,这中间存在一个公平性的问题。IBM最近就有一个正在推进行中的新举措,叫作“薪资透明度”。借助这个项目,将来为员工涨薪可能就是通过人工智能辅助我们来做决策。这个项目引入了40个不同的指标,包括岗位、薪资水平,你的业绩表现,公司的业绩表现,员工跟其他同类企业对标的结果等等,最终得出结论,一个员工具体应当涨薪多少。这可以很大程度上避免人类管理者本身所具有的各种各样的一些偏见,当然,我们一定要确保这个算法本身具有非常强的公平性、合理性、透明性。

我觉得,作为一家科技企业,如果没有科技向善的这样一种理念,那这个企业本身也很难持久,其实历史上我们看到过很多的企业因为没有做善事所为人们所摒弃。今天我们在网络上都能够看到很多类似的报道跟批评。一些公司,因为没有做到真正意义上的科技向善,为了短期的利益,为了自私的那一面做了一些事情,最终会被公众识破。

一个科技公司发明了一项技术,当这个技术被广泛采用的时候,其实并不完全在公司的掌控之下,有的时候可能会应用到一些让人非常意想不到的一些场景中。在这种情况下,单纯依赖于科技公司去倡导向善,我个人认为是不够的,这当中希望政府能够在立法层面上有所作为。

最近欧盟所推出的GDPR,就是一个非常典型的例子,其实在全世界很多国家都有类似的一些立法,通过法律的手段,使得我们的一些科技应用受到一定的制约和限制,使它不至于脱轨,走向作恶的方向上去。

从企业的角度来说,科技向善是不可推卸的责任,要本着科技伦理、科技规范这样一个层面来进行我们的科技的发明创造以及应用。作为消费者的我们也是一样,要随时认识到,在新的科技环境下,风险是存在的,有时甚至还是巨大的,消费者也应当审慎地来使用一些新技术。

科技在人类的进步历史上可以说是发挥了至关重要的作用,人类的未来也离不开科技,好的科技有非常强的生命力,它会对未来人类的进步带来很大影响。恶的科技它一定会被人类的纠偏机制所终结。

人类有很多的纠偏机制,其实就是为了防止一些科技,或者是一些行为为人类带来灾难,比如说《核不扩散条约》就是这样一种机制。再比如说像《巴黎协定》,其实也是为了人类共同来面对气候变化所制定的这样一个规则。虽然说人类的纠偏机制有的时候也是差强人意的,但是总体来说还是需要这样一些纠偏机制,防止一些科技,或是一些重大的人类议题出现偏差,最终给人类带来伤害。

很多的科技经历了非常漫长的历史,为人们所广泛使用,还有一些科技是属于昙花一现,很快就为人们所抛弃,可能是有新的科技出现替代了它,也有可能是因为这项科技本身对于社会产生了负面影响,以至于人类社会通过纠偏机制抛弃了它。

过去我们做的很多事情是事后纠偏,现在应当更加重视事中纠偏,甚至在事前就应当去纠偏,应当慎重的去考虑,努力让科技不会脱轨,不会走向对于人类产生负面影响的情况发生。

现在的科技在我们的生活当中起到了支配性的作用,要充分的认识到,科技负面影响显现的周期变得越来越短。因此,科技向善这样一个话题不应当是务虚的讨论,应当是务实的讨论,它是一个迫在眉睫的话题。当下,需要整个社会来关注这个话题。科技向善,需要政府发挥作用,需要企业发挥作用,也需要个人在其中发挥作用。

科技向善、科技为善,让科技使我们的生活变得更加美好。

(编辑/朱弢)

更多相关评论 
打开财经APP, 阅读有价值的财经新闻
相关新闻
热门推荐