ChatGPT猛然出世,一时无两,或为之喜狂,或为之忧伤。欣喜人类技术爆发,人工智能带来工作效率增长,忧虑多少岗位将被替代,人心难免惶惶。
然而思考人工智能对人类未来的影响应刻不容缓,人工智能发展的时代,与汽车替代马车的时代有着本质不同,不仅仅是工具的升级那么简单。汽车不会学习,而人工智能却可以,且在记忆力和计算力方面都远超人类。对人工智能的隐忧,探寻确保人类未来能生存的预防措施,并非杞人忧天。作者早在五六年前就在思考探索了,这些年的思索论文便集合成为此书。
在作者看来,人工智能需要区分小问题,中问题,大问题。最大的问题及挑战还是将超越人类智能的超级智能的可能出现。
若科技高速发展,未来制造出有人类思维能力的机器人(即人化物),或可以通过芯片移植乃至基因改造将人变为新人(即物化人),人类要如何生存延续?
人与人化物、物化人最大的区别在于人有意识,有精神生活,有情绪。就算人化物也会有意识,但很难有感情,因此人化物的世界与人类无干,人类就算被消亡,也应保有着自己的精神文明,有尊严地离开。物化人会长生不老,也许人不用再担心谋生,但一定会出现掌控技术的技术精英、政治精英的集权统治者,他们的集权不再容易被推翻,异端思想也将被消除,那人会成为什么,仅仅就是生命不息吗?
有人提出在技术代码中增加道德内容,培养机器具有高尚的价值观,然而人类自身对善恶都很难达成共识标准,而且有些道德困境也没有一致的解决方案,何况机器人,更何况初始制造机器人的人?因此不如建立一条机器伦理的简明规则,在民用机器人层面,“不得伤害任何人”,在国用机器人层面,让智能机器小型化、专门化和非暴力化。
当然,在采取预防人工智能发生最坏情况,具有深谋远虑的决策和举措方面,需要依赖的,还是关键的少数人,包括掌握科技、经济、政治和舆论资源的四种人。
人类最迫切的科技挑战就是巨大且日益增大的不平衡-控物能力与自控能力的不平衡,认知事物的发展和精神其他方面能力发展的不平衡。
作者的这些论文推论精妙,示例精当,饱含情感,激荡人心,实乃思想与文采并重,理智与情感交融,值得拜读。