AI技术日新月异,3年前的书已经过时
本书分两部分,第一部分(1-5章)是马库斯对人工智能的核心技术-深度学习的一系列质疑。强调要在深度学习基础上探索新的技术突破。transformer技术算是实现了一点突破,基于transformer的chatGPT距离AGI越来越近。马库斯把AI鸿沟归纳为三种大坑:轻信坑,虚幻进步坑,鲁棒坑。他提醒我们必须关注避免踩坑。
第二部分(6-8章)马库斯提出他认为的能通向未来可信AI的核心路径,路径的起点是研究人类如何获得认知能力时所获得的核心启发,并以此建立下一代人工智能技术中必要的内在结构。我个人的观点有些不同:宇宙中的智能形式是多样的,人类的智能不是唯一存在,人工智能不一定要完全仿照人类智能来建造(可以借鉴但不必复制)。假设智能是一个平面,人类智能是平面上的一个圆,平面上还存在其他的智能圆或者正方形等,人工智能可能是一个与人类智能相交的圆但不必与人类智能是同心圆。
第二部分中,马库斯强调了常识在实现AGI中的重要性。这个我是非常认同的,智能体要有一个世界模型,模型中就是关于世界的常识。马库斯谈到了常识的获取,尝识的表征和怎么把尝试喂给智能系统这些问题。在chatGPT已经存在的当下回头来看,解决这个问题的钥匙就是语言language。人类是先有语言然后才有文字,然后积累知识的,语言也是人类思考的工具。常识是以语言的形式沉淀下来的,因此也可以被语言模型学得,有了语言就可以思考,抽象,推理。
书中提到的当前尚未的到解决的一个重要问题是:如何对齐AI,即让赋予AI正当的道德伦理观念,与人类的观念保持一致。我正是因为想要了解这个问题的研究进展才找到此书,读完之后发现这是个全新的问题,过去的书中给不出答案
有关键情节透露