最具有争议的话题

关于维纳的控制论的预见性与缺陷的讨论。1. 奇点怀疑论。2. 因果推理模型（统计推理-干预-反事实），AI缺陷（深度学习的模型盲法与黑箱化）。3. AI的目标可能与人类设计的目标不一致（认知人类偏好，机制设计以保证价值对齐）。4. 数字与模拟，AI第三定律。5. 我们不需要意识的类人主体。6. 心智是物质的一种涌现性（自然智能是人工智能的一个特例）；各有利弊（人工智能胜过自然智能的优势是永远的，大脑的优势如连接性与交互式发育是暂时）。7. 2017阿西洛马原则，技术发展与管理技术的智慧。8. AI的风险是如何防止超级AI将环境变得不适合生物生存。9. AI与其它技术没有区别（增量式发展，多条件，不断测试其安全性与有效性），重要的是思想的因果关系。10. 贝叶斯更新不够，创造力是必须 - 通用AI的思想空间必须是开放的。11. 人机兼容合作：价值对齐（奖励优化，反向强化）；理解在计算约束下的人类认知计算模型（合理性与启发式方法的差距 - 有界最优性-犯错与思考过多tradeoff）；如何协调多人价值观冲突？12. 所有生命形式都经常被困于局部极小值。13. 对社会影响最大的是收集操纵香农式信息。14. AI进步过程（主机-专家系统-传感器-多重传感器-深度学习）；伸缩性（性能根据处理问题的难度而变化情况）；机器制造与机器思维（结合通信-计算-制造）。15. 技术增强的人类网络（如国家、企业等混合型超级智能有其自身涌现目标）；各超级智能体间关系（国家-AI，公司-AI，AI独立目标；AI帮助人类恢复个人与公司、公民与国家间的权力平衡）。16. 如何构建人类-AI生态系统？（社会抽样，信度分配反馈，构建数据信任网络并进行政策评估）。17. 艺术与科学的联系（AI算法的可视化，艺术家对理解AI问题的贡献，艺术创作与计算机模拟的差异）。18. 算法的危险（承诺的客观性，基于机械客观性的预测分析的代价）。19. 人与机器界限日益模糊（人像机器，机器像人），非人类超人类（动物、有机体、、机器、混合体）的权利是什么？20. 如何将人类的目的与系统联系起来？永生？培养计算思维。