斯图尔特拉塞尔给我发了一份《人类兼容性：人工智能和控制问题》。本书旨在解决人工智能(AI)对社会的威胁，包括很多不太了解AI的人提出的电影和末日场景。虽然我发现这本书提出了很多有趣的问题，但我认为它在回答这些问题时存在一些问题。

我的第一个问题从第一章开始，其中包括一些关键短语，比如“机器不够智能”和“深度学习技术自2011年以来取得了巨大进步。”问题是，我看不到的是为什么我们看到了优势。我在其他地方提到过，但这些发展与AI无关。早在20世纪80年代，我们就有许多理论来推动这些进步。缺少的是硬件。云计算的发展促进了横向扩展硬件、多处理器甚至计算机的协同工作，以解决即使是最强大的单台计算机也能管理的问题。人工智能，尤其是深度学习(DL)，然后使用水平扩展来执行即使在20世纪80年代也无法考虑的任务。

好的一面是，罗素在第一章做得很好，描述了当今人工智能系统的功能和局限性。他指出，这套系统之所以能在国际象棋、围棋等游戏中击败最优秀的棋手，其中一个原因就是这套系统仍然只玩两个人的游戏。很多问题可以通过蛮力提前解决。需要更好的AI来判断更多玩家之间的互动。

最好的章节之一是第四章。他研究了人工智能的一些基本误用，包括政府监控、自动武器和失业。最后，我认为社会动荡的最大风险是存在的，这本书对此关注不够。

第六章是一个例子。罗素写道：“协作式人类AI团队确实是一个理想的目标。”问题是合作，不是目的，而是中间的一步。鉴于当今人工智能功能的局限性，需要协作。从商业领袖的角度来看，目标是用机器代替昂贵的人来增加利润。今天，我们需要这种合作。这是一个有趣而重要的话题，但这只是整个旅程中的一步。