推荐语(按姓氏拼音排序)
艾克 ImaginationTechnologies中国区技术专家
1956年,约翰·麦卡锡在达特茅斯会议上正式提出人工智能的概念,然而直到2023年,ChatGPT掀起了全球AI大模型浪潮,才把人工智能推到了风口浪尖。而作为实现人工智能必不可少的算力基础——人工智能芯片,是人工智能技术得以实现的关键。人工智能芯片先驱英伟达公司认为,2025年将是AI智能体发展历程中的关键节点。人工智能芯片设计无疑会成为未来一段时间芯片设计界的重中之重。我有幸拜读过这本书作者之前编写的关于高性能处理器设计的书,对这本书作者在处理器架构设计上的专注精神十分佩服。这本书全面介绍了人工智能处理器硬件架构及微架构,并配有对应的工程经验总结与产品实例分析,值得产业相关人员、高校集成电路等专业学生深入学习与借鉴。
邓宇 飞腾信息技术有限公司高性能研发总监
作为一名正在学习AI硬件知识的传统CPU架构师,这本书来得正是时候。与其他简单介绍各种GPU和NPU的资料不同,这本书真正深入到了AI处理器内部,先后介绍了指令集设计、架构设计、向量处理单元、矩阵处理单元、标量处理单元、数据搬运单元和存储系统设计等内容,最后以一个实例帮助读者融会贯通前面所学知识。读完这本书之后,读者能够真正理解AI处理器的底层工作逻辑,将会获益良多。
冯幼林 Zscaler, Inc.资深架构师
作为一名传统高性能多核处理器操作系统及高速外设驱动程序的开发者,我渴望获得一本能助我跨界进入AI处理器软件开发领域的参考书。这本书正好满足了我的这个需求,它深入地介绍了现代AI处理器设计的方方面面,覆盖指令集、各种微架构、数据的存储及搬移等内容。尽管这本书偏重于硬件设计,但仍然是软件开发者用来学习AI处理器及系统设计的必备手册。AI处理器硬件架构设计
华惟哲 Microsoft AI资深专家
过去几年,大语言模型的进步为人工智能的应用开启了新篇章。这些年获得的丰硕成果除了得益于Transformer架构、自回归模型和海量高质量数据的支持以外,还离不开AI硬件性能的飞跃,后者为复杂模型的训练与应用提供了关键支撑。这本书围绕AI发展的核心,从主流模型需求出发,系统讲解了AI硬件的架构、指令集和微架构设计。同时,书中还分析了设计理念和方法论,帮助读者了解AI硬件的全貌。这本书适合所有对AI硬件设计感兴趣的读者阅读。我还想将这本书推荐给算法研究人员,通过阅读这本书来了解硬件基础,可以为优化算法提供新的思路。
黄音 ImaginationTechnologies中国区高级经理
算力作为推动人工智能蓬勃发展的“三驾马车”之一,肩负着基石的重任。算力芯片无疑是人工智能得以引领科技巨浪的关键要素。这本书结合当前人工智能发展趋势,从人工智能发展源头开始,抓住其发展脉络和应用场景,深入介绍处理器设计模块及架构选型。这本书作者作为具有丰富处理器设计经验的实操者,给读者带来的不只是一本工具书,更多的是多年形成的设计理念和思考方法。这本书值得反复研读。
李伟 全球TOP5半导体公司中国区SoC/IP首席架构师
这本书是一本深入探讨AI处理器的图书,它针对新型计算需求以及传统通用处理器的局限性,从处理器的硬件架构到微架构设计,介绍了AI处理器的指令集设计、核心计算单元、数据搬运单元与存储系统设计等多个方面,并分享了丰富的工程经验及提供了实例分析。这本书涵盖了AI处理器主要的设计原理和实现方法,对于想了解最新的计算需求和AI处理器设计的学生与专业人员来说,都是一本难得的专业领域书籍。
刘宏伟 中国科学院计算技术研究所副研究员
这本书全面地介绍了AI处理器的硬件架构设计,包括多种核心计算单元的微架构实现。通过这本书,读者可以较为全面地了解AI处理器架构。在这本书中,从指令集设计到存储系统实现,每个环节都有相应的解析和实例说明。此外,这本书还很注重实用性和工程可实现性,这对于正在或即将从事AI处理器设计的人来说,是一笔宝贵的资源。总之,这本书是一本非常优秀的专业参考书,无论是对AI硬件架构感兴趣的学者,还是从事AI处理器设计的工程技术人员,都可以从中获得必要的知识支持和一定的技术启发。
毛伟 西安电子科技大学菁英教授,中国计算机学会集成电路设计专业委员会执行委员
AI技术发展迅猛,迫切需要高性能AI专用处理器。这本书涵盖AI处理器硬件架构设计的方方面面,从理论基础到微架构实现,再到实例分析。这本书的独特之处在于结合丰富的工程经验,深入剖析各种数据处理单元微架构及相应数据流设计,为读者提供前沿且实用的解决方案。无论是AI处理器研发人员、科研人员,还是高等院校相关专业的师生,这本书都是不可或缺的重要参考书。
邵巍 ARM中国区服务器与生态系统前市场总监,阿里平头哥前高级产品经理,AI芯片创新公司产品总监,极客时间“说透芯片”课程主讲人
这本书是一本关于芯片设计的AI处理器工程实践图书。
这本书把计算机体系结构中的核心概念,从芯片设计的角度,围绕AI处理器这个主题,一一呈现出来。从理论到实践,这本书展现了如何从头设计一个AI处理器核心。
我最喜欢这本书的一点是,作者不仅列出了AI处理器设计中的不同选择,还从芯片设计的角度,根据流水线执行效率、后端布局的难易度等工程维度来评价不同选择的优劣,可见作者具有丰富的工程设计经验。
这本书既有高层次的架构分析,又有细粒度的向量处理单元、矩阵处理单元和标量处理单元的微架构设计。另外,这本书还提供了一个真实AI处理器的实例,该实例也是一个完整的AI处理器设计教程。这本书工程细节非常多,即使只是为了学习集成电路设计,也值得一读。
唐欣 蚂蚁集团芯片架构负责人,自研芯片首席架构师
在这个百年不遇的大变局时代,AI技术和算力已经成为彰显科技实力的重要指标,AI芯片作为AI技术的基础底座,日益成为芯片研发领域的焦点。
芯片设计具有传统、小众、封闭等特点,近十年才开始出现,因此市面上缺少由具有丰富研发经验的工程师所撰写的相关图书。近日有幸阅读了这本书,深感其逻辑清晰、内容深入、见解独到,且全书处处体现出作者丰富的工程经验,阅读此书对我理解AI芯片的架构和设计有极大的帮助。
从某种意义上来说,芯片设计是一门取舍的艺术。无论是面向大规模云计算领域的GPU/AI加速卡,还是用于端侧的NPU IP,本质上都是算力(性能)、成本(面积和功耗)、通用性(可编程能力)之间的平衡。这本书从AI算法和目前通用的算力芯片GPU架构分析入手,然后介绍自定义指令集定义和AI处理器功能组件划分,接着深入到AI芯片通用的标量、向量、张量(矩阵)单元设计,最后介绍当前AI芯片设计的痛点,即落后于算力单元的存储单元的设计,处处体现出作者丰富的工程经验。更加难得的是,这本书还提供了一个完整的AI处理器设计实例,该实例可以为广大读者学习AI处理器设计提供一个完整的设计教程。
总而言之,这本书是一本关于AI处理器硬件架构设计的专业之作。它提供了丰富且具有明显可实现性的实践案例,让我对AI处理器的硬件架构和设计有了更深入的了解。无论是从事AI芯片研发的专业人员,还是有志于进入AI芯片研发领域的学生,以及对AI芯片设计感兴趣的相关人士,都能从这本书中有所收获。感谢作者无私分享了自己丰富的工程经验,希望芯片设计行业内有更多的专业人士以开源的精神分享自己的工程经验和见解。
吴冶 南京英麒智能科技有限公司CEO
非常高兴看到这本书的出版!这本书内容系统、全面,涵盖了AI处理器从理论基础到硬件实现的方方面面,既有严谨的理论讲解,又融入了丰富的实践案例。无论是目前从事AI处理器设计的工程师,还是未来想要致力于这一领域的学生,都能从这本书中汲取经验与获得灵感。这本书的问世,无疑会成为AI硬件设计领域的一大助力。这本书值得每一位对AI硬件设计感兴趣的读者深入阅读。
徐盛 奥比中光科技集团股份有限公司首席架构师
这本书的两位作者都是拥有丰富处理器设计经验的行业资深专家。阅读这本书时,很多地方都会让我感觉在研读项目中的架构设计文档。这本书详细阐述了如何设计AI处理器的各个模块,以及如何将这些模块高效集成,构建出一个完整的AI处理器,使其各模块协同高效运行。这本书既有深入的理论分析,又提供了丰富的实际案例,非常适合芯片设计行业的从业者学习和参考。
张一航Zoox, Inc.工程经理
作为人工智能领域从业者,非常高兴看到这本书出版。随着人工智能应用场景的极大丰富,任务的日益多元化,以及在不同环境中对算力和能效比需求的指数级增加,适应人工智能运算需求的专用处理器的设计及其实现将对人工智能技术及产业的发展起到举足轻重的作用。这本书从AI处理器的运算任务出发,自上而下,从宏观和微观的角度完整且扼要地介绍了AI处理器的设计方法。这本书从工程样例入手,理论介绍深入浅出,是一本不可多得的系统性介绍AI芯片设计理论与方法的参考书。阅读这本书大有裨益。
赵文哲 西安交通大学人工智能学院副教授
这本书从AI技术发展的前沿切入,系统探讨了人工智能如何驱动计算机体系结构的优化与重塑。在人工智能时代,面对大规模并行运算的需求,计算体系结构需要在设计上进行深度调整,以提升计算能力。这本书详细解析了流水线并行、计算阵列、并行调度等关键技术,这些技术在提升AI模型计算效率方面发挥了至关重要的作用。这本书全方位展示了计算机体系结构是如何在智能化时代转型升级,通过技术创新来满足人工智能日益增长的算力需求的。这本书内容翔实、结构清晰,为对该领域感兴趣且希望深入了解的读者提供了极大的帮助。