當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革方興未艾，人工智能已逐漸發(fā)展成為帶動技術(shù)創(chuàng)新、推動產(chǎn)業(yè)升級的通用技術(shù)。為應(yīng)對人工智能所帶來的市場需求，主流IT廠商如谷歌、蘋果、亞馬遜、騰訊、百度、阿里等紛紛投入巨資自研AI芯片，AI芯片創(chuàng)業(yè)公司也不斷刷新融資紀(jì)錄，AI芯片設(shè)計(jì)和開發(fā)已儼然成為IT產(chǎn)業(yè)界的顯學(xué)。
AI應(yīng)用和模型在AI芯片上運(yùn)行離不開編譯器的支持。面對AI芯片產(chǎn)業(yè)的快速擴(kuò)張，芯片技術(shù)人才供不應(yīng)求，編譯器人才同樣嚴(yán)重匱乏，如何改善編譯器人才緊缺的局面成為急需解決的難題。編譯技術(shù)是一門不斷發(fā)展的技術(shù)，特別是針對新興的AI應(yīng)用，編譯器開發(fā)目標(biāo)和方法出現(xiàn)了新的變化。AI編譯器一方面要實(shí)現(xiàn)AI應(yīng)用到芯片的自動化部署，另一方面要通過優(yōu)化算法與芯片架構(gòu)間的適配關(guān)系，協(xié)助提升AI應(yīng)用的執(zhí)行效率。市面上現(xiàn)有的編譯器類書籍大多偏重經(jīng)典理論和原理的闡述，這類書籍對于AI編譯器初學(xué)者建立編譯器相關(guān)基本概念當(dāng)然是有幫助的，但因其滯后于AI芯片的發(fā)展形勢，在為AI編譯器開發(fā)提供可行的解決方案和指導(dǎo)建議方面力有不逮。因此，業(yè)界亟須一本完整介紹AI編譯器開發(fā)的入門指導(dǎo)書籍，引導(dǎo)初學(xué)者由基本的編譯器知識入手，逐步掌握AI編譯器開發(fā)的基本過程。本書綜合了各種現(xiàn)有的AI編譯器設(shè)計(jì)理論和實(shí)踐成果，旨在幫助初學(xué)者快速建立AI編譯器開發(fā)領(lǐng)域知識圖譜，理解AI編譯器開發(fā)的各種關(guān)鍵技術(shù)，并為AI編譯器實(shí)際開發(fā)過程中出現(xiàn)的問題提供有價(jià)值的指導(dǎo)和參考意見。
本書共分為7章，各章安排如下。
第1章從多個(gè)角度對現(xiàn)有AI編譯器進(jìn)行分類，總結(jié)了AI編譯器通常采用的設(shè)計(jì)結(jié)構(gòu)和特征，并介紹了AI編譯器的產(chǎn)品設(shè)計(jì)和差異，以及GPGPU編譯器基本組成。
第2章以TVM、TensorFlow XLA和Glow三種AI編譯器為例，詳細(xì)介紹了AI編譯器的基本架構(gòu)設(shè)計(jì)和實(shí)現(xiàn)方法。
第3章專注于以TVM為代表的開源AI編譯器的實(shí)現(xiàn)分析及其定制化開發(fā)方法介紹。
第4章將GPGPU編譯器后端設(shè)計(jì)方法作為AI編譯器的重要補(bǔ)充加以闡述，重點(diǎn)分析了GPGPU編譯器后端重要的三個(gè)組成部分：指令選擇、指令調(diào)度和寄存器分配。
第5章針對引人注目的GPGPU張量核專用處理模塊，從張量核設(shè)計(jì)原理、編程方法和編譯器支持角度對其做了系統(tǒng)論述。
第6章在分析模型性能衡量方法和影響因素的基礎(chǔ)上，介紹了LLVM AMDGPU和TVM開源項(xiàng)目中的性能相關(guān)優(yōu)化方法。
第7章介紹了對AI編譯器設(shè)計(jì)有重要影響的軟硬件接口設(shè)計(jì)方法，著重介紹了AI編譯器與AI加速器硬件相關(guān)的接口設(shè)計(jì)和面向硬件的模型量化方法。
本書從開發(fā)實(shí)戰(zhàn)的角度出發(fā)，將抽象的編譯器概念，以源代碼、結(jié)構(gòu)框圖、流程圖等方式形象地表述，輔以開源項(xiàng)目中的源代碼分析，盡量避免煩瑣的公式推導(dǎo)，使讀者能通過實(shí)際例子對AI編譯器的開發(fā)有更直觀的認(rèn)識，將AI編譯器原理與實(shí)踐緊密結(jié)合起來，提高開發(fā)者解決實(shí)際問題的能力。本書適合AI編譯器開發(fā)工程師、AI芯片架構(gòu)師、AI芯片設(shè)計(jì)工程師、算法優(yōu)化工程師、高等院校相關(guān)專業(yè)的本科生和研究生，以及其他對AI編譯器感興趣的人員閱讀學(xué)習(xí)。
AI芯片和編譯技術(shù)的發(fā)展日新月異，由于篇幅限制，書中僅闡述了當(dāng)前主要和主流的AI編譯器相關(guān)技術(shù)，一些對AI編譯器有重要影響的技術(shù)，如MLIR、多面體模型等，書中未能充分論述。讀者若對更深入和專門的議題感興趣，可參考本書參考文獻(xiàn)中提供的相關(guān)論文和網(wǎng)址。本書中涉及的TVM、LLVM、NVDLA等開源項(xiàng)目源代碼可從https://github.com/apache/tvm、https://github.com/llvm/llvm�瞤roject和https://github.com/nvdla獲得。
本書重點(diǎn)、難點(diǎn)部分配有二維碼視頻，讀者可以掃碼觀看，本書附帶配套免費(fèi)資源可掃描封底二維碼獲取，或從以下Github鏈接獲得https://github.com/frankwang0818/AI_compiler_development_guide。
囿于個(gè)人經(jīng)驗(yàn)，書中難免有不準(zhǔn)確甚至錯(cuò)誤之處，歡迎讀者批評斧正。
感謝機(jī)械工業(yè)出版社策劃編輯李培培，從選題到定稿再到本書的出版，她都提供了非常專業(yè)的指導(dǎo)和幫助。
感謝我的家人的照顧和支持，讓我有時(shí)間和精力在工作之余完成本書的寫作任務(wù)。