序

與汪文祥老師相識源于2016年籌辦全國大學(xué)生計算機系統(tǒng)能力大賽。彼時，以本科生開發(fā)CPU、操作系統(tǒng)、編譯器為目標的系統(tǒng)能力培養(yǎng)教學(xué)改革已進入第10個年頭。在教育部高等學(xué)校計算機類專業(yè)教學(xué)指導(dǎo)委員會（以下簡稱“教指委”）的大力推動下，在北京大學(xué)、北京航空航天大學(xué)、國防科技大學(xué)、南京大學(xué)、清華大學(xué)、上海交通大學(xué)、浙江大學(xué)、中國科學(xué)技術(shù)大學(xué)這8所系統(tǒng)能力培養(yǎng)示范高校的帶動下，全國數(shù)十所高校加入教學(xué)改革的行列，系統(tǒng)能力培養(yǎng)逐漸成為計算機類專業(yè)教學(xué)研究與改革的熱點之一。面對教學(xué)改革蓬勃推進的態(tài)勢，一個關(guān)鍵問題擺在我們面前：如何檢驗教學(xué)改革后的學(xué)生能力培養(yǎng)成效？

在教指委的支持和指導(dǎo)下，經(jīng)過深入考慮和多方調(diào)研，我們決定舉辦面向全國大學(xué)生的系統(tǒng)能力大賽，希望通過大賽來檢驗教學(xué)改革的成效，進一步推進教學(xué)改革，同時將企業(yè)融入人才培養(yǎng)的生態(tài)。這個想法得到了龍芯公司的積極響應(yīng)，并指派汪老師加入大賽的技術(shù)組。

大賽從哪個環(huán)節(jié)開始呢？從技術(shù)來看，CPU是計算機系統(tǒng)乃至信息技術(shù)領(lǐng)域的基石。從產(chǎn)業(yè)的角度，如果我國有一大批熟知CPU等硬件系統(tǒng)原理與特性的人才，那么他們必將在我國信息技術(shù)產(chǎn)業(yè)中發(fā)揮重要作用。從教學(xué)改革成熟度的角度，CPU相關(guān)的教學(xué)改革歷史久、體系全、影響大。從學(xué)生培養(yǎng)的角度，能做出CPU的學(xué)生必定是一流的學(xué)生，其專業(yè)基礎(chǔ)與能力毋庸置疑，更重要的是這些學(xué)生有過做出CPU的“巔峰體驗”，這勢必極大地增強其挑戰(zhàn)未來的信心與雄心。最終，我們決定于2017年先行啟動CPU賽道，一定程度上這也是為其他賽道“探路”。

從2017年到2020年，連續(xù)四屆大賽讓我們看到了學(xué)生們對CPU設(shè)計的熱情，他們的學(xué)習(xí)能力、工程能力與創(chuàng)新能力超乎我們的想象。更可喜的是，一些高校將系統(tǒng)能力大賽的技術(shù)方案融入課程教學(xué)中，實現(xiàn)了教學(xué)支撐競賽、競賽牽引教學(xué)的良性迭代。同時，我們也看到，參賽團隊主要由本科二年級、三年級的學(xué)生組成。雖然他們具有極強的學(xué)習(xí)熱情與能力，但無論從技術(shù)還是工程上，開發(fā)一個CPU對于他們來說都并非易事。

人才培養(yǎng)的核心要義在于普惠。因此，教育者必須努力尋找和構(gòu)建一個適合絕大多數(shù)學(xué)生的技術(shù)路線，不僅要降低他們的學(xué)習(xí)曲線的陡峭程度，還應(yīng)使他們能運用工程化的方法完成具有挑戰(zhàn)性的成果。如何才能讓更多僅學(xué)習(xí)和實踐過有限的CPU知識的學(xué)生參與CPU設(shè)計呢？這就必須要進一步縮小教學(xué)與競賽的難度差。

在我們技術(shù)組幾位成員的“游說”下，汪老師勇挑重擔，用了一年多的時間為零基礎(chǔ)的讀者編寫了這本CPU設(shè)計實戰(zhàn)之書。這本書的獨特之處很多，印象最深的有以下幾點：

1）對初學(xué)者非常友好。這本書從介紹工業(yè)界真實的CPU設(shè)計流程開始，一步步帶領(lǐng)讀者從單周期CPU設(shè)計逐步深入到流水線、添加指令、增加異常與中斷的支持，并完成AXI總線接口、TLB MMU和Cache的設(shè)計，最終開發(fā)出一個入門級CPU。在此基礎(chǔ)上還可以增加指令、運行Linux，進一步完善CPU的功能和性能。讀者完全可以按照書中的指導(dǎo)設(shè)計出自己的CPU。

2）融入了很多工程經(jīng)驗。產(chǎn)品化的CPU開發(fā)要考慮很多工程因素、注意很多工程細節(jié)，這些知識通常在教科書中是不會講到的。汪老師結(jié)合自己豐富的開發(fā)經(jīng)驗，在書中給出了很多提示和指引來幫助讀者解決設(shè)計過程中那些看似不起眼但常常會困擾大家的問題。甚至對如何閱讀、理解指令系統(tǒng)規(guī)范，汪老師也分享了自己的經(jīng)驗。對于讀者來說，這些實踐中的真知灼見不僅對于設(shè)計CPU是非常寶貴的，對于未來的工作也具有重要的參考價值。

3）適合作為計算機組成、體系結(jié)構(gòu)相關(guān)課程的配套實踐教材。汪老師長期兼任國科大本科體系結(jié)構(gòu)課程的教師，深諳系統(tǒng)類課程實踐教學(xué)中的痛點和難點。本書很多素材來源于汪老師在教學(xué)中的實踐和思考。這套實踐方案很好地將理論課程中離散的知識點熔接為一套系統(tǒng)化的知識體系，從而有助于提升教學(xué)的質(zhì)量。

系統(tǒng)能力培養(yǎng)是計算機類專業(yè)的一次教育、教學(xué)改革的重大探索與實踐。面對正在或即將開展系統(tǒng)能力培養(yǎng)教學(xué)改革的眾多高校與任課教師，面對積極備戰(zhàn)全國大學(xué)生計算機系統(tǒng)能力大賽的廣大參賽選手，我們熱切期盼更多志同道合之士加入這個行列，將更多優(yōu)質(zhì)的教學(xué)資源提供給廣大學(xué)子。

祝各位閱讀愉快！

高小鵬

北京航空航天大學(xué)

PREFACE

前　　言

CPU，中文全稱為中央處理單元，簡稱處理器，是現(xiàn)代電子計算機的核心器件。如果你想了解一臺計算機是如何構(gòu)建并工作的，那么深入了解CPU的設(shè)計非常有用。不過，這個美好的愿望是否會遭遇“骨感”的現(xiàn)實呢？畢竟一談及CPU，大家馬上想到的是英特爾（Intel）、超微半導(dǎo)體（AMD）、蘋果（Apple）、安謀（ARM）、高通（Qualcomm）這些國際知名公司生產(chǎn)的產(chǎn)品，進而認為CPU設(shè)計是一件遙不可及的事情，普通學(xué)習(xí)者要想掌握它簡直就是天方夜譚。

那么CPU設(shè)計到底難不難呢？實話說，要做出具有世界一流水平的產(chǎn)品確實不容易。別看CPU個頭不大，它卻是一個復(fù)雜度極高的系統(tǒng)。設(shè)計CPU挑戰(zhàn)的是一個團隊進行復(fù)雜系統(tǒng)工程研發(fā)的能力。不過，從20世紀60年代第一款CPU問世至今，CPU設(shè)計所涉及的基本技術(shù)已經(jīng)很成熟了。同時，自動化設(shè)計工具的水平也有了大幅度提升。普通學(xué)習(xí)者想在CPU設(shè)計領(lǐng)域初窺堂奧，不再是無法實現(xiàn)的夢想。

本書作者在給新入行的工程師進行培訓(xùn)以及給高校學(xué)生授課的過程中，得到的反饋卻并不樂觀。對于大多數(shù)新手來說，設(shè)計一個入門級的CPU還是很有難度的。結(jié)合我們在研發(fā)工作中的成長經(jīng)歷，以及在培訓(xùn)和教學(xué)過程中獲得的反饋，我們認為最大的難點在于設(shè)計一個CPU需要綜合掌握多方面的知識，而初學(xué)者往往在“綜合”這個環(huán)節(jié)遇到了困難。毫不夸張地說，對于設(shè)計一個入門級CPU所需要的各方面知識，我們都能找出很多優(yōu)秀的教材、講義、論文、代碼。如果僅僅把這些資料交給一個初學(xué)者，讓他通過自學(xué)這些資料來設(shè)計CPU，那么能把CPU設(shè)計出來的只有少數(shù)“悟性高”的人。我們都知道，一個國家要想提高某項體育運動的水平，關(guān)鍵的因素是從事該項運動的人數(shù)足夠多。同理，要想在信息技術(shù)的核心領(lǐng)域做到世界一流，沒有一大批“懂行”的技術(shù)開發(fā)人員是很難實現(xiàn)的。面對當前急需芯片開發(fā)人才的形勢，要想在短時間內(nèi)培養(yǎng)出大量行業(yè)急需的高素質(zhì)人才，僅僅指望學(xué)習(xí)者自身“悟性高”是行不通的，需要找到行之有效的學(xué)習(xí)和訓(xùn)練方法。

本書作者所在的龍芯團隊自主研發(fā)CPU產(chǎn)品近20年，在CPU設(shè)計方面積累了豐富的實戰(zhàn)經(jīng)驗。在本書中，我們將結(jié)合自身的研發(fā)實踐，盡可能深入淺出地介紹如何從零開始一步步設(shè)計出一個入門級的CPU，以及在這個過程中應(yīng)該掌握哪些知識、遵守哪些設(shè)計原則、規(guī)避哪些設(shè)計風(fēng)險、使用哪些開發(fā)技巧。我們希望這些從工程實踐中總結(jié)的經(jīng)驗?zāi)茏鳛楦咝Ｕn程教學(xué)中知識講授環(huán)節(jié)的有益補充，幫助更多初學(xué)者更快、更扎實地掌握CPU設(shè)計的知識，具備CPU設(shè)計能力。

本書的內(nèi)容安排

本書分為三個部分。第1～3章為第一部分，介紹業(yè)界進行CPU研發(fā)的過程以及硬件/云端平臺、FPGA設(shè)計、Verilog等CPU設(shè)計中必要的基礎(chǔ)知識。第4～10章為第二部分。在第二部分，我們從設(shè)計一個簡單的單周期CPU開始，逐步引入流水線設(shè)計，添加指令，增加例外和中斷的支持，并完成AXI總線接口、TLB MMU和高速緩存（Cache）的設(shè)計與實現(xiàn)，最終完成一個入門級CPU的設(shè)計。這樣一個處理器核已經(jīng)不再是用來玩“過家家”游戲的玩具，而是一個能夠滿足絕大多數(shù)實際的嵌入式應(yīng)用場景需求、可以運行教學(xué)用的操作系統(tǒng)的真實產(chǎn)品。第11章為第三部分，在這里，我們會對一些進階設(shè)計內(nèi)容給出建議，例如會介紹如何在第二部分完成的產(chǎn)品基礎(chǔ)上添加少量的指令和功能，再在CPU上運行Linux內(nèi)核。

各章的內(nèi)容簡要介紹如下。

第1章介紹CPU芯片產(chǎn)品的研發(fā)過程，使讀者對CPU產(chǎn)品開發(fā)的全過程有初步的認識和了解，為后續(xù)各章的學(xué)習(xí)奠定基礎(chǔ)。

第2章介紹硬件實驗平臺及FPGA設(shè)計流程，包括“龍芯CPU設(shè)計與體系結(jié)構(gòu)教學(xué)實驗系統(tǒng)”硬件實驗平臺的介紹，以及FPGA的一般設(shè)計流程和基于Vivado工具的FPGA設(shè)計流程。

第3章介紹數(shù)字邏輯電路設(shè)計。這一章會結(jié)合CPU的實際設(shè)計開發(fā)工作，對如何使用Verilog代碼進行數(shù)字邏輯電路設(shè)計給出建議，并給出CPU設(shè)計中常用的數(shù)字邏輯電路的可綜合Verilog描述。此外，這一章還會介紹數(shù)字邏輯電路功能仿真中常見的錯誤及其調(diào)試方法。對于缺少電路仿真調(diào)試經(jīng)驗的初學(xué)者來說，這部分內(nèi)容具有很好的指導(dǎo)作用。

第4章介紹簡單流水線CPU設(shè)計。這一章將從一個支持19條指令的單周期CPU設(shè)計開始，先討論如何將其改造成不考慮相關(guān)沖突的流水線，然后考慮用阻塞解決相關(guān)沖突，最后引入數(shù)據(jù)前遞設(shè)計。在介紹設(shè)計方法的同時，這一章還對書中所采用的實驗開發(fā)環(huán)境進行介紹，并講解相關(guān)的仿真調(diào)試技術(shù)。

第5章介紹如何在流水線CPU中添加運算類指令。主要內(nèi)容包括如何在第4章完成的簡單流水線CPU基礎(chǔ)之上添加算術(shù)邏輯運算類指令、乘除法運算類指令，以及乘除法配套的數(shù)據(jù)搬運指令。

第6章介紹如何在流水線CPU中添加轉(zhuǎn)移指令和訪存指令。主要內(nèi)容包括如何在第5章完成的CPU基礎(chǔ)之上添加條件分支、間接跳轉(zhuǎn)和Link類轉(zhuǎn)移三類轉(zhuǎn)移指令，以及添加對齊與非對齊訪存指令。

第7章介紹例外和中斷。這一章首先對例外和中斷的基本概念，以及MIPS指令系統(tǒng)中的例外和中斷的定義進行簡要的梳理，然后介紹如何在第6章完成的CPU基礎(chǔ)之上添加對于例外和中斷的支持。CPU有了這兩部分的支持之后，就可以運行一些簡單的嵌入式操作系統(tǒng)了。

第8章介紹AXI總線接口設(shè)計。這一章首先對完成CPU設(shè)計所需要的AXI總線協(xié)議的相關(guān)內(nèi)容加以回顧，然后通過實現(xiàn)類SRAM總線接口、實現(xiàn)類SRAM-AXI轉(zhuǎn)接橋、集成類SRAM-AXI轉(zhuǎn)接橋三個階段性任務(wù)來完成CPU中AXI總線接口的添加。

第9章介紹TLB MMU的設(shè)計。這一章首先對TLB相關(guān)的知識點進行梳理，然后通過TLB模塊的設(shè)計實現(xiàn)、TLB相關(guān)CP0寄存器與指令的實現(xiàn)、將TLB模塊集成到流水線中完成虛實地址轉(zhuǎn)換功能并支持TLB例外這三個階段性任務(wù)來完成整個TLB MMU的設(shè)計。

第10章介紹高速緩存（Cache）設(shè)計。這一章只介紹最簡單的Cache設(shè)計，其設(shè)計任務(wù)同樣被分解成Cache模塊設(shè)計、Cache模塊集成、CACHE指令支持三個循序漸進的階段性任務(wù)。

第11章就一些進階設(shè)計問題給出我們的建議，主要涉及啟動內(nèi)核需要補充哪些設(shè)計、如何進一步提升主頻、如何進行超標量設(shè)計、如何設(shè)計動態(tài)調(diào)度機制、如何設(shè)計轉(zhuǎn)移預(yù)測器、如何優(yōu)化訪存性能、如何設(shè)計動態(tài)調(diào)度機制以及如何添加多核支持。

本書的附錄分別對本書案例相關(guān)的開發(fā)板、Vivado的安裝與進階使用、MIPS指令系統(tǒng)規(guī)范、在線調(diào)試等內(nèi)容進行了補充介紹。

可以看到，本書主體內(nèi)容是圍繞著一系列進階任務(wù)展開的。在第二部分的每一章中，都會給出有針對性的任務(wù)，同時給出與之對應(yīng)的知識點與設(shè)計建議。完成本書各章“任務(wù)與實踐”部分所需資源可登錄華章網(wǎng)站（www.hzbook.com）下載。我們希望讀者在時間和精力允許的情況下，先嘗試根據(jù)自己的想法完成設(shè)計任務(wù)，有了自己的深入思考和親身實踐后，再來看書中給出的講解，相信會有不一樣的體會，正所謂“不憤不啟，不悱不發(fā)”。之所以推薦這種比較“虐”自己的學(xué)習(xí)方式，源于作者在長期的研發(fā)工作中得到的一個感悟：好的工程師是bug“喂”出來的。對于CPU設(shè)計與開發(fā)這種工程性、實踐性極強的工作來說，眼觀千遍不如手過一遍。前輩們千叮嚀、萬囑咐不要犯的錯，非要自己錯過一次才能刻骨銘心；教科書上、論文中已經(jīng)寫得清清楚楚的設(shè)計思路，只有自己在設(shè)計的路上碰壁無數(shù)次之后才會有如獲至寶的欣喜。要想真正進入CPU設(shè)計的大門，僅僅靠坐在圖書館里看書幾十個小時是遠遠不夠的，它需要走路、吃飯甚至是睡覺的時候都在思考如何設(shè)計的那種“為伊消得人憔悴”，更需要通宵達旦調(diào)試的那份執(zhí)著與堅持。

致謝

本書的寫作得到了作者所任職的龍芯中科技術(shù)有限公司的大力支持。正是在多個部門的眾多同事的幫助之下，我們才能從零開始寫完本書并完成了所有的實驗任務(wù)的開發(fā)。在此感謝他們對本書無私的支持！特別感謝龍芯公司芯片研發(fā)部IP組的全體同事、通用事業(yè)部和教育事業(yè)部的同事們，沒有他們的辛勤付出，本書將無法面世。

我們非常感謝教育部高等學(xué)校計算機類專業(yè)教學(xué)指導(dǎo)委員會、系統(tǒng)能力培養(yǎng)教學(xué)研究專家組、機械工業(yè)出版社華章分社的各位專家和老師，感謝所有致力于我國大學(xué)生計算機系統(tǒng)能力培養(yǎng)的老師們，正是他們的滿腔熱情和不懈努力激勵著我們寫出這本書。我們衷心希望這本書能為我國大學(xué)生計算機系統(tǒng)能力培養(yǎng)事業(yè)盡一份綿薄之力。

我們還要特別感謝中國科學(xué)院大學(xué)參與計算機體系結(jié)構(gòu)研討課的同學(xué)們，以及歷屆“龍芯杯”全國大學(xué)生計算機系統(tǒng)能力培養(yǎng)大賽的參賽選手們，他們的反饋讓這本書的內(nèi)容更加充實和完整。

由于CPU設(shè)計和開發(fā)工作體系龐大、內(nèi)容繁多，盡管我們已經(jīng)盡力展現(xiàn)其中的核心內(nèi)容，但難免有掛一漏萬之處，懇請各位老師和讀者批評、指正。

作者