芯片和封裝級(jí)互連：現(xiàn)代計(jì)算系統(tǒng)的進(jìn)展與挑戰(zhàn)

逍遙設(shè)計(jì)自動(dòng)化 · 發(fā)表于 2024-10-3 08:01:00

引言
近年來(lái)，計(jì)算領(lǐng)域發(fā)生了巨大變化，通信已成為系統(tǒng)性能的主要瓶頸，而非計(jì)算本身。這一轉(zhuǎn)變使互連技術(shù) - 即實(shí)現(xiàn)計(jì)算系統(tǒng)各組件之間數(shù)據(jù)交換的通道 - 成為計(jì)算機(jī)架構(gòu)創(chuàng)新的焦點(diǎn)。本文探討了通用、專用和量子計(jì)算系統(tǒng)中芯片和封裝級(jí)互連的最新進(jìn)展，并強(qiáng)調(diào)了這一快速發(fā)展領(lǐng)域的關(guān)鍵技術(shù)、挑戰(zhàn)和機(jī)遇[1]。

+ P; ?7 h# n" v6 Q: s
關(guān)鍵互連技術(shù)
現(xiàn)代互連技術(shù)不斷發(fā)展，以滿足復(fù)雜計(jì)算系統(tǒng)日益增長(zhǎng)的需求。以下是一些塑造互連技術(shù)未來(lái)的關(guān)鍵技術(shù)：

1. 金屬線：傳統(tǒng)的基于銅的互連仍在嵌入式和移動(dòng)系統(tǒng)中廣泛使用。然而，隨著晶體管尺寸的減小，這些線路面臨著電阻和電容增加的挑戰(zhàn)，導(dǎo)致延遲和功耗增加。

2. 納米光電子技術(shù)：光學(xué)互連提供高帶寬密度和光速傳播。最近的突破，如世界首個(gè)由光學(xué)片上網(wǎng)絡(luò)（ONoC）驅(qū)動(dòng)的多核系統(tǒng)Hummingbird，展示了這項(xiàng)技術(shù)在高性能計(jì)算和人工智能應(yīng)用中的潛力。

圖1：Hummingbird的頂視圖和橫截面視圖，展示了光電子和電子芯片在單個(gè)封裝中的集成。

3. 無(wú)線技術(shù)：無(wú)線互連使用射頻信號(hào)進(jìn)行數(shù)據(jù)傳輸，在靈活性和減少布線復(fù)雜性方面具有潛在優(yōu)勢(shì)。雖然尚未在工業(yè)中廣泛采用，但研究繼續(xù)探索其潛力，特別是在太赫茲范圍內(nèi)。

4. 2D、2.5D和3D集成：先進(jìn)的封裝技術(shù)，如chiplet、硅通孔（TSV）和硅中介層，實(shí)現(xiàn)了半導(dǎo)體器件更高效的集成。這些技術(shù)解決了傳統(tǒng)2D擴(kuò)展的限制，為高性能、節(jié)能系統(tǒng)提供了新的可能性。

圖2：通過(guò)(a)硅中介層和(b)硅橋互連的兩個(gè)芯片的橫截面示意圖，說(shuō)明了不同的2.5D集成方法。

通用架構(gòu)中的互連
通用處理器已經(jīng)發(fā)展到包含多核設(shè)計(jì)和chiplet架構(gòu)，以提高性能和可擴(kuò)展性。該領(lǐng)域的主要發(fā)展包括：

1. 基于網(wǎng)格的互連：在多核系統(tǒng)中很受歡迎，網(wǎng)格網(wǎng)絡(luò)以網(wǎng)格模式連接核心，提供高路徑多樣性和可擴(kuò)展性。例如英特爾至強(qiáng)處理器和ARM的Neoverse CMN-700。

2. 基于Chiplet的設(shè)計(jì)：AMD的EPYC處理器使用通過(guò)AMD Infinity Fabric互連的chiplet，而英特爾采用超路徑互連（UPI）實(shí)現(xiàn)可擴(kuò)展的多處理器系統(tǒng)。

3. 光學(xué)計(jì)算互連：英特爾最近的突破，光學(xué)計(jì)算互連（OCI），將硅基光電子與先進(jìn)的CMOS技術(shù)集成，實(shí)現(xiàn)了chiplet之間的高帶寬、低延遲通信。

圖3：英特爾OCI的頂視圖和橫截面視圖，展示了光電子和電子組件的集成。

緩存一致性互連
在多核系統(tǒng)中維護(hù)緩存一致性對(duì)于在多個(gè)緩存中保持一致的內(nèi)存視圖至關(guān)重要。最近的創(chuàng)新包括：

1. 無(wú)線緩存一致性：WiDir協(xié)議利用無(wú)線片上網(wǎng)絡(luò)（WiNoC）技術(shù)增強(qiáng)多核系統(tǒng)中的緩存一致性。

圖4：WiDir的頂視圖和橫截面視圖，說(shuō)明了用于緩存一致性的無(wú)線天線的集成。

2. 行業(yè)標(biāo)準(zhǔn)：ARM的AMBA一致性集線器接口（CHI）和Arteris的Ncore緩存一致性互連為設(shè)計(jì)高效的緩存一致性系統(tǒng)提供了框架。

安全互連
隨著安全性在現(xiàn)代計(jì)算系統(tǒng)中變得越來(lái)越關(guān)鍵，互連設(shè)計(jì)正在不斷發(fā)展以應(yīng)對(duì)各種威脅：

1. 拒絕服務(wù)（DoS）防護(hù)：如SECTAR等技術(shù)提出動(dòng)態(tài)屏蔽方法，在片上網(wǎng)絡(luò)（NoC）環(huán)境中隔離硬件特洛伊木馬并重新路由受影響的數(shù)據(jù)包。

圖5：SECTAR中攻擊及其對(duì)策的示意圖，展示了安全NoC路由的概念。

2. 側(cè)信道攻擊緩解：實(shí)施側(cè)信道感知加密、安全通信協(xié)議和物理安全措施有助于防止通過(guò)互連泄露信息。

8 ~& }9 h* e' u; H- S5 m
專用架構(gòu)中的互連
為人工智能、機(jī)器學(xué)習(xí)和其他專門應(yīng)用量身定制的專用架構(gòu)（DSA）需要?jiǎng)?chuàng)新的互連解決方案：

1. 基于陣列的互連：在深度神經(jīng)網(wǎng)絡(luò)（DNN）加速器中很常見，這些互連實(shí)現(xiàn)了高效的數(shù)據(jù)重用。谷歌的張量處理單元（TPU）使用脈動(dòng)陣列進(jìn)行矩陣乘法運(yùn)算。

2. 基于網(wǎng)格的NoC：Cerebras的晶圓級(jí)引擎和Eyeriss-v2采用網(wǎng)格網(wǎng)絡(luò)來(lái)支持DNN中復(fù)雜的通信模式。

3. 可重構(gòu)互連：如MAERI等設(shè)計(jì)提供了靈活性，以支持DNN工作負(fù)載中的多種數(shù)據(jù)流。

4. 高帶寬內(nèi)存（HBM）集成：先進(jìn)的封裝技術(shù)實(shí)現(xiàn)了HBM與處理器的集成，顯著提高了內(nèi)存帶寬和能效。

存內(nèi)計(jì)算（IMC）互連
IMC技術(shù)將處理能力集成到內(nèi)存中，以減少數(shù)據(jù)移動(dòng)瓶頸：

交叉開關(guān)陣列：用于模擬IMC核心，這些陣列擅長(zhǎng)矩陣向量乘法，適用于DNN加速器。

網(wǎng)格網(wǎng)絡(luò)：用于互連多個(gè)IMC核心，如Mythic的AMP tile所示。

無(wú)線封裝內(nèi)網(wǎng)絡(luò)：最近的研究探索了用于互連IMC核心的無(wú)線通信，如WHYPE架構(gòu)所示。
[/ol]

圖6：WHYPE的頂視圖和橫截面視圖，展示了用于互連IMC核心的無(wú)線封裝內(nèi)網(wǎng)絡(luò)設(shè)計(jì)。

量子計(jì)算架構(gòu)中的互連
隨著量子計(jì)算的發(fā)展，互連在這些系統(tǒng)的擴(kuò)展中扮演著關(guān)鍵角色：

1. 低溫射頻互連：對(duì)于控制和讀取量子比特狀態(tài)至關(guān)重要，隨著量子比特?cái)?shù)量的增加，這些互連面臨著布線復(fù)雜性和帶寬限制的挑戰(zhàn)。

2. 微波和光子鏈路：用于模塊化多核量子架構(gòu)中的量子核心互連。

3. 無(wú)線低溫互連：最近的研究提出將片上低溫天線與射頻收發(fā)器集成，在量子計(jì)算封裝內(nèi)創(chuàng)建靈活、可重構(gòu)的網(wǎng)絡(luò)。

圖7：無(wú)線低溫互連在量子計(jì)算系統(tǒng)中的愿景，說(shuō)明了量子處理器封裝內(nèi)無(wú)線通信的概念。

挑戰(zhàn)與機(jī)遇
隨著互連技術(shù)的不斷進(jìn)步，出現(xiàn)了幾個(gè)挑戰(zhàn)和機(jī)遇：

挑戰(zhàn)：
1. 剛性的封裝內(nèi)網(wǎng)絡(luò)（NiP）設(shè)計(jì)難以滿足多樣化的chiplet互連需求
2. 異構(gòu)計(jì)算系統(tǒng)中的時(shí)序和同步問(wèn)題
3. 各種互連技術(shù)中的安全漏洞
4. 基于網(wǎng)格的互連中的高通信延遲
5. 邊緣設(shè)備的能源和功率限制
6. 基于IMC的加速器的帶寬限制
7. 擴(kuò)展量子系統(tǒng)的同時(shí)保持量子比特相干性并最小化串?dāng)_

機(jī)遇：
1. 開發(fā)針對(duì)特定應(yīng)用需求的專用互連
2. 探索無(wú)線封裝內(nèi)網(wǎng)絡(luò)，實(shí)現(xiàn)靈活、高帶寬通信
3. 先進(jìn)的網(wǎng)絡(luò)接口，集成協(xié)議適應(yīng)性和服務(wù)質(zhì)量功能
4. 用于安全互連的輕量級(jí)加密和身份驗(yàn)證協(xié)議
5. 可重構(gòu)互連，支持多樣化數(shù)據(jù)流和改善資源利用率
6. 近似計(jì)算技術(shù)，提高性能和能效
7. 利用光電子技術(shù)和無(wú)線技術(shù)的創(chuàng)新量子互連
8. 量子硬件-軟件協(xié)同設(shè)計(jì)方法，優(yōu)化系統(tǒng)性能

結(jié)論
芯片和封裝級(jí)互連領(lǐng)域正在快速發(fā)展，以滿足現(xiàn)代計(jì)算系統(tǒng)的需求。從通用處理器到專用加速器和量子計(jì)算機(jī)，互連技術(shù)正在推動(dòng)性能、效率和可擴(kuò)展性的邊界。隨著研究人員和工程師在這一領(lǐng)域不斷創(chuàng)新，可以期待看到更多突破性的發(fā)展，塑造計(jì)算機(jī)架構(gòu)的未來(lái)。

參考文獻(xiàn)
[1] Das, M. Palesi, J. Kim and P. P. Pande, "Chip and Package-Scale Interconnects for General-Purpose, Domain-Specific, and Quantum Computing Systems—Overview, Challenges, and Opportunities," in IEEE Journal on Emerging and Selected Topics in Circuits and Systems, vol. 14, no. 3, pp. 354-370, September 2024.

- END -

軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)

歡迎轉(zhuǎn)載

轉(zhuǎn)載請(qǐng)注明出處，請(qǐng)勿修改內(nèi)容和刪除作者信息！

( C3 ?. W# f! \9 d& X8 A

關(guān)注我們

4 [; j6 r' e- }* m+ ]: g- a

關(guān)于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。

http://www.latitudeda.com/
（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）

芯片和封裝級(jí)互連：現(xiàn)代計(jì)算系統(tǒng)的進(jìn)展與挑戰(zhàn)

發(fā)表回復(fù)

精選推薦