近日，暨南大學(xué)信息科學(xué)技術(shù)學(xué)院AntLab實(shí)驗(yàn)室崔林教授課題組的論文被IEEE計(jì)算機(jī)通信國際會(huì)議INFOCOM收錄。INFOCOM全稱為IEEE International Conference on Computer Communications，是IEEE組織在通信網(wǎng)絡(luò)領(lǐng)域的旗艦性會(huì)議，也是國際通信網(wǎng)絡(luò)領(lǐng)域的一大標(biāo)志性會(huì)議（CCF推薦A類會(huì)議），具有極高的影響力，是全球網(wǎng)絡(luò)通信領(lǐng)域?qū)W者每年一度的盛會(huì)。INFOCOM 2025年的論文接受率僅為272/1458 = 18.65%。

      該論文由AntLab實(shí)驗(yàn)室的學(xué)生張邁（第一作者）和張效銓博士等合作完成，崔林教授為通訊作者，并與英國拉夫堡大學(xué)（LoughboroughUniversity）研究團(tuán)隊(duì)開展合作。張邁同學(xué)是暨南大學(xué)信息科學(xué)技術(shù)學(xué)院碩士二年級學(xué)生，其研究方向聚焦于可編程數(shù)據(jù)平面與機(jī)器學(xué)習(xí)的深度融合。張效銓博士主要從事P4與可編程網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)與智能網(wǎng)絡(luò)等領(lǐng)域的研究，發(fā)表論文8篇，其中CCF推薦A類論文4篇。

      人工智能技術(shù)的快速發(fā)展對網(wǎng)絡(luò)基礎(chǔ)設(shè)施帶來了新的需求。以可編程數(shù)據(jù)平面（ProgrammableDataPlane,PDP）為核心的可編程網(wǎng)絡(luò)技術(shù)，通過開放可編程交換ASIC芯片的計(jì)算資源，利用其靈活可編程能力和高速數(shù)據(jù)轉(zhuǎn)發(fā)能力（Tbps級別的帶寬、納秒級的延遲），實(shí)現(xiàn)了對網(wǎng)絡(luò)流量的線速處理。智能數(shù)據(jù)平面（IntelligentDataPlane,IDP）則通過在PDP上部署機(jī)器學(xué)習(xí)模型，將PDP的高速數(shù)據(jù)包處理能力與機(jī)器學(xué)習(xí)的智能分析能力相結(jié)合，從而實(shí)現(xiàn)了更高效、更智能的網(wǎng)絡(luò)管理與優(yōu)化。

      但是，在可編程交換ASIC芯片上實(shí)現(xiàn)復(fù)雜機(jī)器學(xué)習(xí)模型，如卷積神經(jīng)網(wǎng)絡(luò)（CNN）等，還面臨諸多挑戰(zhàn)。這主要是由于ASIC芯片的硬件Pipeline架構(gòu)（如PISA）缺乏對浮點(diǎn)運(yùn)算、乘法和除法的支持，以及Pipeline資源受限且不支持循環(huán)操作等。現(xiàn)有工作主要研究決策樹等簡單的機(jī)器學(xué)習(xí)模型，或者需要依賴額外設(shè)備（如FPGA）。本文克服了上述挑戰(zhàn)，提出的Quark是首個(gè)完全在可編程交換ASIC芯片上實(shí)現(xiàn)CNN的工作。

論文針對可編程交換ASIC芯片硬件資源受限問題，提出了一種結(jié)合模型壓縮技術(shù)的優(yōu)化框架Quark實(shí)現(xiàn)了CNN模型在可編程交換ASIC芯片上的部署，并保證了CNN模型的高精度和低延遲推理。針對硬件Pipeline架構(gòu)管道（如PISA）不支持浮點(diǎn)運(yùn)算的問題，Quark提出了量化模塊，將CNN的卷積層和全連接層的參數(shù)從高精度浮點(diǎn)數(shù)（如Float32）轉(zhuǎn)換為低精度的定點(diǎn)整數(shù)（如INT8）。量化模塊通過統(tǒng)計(jì)比例因子和零點(diǎn)，將浮點(diǎn)數(shù)映射到定點(diǎn)整數(shù)范圍內(nèi)，確保量化前后數(shù)值關(guān)系的一致性。量化后的模型能夠顯著降低硬件推理的計(jì)算復(fù)雜度，同時(shí)保持較低的精度損失。

      在神經(jīng)網(wǎng)絡(luò)推理工作流中，Quark設(shè)計(jì)了一個(gè)由解析器、反解析器、MATs和ALUs等多個(gè)基本操作組成的CNN推理模型。由于CNN的部分推理流程具有共性，可被抽象為多個(gè)基本單元組成的模塊化模型。針對PDP平臺支持的計(jì)算依賴鏈長度有限的問題，Quark提出了基于單元的模塊化CNN部署架構(gòu)。通過在數(shù)據(jù)平面中部署CNN單元，并利用數(shù)據(jù)包克隆和循環(huán)操作在流水線內(nèi)邏輯重組多個(gè)單元，Quark能夠完成復(fù)雜計(jì)算（如卷積操作）。解析器和反解析器負(fù)責(zé)數(shù)據(jù)包頭的解析和循環(huán)操作的執(zhí)行。推理完成后，流水線會(huì)更新流索引中的預(yù)測結(jié)果。

      特別地，本論文在基于Tofino ASIC芯片（3.2Tbps、12 stage pipeline），實(shí)現(xiàn)了Quark的原型系統(tǒng)的部署。實(shí)驗(yàn)結(jié)果表明Quark在卷積層和全連接層矩陣運(yùn)算量化中的有效性，以及模塊化CNN部署的靈活性，為資源受限場景下的CNN推理優(yōu)化提供了全新的解決方案。