10月28日，第十九屆“挑戰(zhàn)杯”競(jìng)賽2025年度中國(guó)青年科技創(chuàng)新“揭榜掛帥”擂臺(tái)賽（以下簡(jiǎn)稱“挑戰(zhàn)杯”擂臺(tái)賽）落幕。憑借“推理大模型的訓(xùn)練調(diào)優(yōu)與性能加速助力全棧自主AI”項(xiàng)目，杭州電子科技大學(xué)卓越學(xué)院計(jì)算機(jī)科學(xué)英才班2022級(jí)本科生陳龍昊獲特等獎(jiǎng)，也是該賽道最年輕的選手之一。
除了“挑戰(zhàn)杯”特等獎(jiǎng)，陳龍昊此前還獲得中國(guó)高校機(jī)器人創(chuàng)意大賽全國(guó)一等獎(jiǎng)，并成功入圍國(guó)際電氣電子工程師學(xué)會(huì)（IEEE）人工智能電路與系統(tǒng)國(guó)際會(huì)議（AICAS）大挑戰(zhàn)，還在會(huì)上做了一個(gè)報(bào)告。
陳龍昊在IEEE人工智能電路與系統(tǒng)國(guó)際會(huì)議上做報(bào)告 受訪者供圖
“大模型推理優(yōu)化與算法加速是我的興趣所在，與其有關(guān)的學(xué)習(xí)、研究、競(jìng)賽都會(huì)讓我覺得奇妙無比。”陳龍昊向《中國(guó)科學(xué)報(bào)》講述了一個(gè)本科生跟算力較勁的故事。
觸類旁通
2024年寒假，陳龍昊偶然關(guān)注到阿里天池大數(shù)據(jù)平臺(tái)發(fā)布一則AICAS 2024大挑戰(zhàn)的消息，比賽主題是“通用算力大模型推理性能軟硬協(xié)同優(yōu)化”，吸引他的是：入圍團(tuán)隊(duì)可受邀參加國(guó)際會(huì)議并報(bào)銷差旅。
“既是學(xué)習(xí)機(jī)會(huì)，又能開闊眼界。”陳龍昊抱著這樣的初衷決定試一試。在參加比賽的過程中，他自學(xué)了大語(yǔ)言模型結(jié)構(gòu)、推理加速原理、量化方法以及主流推理引擎架構(gòu)，建立起完整的知識(shí)框架，并且結(jié)合硬件特性，提出了一種減少計(jì)算過程中指令的方法，加快了計(jì)算速度。
最終，陳龍昊所在團(tuán)隊(duì)從眾多高校和企業(yè)隊(duì)伍中脫穎而出，成功入圍并獲得三等獎(jiǎng)，開啟了他在大模型算力優(yōu)化方向的進(jìn)一步探索。
這場(chǎng)小試牛刀也為陳龍昊后續(xù)參加的多個(gè)關(guān)鍵項(xiàng)目打下堅(jiān)實(shí)基礎(chǔ)。在參加“挑戰(zhàn)杯”擂臺(tái)賽時(shí)，面對(duì)華為NPU（神經(jīng)網(wǎng)絡(luò)處理單元）平臺(tái)這一從未接觸過的硬件環(huán)境，他并未自亂陣腳，而是憑借此前對(duì)NVIDIA GPU（英偉達(dá)顯卡）軟硬件架構(gòu)的深入理解，快速識(shí)別出不同平臺(tái)之間的共性邏輯，僅用數(shù)小時(shí)便完成平臺(tái)遷移與初步部署。
“很多技術(shù)本質(zhì)相通，關(guān)鍵是能不能打通底層思維。”陳龍昊道出了成功的秘訣。
在“挑戰(zhàn)杯”擂臺(tái)賽中，真正的挑戰(zhàn)是，如何在有限資源下，訓(xùn)練出一個(gè)參數(shù)量小但精度高的模型。性能排名靠前的隊(duì)伍往往依賴龐大算力堆疊，而陳龍昊選擇走另一條路——從數(shù)據(jù)源頭入手。
他設(shè)計(jì)了一套基于AI Agent（人工智能智能體）的數(shù)據(jù)集生成與篩選系統(tǒng)，耗時(shí)近一個(gè)月，最終構(gòu)建出高質(zhì)量、高覆蓋率的訓(xùn)練數(shù)據(jù)集。這套系統(tǒng)不僅能自動(dòng)評(píng)估樣本有效性，還能根據(jù)反饋動(dòng)態(tài)調(diào)整生成策略，提升了模型泛化能力。
此外，陳龍昊還針對(duì)性改進(jìn)訓(xùn)練算法。在復(fù)賽階段雖性能略遜于部分對(duì)手，但其模型精度顯著領(lǐng)先，最終憑借綜合優(yōu)勢(shì)獲特等獎(jiǎng)。
用戶只需說出“水溫有點(diǎn)高”或“喂食時(shí)間到了”，系統(tǒng)即可自主響應(yīng)并執(zhí)行操作。這是在中國(guó)高校機(jī)器人創(chuàng)意大賽中，陳龍昊與團(tuán)隊(duì)隊(duì)員合作提出將大語(yǔ)言模型融入智能魚缸系統(tǒng)的創(chuàng)新構(gòu)想。
參加中國(guó)高校機(jī)器人創(chuàng)意大賽對(duì)陳龍昊來說是“臨危受命”，因?yàn)橛嘘?duì)員臨時(shí)退出，他迅速與另外兩名隊(duì)員合作補(bǔ)全視覺識(shí)別模塊，憑借融合自然語(yǔ)言交互的智能生態(tài)設(shè)計(jì)最終獲賽事一等獎(jiǎng)。
知行合一
作為一名本科生，陳龍昊以第一作者身份或參與發(fā)表了4篇論文，內(nèi)容涵蓋大模型壓縮、推理加速架構(gòu)設(shè)計(jì)及低資源微調(diào)技術(shù)、數(shù)值模擬等研究領(lǐng)域。
在為一個(gè)教育類大模型做總體算法架構(gòu)時(shí)，陳龍昊提出了一整套從數(shù)據(jù)生成、監(jiān)督微調(diào)到強(qiáng)化學(xué)習(xí)的完整訓(xùn)練流程。面對(duì)缺乏大規(guī)模標(biāo)注數(shù)據(jù)的困境，他啟用AI Agent技術(shù)，讓智能體先“理解”內(nèi)容輸出，再據(jù)此生成符合教育傳播規(guī)律的文本數(shù)據(jù)。
“我們要讓機(jī)器學(xué)會(huì)‘講故事’。”陳龍昊說。他通過構(gòu)建知識(shí)圖譜指導(dǎo)數(shù)據(jù)生成，并引入模型自判機(jī)制過濾低質(zhì)輸出，最終訓(xùn)練出的語(yǔ)言模型邏輯清晰，已在教學(xué)輔助、思政宣傳等多個(gè)場(chǎng)景試點(diǎn)應(yīng)用，獲得良好反饋。
“資源永遠(yuǎn)有限，但創(chuàng)造力可以無限。”陳龍昊認(rèn)為，“理論和實(shí)踐，就像人的兩條腿，缺一不可。”
陳龍昊不主張死記硬背公式，而是習(xí)慣“代入式思考”，把自己放在技術(shù)提出者的角色中，追問“當(dāng)時(shí)遇到了什么問題？為何要這樣解決？他說：“這種思維方式能穿透表象，抓住本質(zhì)，實(shí)現(xiàn)真正的融會(huì)貫通。”
“我不玩游戲，也不刷短視頻，省下來的時(shí)間都用來思考和做項(xiàng)目。”陳龍昊在實(shí)踐中也意識(shí)到，“不要在極度疲勞狀態(tài)下硬撐。”他自己曾因連續(xù)熬夜調(diào)試模型導(dǎo)致判斷失誤，后來學(xué)會(huì)在露營(yíng)、旅行等放松狀態(tài)下留白思考。
“最好的靈感，往往出現(xiàn)在放下壓力的那一刻。”一次野外露營(yíng)中，陳龍昊突然想到解決模型精度下降的新方案，當(dāng)即打開筆記本遠(yuǎn)程調(diào)試，次日結(jié)果驗(yàn)證成功。
面對(duì)失敗，陳龍昊有自己的對(duì)策：“十個(gè)方案九個(gè)不行，很正常。關(guān)鍵是不停嘗試。”在他看來，競(jìng)賽的意義不只是拿獎(jiǎng)，而是一個(gè)不斷試錯(cuò)、迭代認(rèn)知的過程。“每一次挫折都在加固技術(shù)底盤，為攻克下一個(gè)難題積蓄力量。”
本文鏈接：不玩游戲，不刷短視頻，一個(gè)本科生偏跟算力較勁http://www.sq15.cn/show-11-28084-0.html
聲明：本網(wǎng)站為非營(yíng)利性網(wǎng)站，本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 大學(xué)公共課，如何提升“含金量”