10月28日,第十九届“挑战杯”竞赛2025年度中国青年科技立异“揭榜挂帅”擂台赛(如下简称“挑战杯”擂台赛)落幕。依附“推理年夜模子的练习调优与机能加快助力全栈自立AI”项目,杭州电子科技年夜学卓着学院计较机科学英才班2022级本科生陈龙昊获特等奖,也是该赛道最年青的选手之一。 除了了“挑战杯”特等奖,陈龙昊此前还有得到中国高校呆板人创意年夜赛天下一等奖,并乐成入围国际电气电子工程师学会(IEEE)人工智能电路与体系国际集会(AICAS)年夜挑战,还有于会上做了一个陈诉。 陈龙昊于IEEE人工智能电路与体系国际集会上做陈诉 受访者供图 “年夜模子推理优化与算法加快是我的兴致地点,与其有关的进修、研究、竞赛城市让我感觉奇奥无比。”陈龙昊向《中国科学报》讲述了一个本科生跟算力较量的故事。 举一反三 2024年寒假,陈龙昊偶尔存眷到阿里天池年夜数据平台发布一则AICAS 2024年夜挑战的动静,角逐主题是“通用算力年夜模子推理机能软硬协同优化”,吸引他的是:入围团队可受邀到场国际集会并报销差旅。 “既是进修时机,又能坦荡眼界。”陈龙昊抱着如许的初志决议试一试。于到场角逐的历程中,他自学了年夜语言模子布局、推理加快道理、量化要领以和主流推理引擎架构,成立起完备的常识框架,而且联合硬件特征,提出了一种削减计较历程中指令的要领,加速了计较速率。 终极,陈龙昊地点团队从浩繁高校及企业步队中脱颖而出,乐成入围并得到三等奖,开启了他于年夜模子算力优化标的目的的进一步摸索。 这场小试牛刀也为陈龙昊后续到场的多个要害项目打下坚实基础。于到场“挑战杯”擂台赛时,面临华为NPU(神经收集处置惩罚单位)平台这一从未接触过的硬件情况,他并未自乱阵脚,而是依附此前对于NVIDIA GPU(英伟达显卡)软硬件架构的深切理解,快速辨认出差别平台之间的共性逻辑,仅用数小时便完成平台迁徙与开端部署。 “许多技能素质相通,要害是能不克不及买通底层思维。”陈龙昊道出了乐成的法门。 于“挑战杯”擂台赛中,真实的挑战是,怎样于有限资源下,练习出一个参数目小但精度高的模子。机能排名靠前的步队往往依靠重大算力重叠,而陈龙昊选择走另外一条路——从数据源头入手。 他设计了一套基在AI Agent(人工智能智能体)的数据集天生与筛选体系,耗时近一个月,终极构建出高质量、高笼罩率的练习数据集。这套体系不仅能主动评估样本有用性,还有能按照反馈动态调解天生计谋,晋升了模子泛化能力。 此外,陈龙昊还有针对于性改良练习算法。于复赛阶段虽机能略逊在部门敌手,但其模子精度显著领先,终极依附综合上风获特等奖。 用户只需说出“水温有点高”或者“喂食时间到了”,体系便可自立相应并履行操作。这是于中国高校呆板人创意年夜赛中,陈龙昊与团队队员互助提出将年夜语言模子融入智能鱼缸体系的立异构思。 到场中国高校呆板人创意年夜赛对于陈龙昊来讲是“临危受命”,由于有队员姑且退出,他迅速与别的两名队员互助补全视觉辨认模块,依附交融天然语言交互的智能生态设计终极获赛事一等奖。 知行合一 作为一位本科生,陈龙昊以第一作者身份或者介入发表了4篇论文,内容涵盖年夜模子压缩、推理加快架构设计和低资源微调技能、数值模仿等研究范畴。 于为一个教诲类年夜模子做整体算法架构时,陈龙昊提出了一整套从数据天生、监视微调到强化进修的完备练习流程。面临缺少年夜范围标注数据的困境,他启用AI Agent技能,让智能体先“理解”内容输出,再据今生成切合教诲流传纪律的文本数据。 “咱们要让呆板学会‘讲故事’。”陈龙昊说。他经由过程构建常识图谱引导数据天生,并引入模子自判机制过滤低质输出,终极练习出的语言模子逻辑清楚,已经于讲授辅助、思政宣传等多个场景试点运用,得到优良反馈。 “资源永远有限,但创造力可以无穷。”陈龙昊认为,“理论及实践,就像人的两条腿,缺一不成。” 陈龙昊不主意死记硬违公式,而是习气“代入式思索”,把本身放于技能提出者的脚色中,追问“其时碰到了甚么问题?为什么要如许解决?他说:“这类思维方式能穿透表象,捉住素质,实现真实的畅通领悟领悟。” “我不玩游戏,也不刷短视频,省下来的时间都用来思索及做项目。”陈龙昊于实践中也意想到,“不要于极端疲惫状况下硬撑。”他本身曾经因持续熬夜调试模子致使判定掉误,厥后学会于露营、旅行等放松状况下留白思索。 “最佳的灵感,往往呈现于放下压力的那一刻。”一次野外露营中,陈龙昊忽然想到解决模子精度降落的新方案,立即打开条记本长途调试,越日成果验证乐成。 面临掉败,陈龙昊有本身的对于策:“十个方案九个不行,很正常。要害是不断测验考试。”于他看来,竞赛的意义不只是拿奖,而是一个不停试错、迭代认知的历程。“每一一次挫折都于加固技能底盘,为霸占下一个难题积贮气力。”