在大模型時(shí)代,南京大學(xué)的周志華教授專注于研發(fā)創(chuàng)新,他提出的“學(xué)件”理念正在機(jī)器學(xué)習(xí)領(lǐng)域引發(fā)變革。學(xué)件范式通過模型與規(guī)約的結(jié)合,構(gòu)建了學(xué)件基座系統(tǒng),簡(jiǎn)化用戶獲取和定制適合任務(wù)的模型過程。這個(gè)全新的平臺(tái)——北冥塢,作為首個(gè)開源的學(xué)件基座系統(tǒng),其37頁的論文揭示了其技術(shù)深度。
傳統(tǒng)機(jī)器學(xué)習(xí)面臨數(shù)據(jù)需求大、復(fù)用困難、適應(yīng)性差和隱私問題等挑戰(zhàn)。學(xué)件范式旨在通過統(tǒng)一的學(xué)件格式,解決這些問題,允許用戶無需數(shù)據(jù)共享就能利用全球開發(fā)者貢獻(xiàn)的模型。它通過模型規(guī)約保護(hù)數(shù)據(jù)隱私,用戶可以搜索和復(fù)用學(xué)件來完成任務(wù),無需擔(dān)心數(shù)據(jù)泄漏。
周志華團(tuán)隊(duì)構(gòu)建的北冥塢,作為學(xué)件范式的基礎(chǔ)研究平臺(tái),以可擴(kuò)展架構(gòu)和優(yōu)化工程實(shí)現(xiàn),支持模型提交、測(cè)試、管理和復(fù)用的全程。用戶只需幾行代碼,就能利用現(xiàn)有學(xué)件解決新任務(wù),顯著降低了開發(fā)復(fù)雜度。
盡管北冥塢當(dāng)前的學(xué)件庫尚有限,但它預(yù)示著未來學(xué)件范式將能更好地適應(yīng)多樣化的任務(wù)和場(chǎng)景,實(shí)現(xiàn)模型的高效復(fù)用和個(gè)性化定制。研究者強(qiáng)調(diào),通過持續(xù)的學(xué)件提交和算法提升,學(xué)件基座系統(tǒng)將不斷進(jìn)化,成為更多用戶任務(wù)的解決方案。
論文深入探討了北冥塢的設(shè)計(jì),包括其層次結(jié)構(gòu)、核心引擎(基于規(guī)約的學(xué)件管理)、后臺(tái)支持和用戶界面,展示了學(xué)件范式如何通過系統(tǒng)性管理和復(fù)用,為機(jī)器學(xué)習(xí)任務(wù)帶來顯著優(yōu)勢(shì)。
實(shí)驗(yàn)評(píng)估部分展示了學(xué)件在表格、圖像和文本數(shù)據(jù)上的性能,即使在數(shù)據(jù)有限的情況下,學(xué)件復(fù)用也表現(xiàn)出優(yōu)于自訓(xùn)練模型的性能。學(xué)件基座系統(tǒng)的潛力和實(shí)用性,為大模型時(shí)代的機(jī)器學(xué)習(xí)實(shí)踐提供了新的可能。