登錄網站,點擊鼠標,人坐在實驗室里,就可以輕松將算法和數據傳到20多公里外的智算中心,開始大模型訓練。4月25日,在武漢大學智能感知與機器學習實驗室,智能交互方向負責人蔡賢濤教授向筆者介紹:“使用中國電信中部智算中心的算力進行多模態(tài)醫(yī)學大模型的開發(fā)訓練,就像網購一樣方便快捷?!?/p>
蔡教授和團隊成員們正在研發(fā)參數數據規(guī)模為13B的中文醫(yī)學多模態(tài)大模型,據他介紹:“這個項目的數據如果用普通的網絡傳的話,傳輸的時間可能按月來計算了,但是我們用中國電信中部智算中心的平臺,幾天的時間就已經把所有數據全部傳上去做訓練,做訓練的過程也是非常的平穩(wěn)、絲滑!”
良好的算力體驗,平穩(wěn)絲滑的感受,來自于中國電信中部智算中心的算力運力存力融合一體化、以高性能算力為主的多元算力基礎設施體系。通過強大的網絡運力,形成了一朵線上的算力云。一臺臺用于計算的服務器,都通過高性能網絡連接了起來,用戶只要有網絡,就可以遠程調用算力。計算的過程中,海量的數據也能平穩(wěn)高效地在服務器間傳輸。
據天翼云湖北分公司專家介紹:中國電信中部智算中心的液冷服務器采用RoCE協(xié)議,支持直接內存訪問,具有高帶寬、低時延的特點,液冷區(qū)的計算節(jié)點間、計算與存儲節(jié)點之間均為200G互聯(lián),風冷區(qū)通過IB技術組網,高帶寬、低時延,且穩(wěn)定性高,是目前用于GPU服務器的首選網絡互聯(lián)技術。計算節(jié)點之間的網絡鏈路為400G,計算節(jié)點與存儲節(jié)點間的鏈路為200G。高速網絡將 AI服務器、通算服務器、存儲服務器等通過交換機和路由聚合在一起,構建一個統(tǒng)一的算力集群,再利用光纖和最先進的路由器接入到中國電信的網絡里面,用戶只要接入到互聯(lián)網,就可以像用水用電一樣隨時訪問、調取。
在今年全國人大會議期間,全國人大代表,湖北電信黨委書記、總經理張敏建議,加快構建全國一體化算力協(xié)同調度平臺,實現需求和供給的精準對接,讓算力像水電煤氣網一樣“隨時隨地、即取即用”。加快行業(yè)數據開放共享,發(fā)揮我國海量數據規(guī)模和豐富場景優(yōu)勢,通過多場景應用、多元數據融合,以量變引發(fā)質變,賦能現代化產業(yè)體系建設,推動新質生產力勃發(fā)。