AI大模型作為最新的通用技術(shù),今年以來的發(fā)展,如火如荼。也有很多從業(yè)者和專家注意到,AI模型訓(xùn)練和應(yīng)用過程中,需要優(yōu)先考慮網(wǎng)絡(luò)的升級與適配。
如果說,數(shù)據(jù)中心、算力集群,是AI的“心臟”,那么網(wǎng)絡(luò)就猶如AI的“動(dòng)脈”,擔(dān)負(fù)著算力、數(shù)據(jù)等生產(chǎn)資源的“血液循環(huán)”。
AI技術(shù)的應(yīng)用與落地,AI算力必須像水、電一樣隨時(shí)取用,要實(shí)現(xiàn)這一目標(biāo),網(wǎng)絡(luò)聯(lián)接是核心要素。
近年來,各家基礎(chǔ)設(shè)施服務(wù)商也都在為AI的廣泛應(yīng)用,進(jìn)行緊鑼密鼓地布局。其中,新華三集團(tuán)憑借在企業(yè)網(wǎng)絡(luò)領(lǐng)域20多年的深厚積累,針對AI大模型和AIGC浪潮,有著自己的體系化思考,也布局了很多技術(shù)。
與AI計(jì)算力相適配的網(wǎng)絡(luò)基礎(chǔ)、技術(shù)體系、服務(wù)模式,我們從新華三的思考出發(fā),去讀懂智能時(shí)代的中國脈動(dòng)。
修煉內(nèi)力:AI大模型的泵血機(jī)制
AI大模型代表了最新的數(shù)字生產(chǎn)力,我們從AI機(jī)制出發(fā),去理解網(wǎng)絡(luò)所代表的聯(lián)接力,為什么是AI時(shí)代不可或缺的“內(nèi)力”。
先問個(gè)問題,當(dāng)下AI大模型的瓶頸,是買不到GPU卡嗎?不,是網(wǎng)絡(luò)傳輸。
首先是造血——訓(xùn)練大模型,網(wǎng)絡(luò)是“AI心臟“的主動(dòng)脈。
OpenAI的一份內(nèi)部報(bào)告中提到,跨服務(wù)器數(shù)據(jù)傳輸,是超大模型訓(xùn)練的最大瓶頸。
這是因?yàn)椋珹I 大模型通常需要部署在 AI 計(jì)算集群,以實(shí)現(xiàn)訓(xùn)練和推理加速。為了減少訓(xùn)練時(shí)間,通常會(huì)采用多 GPU 分布式訓(xùn)練,而多臺(tái)設(shè)備上的并行訓(xùn)練,必須解決服務(wù)器間的通信瓶頸,這也就對網(wǎng)絡(luò)帶寬性能提出更高要求。
傳統(tǒng)網(wǎng)絡(luò)并不是以AI大模型所需要的大流量、超高吞吐、超低時(shí)延傳輸為目標(biāo)設(shè)計(jì)的,只能提供“盡力而為”的聯(lián)接,面對這一波AIGC浪潮,可能導(dǎo)致大量延遲、傳輸速率不穩(wěn)定、運(yùn)維成本過高等問題。
如果說AI算力集群是大模型的“心臟”,網(wǎng)絡(luò)作為“主動(dòng)脈”,必須擴(kuò)容,才能泵出極致算力。
其次是輸血——使用大模型,網(wǎng)絡(luò)是抵達(dá)末梢的“血管”。
AI大模型和AIGC應(yīng)用,最終都要抵達(dá)百行百業(yè),轉(zhuǎn)化為實(shí)際的生產(chǎn)力。從算力集群的“心臟”到各行業(yè)應(yīng)用場景的“四肢百骸”,網(wǎng)絡(luò)需求更加復(fù)雜、嚴(yán)苛。
在東數(shù)西算的大背景下,算力集中可以讓企業(yè)更低成本地獲取算力,同時(shí)也需要一張跨地區(qū)的廣域網(wǎng)絡(luò),來完成大容量與突發(fā)性的業(yè)務(wù)數(shù)據(jù)傳輸,以及算力的協(xié)調(diào)調(diào)度。同時(shí),隨著企業(yè)業(yè)務(wù)上云成為主流,生產(chǎn)設(shè)備以IP化進(jìn)行聯(lián)網(wǎng)的情況增多,AI應(yīng)用最終要依靠大量物聯(lián)網(wǎng)設(shè)備來發(fā)揮效應(yīng),比如智能攝像頭、傳感器,因此AI的傳送也要將IP網(wǎng)絡(luò)納入考量。
AI場景應(yīng)用在各個(gè)角落,比如街道、公路卡口等,AI模型應(yīng)用和產(chǎn)業(yè)數(shù)字化要直接抵達(dá)應(yīng)用層,IP網(wǎng)絡(luò)是應(yīng)用范圍最廣的網(wǎng)絡(luò)解決方案,是其他網(wǎng)絡(luò)難以替代的。
網(wǎng)絡(luò)體系全面升級,企業(yè)才能用好AI大模型,通過數(shù)字化、智能化脫胎換骨。
然后是管理——網(wǎng)絡(luò)能效最優(yōu),產(chǎn)業(yè)AI健康發(fā)展。
正如人體不能一直處于亢奮,會(huì)根據(jù)運(yùn)動(dòng)的激烈程度,自動(dòng)調(diào)節(jié)身體機(jī)能,從而維持長期健康,AI也是如此。新型AI基礎(chǔ)設(shè)施是一個(gè)橫跨東西、支撐各行業(yè)數(shù)字化的大型工程,將帶來巨大的網(wǎng)絡(luò)迭代、系統(tǒng)維護(hù)等投入,如何平衡好能耗、運(yùn)維等成本,也是一個(gè)需要解答的問題。
可以看到,AI時(shí)代的網(wǎng)絡(luò)體系與架構(gòu),更復(fù)雜、更多元。要將AI的技術(shù)紅利和算力價(jià)值,精準(zhǔn)而無損地輸送到各行各業(yè),給網(wǎng)絡(luò)帶來了極大的挑戰(zhàn)。
面對勢在必行的網(wǎng)絡(luò)供給側(cè)改革,新華三找到了“伐筋洗髓”的路徑。
打通經(jīng)脈:新華三的網(wǎng)絡(luò)供給側(cè)改革
看過武俠小說的都知道,內(nèi)力充足,但經(jīng)脈細(xì)弱,結(jié)果常常是走火入魔。AI時(shí)代的充沛算力和應(yīng)用,必須奔涌在一張前所未有的強(qiáng)大網(wǎng)絡(luò)上。一場網(wǎng)絡(luò)聯(lián)接的供給側(cè)改革,勢在必行。
新華三集團(tuán)副總裁、網(wǎng)絡(luò)產(chǎn)品線總裁曾富貴,分享了AI時(shí)代,網(wǎng)絡(luò)領(lǐng)域的五大技術(shù)趨勢。從中,我們可以看到網(wǎng)絡(luò)供給側(cè)改革,是一個(gè)環(huán)環(huán)相扣、淬煉筋骨的進(jìn)程。
新華三集團(tuán)副總裁、網(wǎng)絡(luò)產(chǎn)品線總裁曾富貴
第一步,業(yè)務(wù)快速迭代。
各行各業(yè)的數(shù)字化轉(zhuǎn)型在加速,拓展了一些新的產(chǎn)業(yè)賽道,比如工業(yè)互聯(lián)網(wǎng)、網(wǎng)聯(lián)汽車等,傳統(tǒng)產(chǎn)業(yè)的數(shù)字化、智能化升級,是網(wǎng)絡(luò)供給側(cè)改革的核心需求,也是技術(shù)升級迭代的起點(diǎn)。
聯(lián)接力作為生產(chǎn)力,使能各行業(yè)數(shù)字化、智能化產(chǎn)業(yè),需要一張更高質(zhì)量的網(wǎng)絡(luò)。
包括高可靠性,以確保大量數(shù)字化業(yè)務(wù)的穩(wěn)定運(yùn)行;高性能,支撐海量數(shù)據(jù)的傳輸和處理;高安全性,保護(hù)企業(yè)的業(yè)務(wù)和數(shù)據(jù)不受攻擊和泄露;靈活性,支持快速部署和調(diào)整,以滿足不同業(yè)務(wù)的需求和變化;可擴(kuò)展性,滿足業(yè)務(wù)快速增長帶來的擴(kuò)展需求;具備自動(dòng)化的能力,以降低運(yùn)維成本,提高運(yùn)維效率。
新華三持續(xù)升級網(wǎng)絡(luò)技術(shù)解決方案,來滿足各行業(yè)的聯(lián)接需求。比如業(yè)界首創(chuàng)的IP+光融合技術(shù),通過IP設(shè)備與傳輸設(shè)備的融合,大幅簡化了網(wǎng)絡(luò)架構(gòu),利用多層網(wǎng)絡(luò)算路、控制、維護(hù)的統(tǒng)一,避免越來越復(fù)雜的網(wǎng)絡(luò)制約業(yè)務(wù)的發(fā)展。全光網(wǎng)絡(luò)解決方案,為校園、醫(yī)療、企業(yè)等園區(qū)場景,提供以太全光+PON全光融合的新一代園區(qū)網(wǎng)絡(luò)解決方案,讓數(shù)字化業(yè)務(wù)落地園區(qū)更加省心省力。
總的來說,網(wǎng)絡(luò)升級與適配,是新一輪產(chǎn)業(yè)數(shù)字化、智能化的核心要素。
第二步,全業(yè)務(wù)云化。
提到產(chǎn)業(yè)數(shù)字化、智能化,業(yè)務(wù)上云是一條捷徑。隨著各個(gè)行業(yè)深度云化,企業(yè)的所有業(yè)務(wù)都將遷移到云端,實(shí)現(xiàn)云端化管理和運(yùn)營。大量數(shù)據(jù)的云端傳輸和處理,遠(yuǎn)程協(xié)作的穩(wěn)定生產(chǎn),以及大量智能化應(yīng)用的終端落地,對云端的廣域網(wǎng)絡(luò)+接入端的無線網(wǎng)絡(luò),提出了超大帶寬的聯(lián)接要求。
傳輸側(cè),需要一張高質(zhì)量的廣域網(wǎng)絡(luò)。新華三通過SRv6可編程能力,以及FlexE硬通道的轉(zhuǎn)換能力,以確定性網(wǎng)絡(luò)技術(shù)保障廣域網(wǎng)在跨域傳輸?shù)拇_定性,目前可以在1600公里廣域的傳輸距離里面,讓時(shí)延抖動(dòng)控制在15微秒以內(nèi),突破了同一條鏈路上確定性流量和非確定性流量并存的問題,業(yè)務(wù)級別可以達(dá)到數(shù)千。比如工業(yè)互聯(lián)網(wǎng)、遠(yuǎn)程醫(yī)療、智能駕駛等需要高質(zhì)量、低延遲的網(wǎng)絡(luò)連接場景,就可以很好地滿足。
終端側(cè),需要一張廣覆蓋、大帶寬的接入網(wǎng)絡(luò)。業(yè)務(wù)云化之后,會(huì)帶動(dòng)大量終端設(shè)備與服務(wù)的數(shù)字化,IoT設(shè)備密集接入,對接入側(cè)帶寬需求越來越大。新華三在無線聯(lián)接技術(shù)上持續(xù)探索,走在了業(yè)界前面,推出了更大帶寬、更低時(shí)延的Wi-Fi 7產(chǎn)品,并在底層技術(shù)和協(xié)議層面提供了更多可靠性、高密和低時(shí)延保障,相比Wi-Fi 6,可以讓無線和有線在接入體驗(yàn)層面,真正達(dá)到完全一致。舉個(gè)例子,智慧碼頭的無人車、黑燈工廠里的AGV小車、園區(qū)里的自動(dòng)巡邏機(jī)器人等,這些智慧應(yīng)用都可以基于Wi-Fi 7的超寬網(wǎng)絡(luò),更敏捷可靠地提供服務(wù)。
新華三深化應(yīng)用新技術(shù),滿足全業(yè)務(wù)云化的需求,加快新技術(shù)的商業(yè)轉(zhuǎn)化落地,提高生產(chǎn)率,激活勞動(dòng)力潛能。
第三步,IPv6全面應(yīng)用。
業(yè)務(wù)上云,就需要更多的IP地址和更好的網(wǎng)絡(luò)連接,確保業(yè)務(wù)能夠?qū)崟r(shí)發(fā)放。IPv4地址早已告罄,IPv6網(wǎng)絡(luò)變成了大勢所趨。《關(guān)于加快推進(jìn)互聯(lián)網(wǎng)協(xié)議第六版(IPv6)規(guī)模部署和應(yīng)用工作的通知》中明確強(qiáng)調(diào),到2025年推進(jìn)IPv6規(guī)模部署和應(yīng)用工作的重點(diǎn)方向,其中,應(yīng)用拓展的重點(diǎn),就是深化IPv6技術(shù)與產(chǎn)業(yè)結(jié)合。
新華三順應(yīng)政策導(dǎo)向,通過確定性網(wǎng)絡(luò)、服務(wù)鏈技術(shù),持續(xù)推進(jìn)IP網(wǎng)絡(luò)的升級,為IPv6應(yīng)用提供更可靠、更精細(xì)、更靈活的保障,向IPv6+演進(jìn),持續(xù)賦能數(shù)字化業(yè)務(wù)。
比如,全場景智匯路由器SR6608-M,可以為C端用戶,支持高質(zhì)量視頻通話、流媒體娛樂等應(yīng)用,為移動(dòng)設(shè)備提供更加穩(wěn)定和可靠的網(wǎng)絡(luò)連接。借助IPv6+打造的確定性網(wǎng)絡(luò),智能城市、智慧農(nóng)業(yè)等B端場景,可以提供了更多的IP地址,實(shí)現(xiàn)大規(guī)模設(shè)備和傳感器連接,建立安全、可管可視的網(wǎng)絡(luò)環(huán)境,保障業(yè)務(wù)的確定性體驗(yàn)。
第四步,AI高速發(fā)展、落地應(yīng)用爆發(fā)增長。
有了數(shù)字化底座,云端業(yè)務(wù)越來越豐富,AI應(yīng)用有望快速融入產(chǎn)業(yè)場景,作為產(chǎn)業(yè)升級引擎,提高生產(chǎn)率,降低人力成本。
新華三集團(tuán)網(wǎng)絡(luò)產(chǎn)品線系統(tǒng)規(guī)劃與解決方案部總經(jīng)理程臻分享:像GPT 4這樣的大模型達(dá)到一萬億個(gè)參數(shù),傳統(tǒng)計(jì)算集群在獲取數(shù)據(jù)過程中,存在丟包、延時(shí)等問題,并沒有辦法讓算力完全發(fā)揮出來。解決方案是提高節(jié)點(diǎn)間通信帶寬,來保障整體計(jì)算效率。
為此,新華三提前布局了大量基礎(chǔ)技術(shù),比如CPO硅光引擎、多級無阻塞技術(shù)、冷板式液冷技術(shù)等,能夠滿足數(shù)據(jù)中心超大規(guī)模算力和海量數(shù)據(jù)傳輸?shù)男枨?,在高速傳輸?shù)耐瑫r(shí)也可兼顧綠色節(jié)能的要求。
特別值得一提的是,基于800G CPO硅光引擎技術(shù),打造的下一代超寬數(shù)據(jù)中心網(wǎng)絡(luò),結(jié)合有效的數(shù)據(jù)壓縮和計(jì)算算法,能夠提高算力系統(tǒng)的傳送效率,實(shí)現(xiàn)數(shù)據(jù)的高效無損傳輸,確保數(shù)據(jù)傳輸無丟包、低時(shí)延,滿足智算場景的極致計(jì)算需求。
這一系列技術(shù),助力數(shù)據(jù)中心網(wǎng)絡(luò)持續(xù)創(chuàng)新升級,在算力爆發(fā)式增長之際,行業(yè)用戶可以快速抓住大模型機(jī)遇,投身新一輪AI浪潮。
第五步,網(wǎng)絡(luò)與應(yīng)用結(jié)合程度更深。
上述技術(shù)趨勢下,網(wǎng)絡(luò)承載的業(yè)務(wù)越來越豐富,管理起來,難度自然也增大了。比如說,大量企業(yè)將更多數(shù)據(jù)、業(yè)務(wù)、設(shè)備系統(tǒng)進(jìn)行上云,實(shí)現(xiàn)業(yè)務(wù)的全天候在線,這就對網(wǎng)絡(luò)的可信安全能力提出了新的要求。而基于零信任原則打造的網(wǎng)絡(luò)架構(gòu)往往非常復(fù)雜,帶來了大量運(yùn)維管理上的不便。未來如何兼顧運(yùn)維管理便捷,同時(shí)實(shí)現(xiàn)零信任安全可信,成為網(wǎng)絡(luò)解決方案的必要考點(diǎn)。
新華三眼中的網(wǎng)絡(luò),不僅是一成不變的聯(lián)接“管道”,還要與應(yīng)用結(jié)合的更深,隨著應(yīng)用趨勢和變化而變,成為一種靈活、智能、自主進(jìn)化的服務(wù)。
新華三在智能聯(lián)接方案中注入AI元素,完成了全生命周期的自動(dòng)化、智能化升級,為各行業(yè)客戶提供極簡交付、智能運(yùn)維以及極致體驗(yàn)的智慧網(wǎng)絡(luò)。
舉個(gè)例子,當(dāng)一個(gè)高流量的應(yīng)用出現(xiàn)時(shí),自智網(wǎng)絡(luò)會(huì)自動(dòng)分配更多的帶寬和資源,以確保應(yīng)用性能不受影響。同時(shí),網(wǎng)絡(luò)管理也會(huì)根據(jù)不斷變化的應(yīng)用需求,自動(dòng)進(jìn)行調(diào)整,例如對高敏感數(shù)據(jù)進(jìn)行更加嚴(yán)格的安全控制;對計(jì)算設(shè)備的運(yùn)行狀態(tài)提供動(dòng)態(tài)監(jiān)測等,比如在AI算力大模型高速運(yùn)行的時(shí)候,散熱設(shè)備如風(fēng)扇、電源等滿負(fù)荷運(yùn)轉(zhuǎn);當(dāng)流量沒有那么大的時(shí)候,實(shí)時(shí)動(dòng)態(tài)調(diào)峰,對風(fēng)扇降速,調(diào)整電源功率,從而做到更優(yōu)能效比。
數(shù)據(jù)是企業(yè)的核心資產(chǎn),安全問題是重中之重。新華三全新的安全平臺(tái),通過AI去賦能安全檢測,對網(wǎng)絡(luò)攻擊、病毒檢測進(jìn)行智能化識別和隔離,達(dá)到快速響應(yīng)。在防御層面,化被動(dòng)為主動(dòng),不像以前是在安全問題暴露之后打補(bǔ)丁,而是AI分析進(jìn)行趨勢判斷,系統(tǒng)會(huì)進(jìn)行風(fēng)險(xiǎn)提前告警和下發(fā)相應(yīng)策略。同時(shí),對攻擊源進(jìn)行模型建立和源頭溯源,云端和網(wǎng)端聯(lián)動(dòng),精準(zhǔn)實(shí)現(xiàn)攻擊源封堵,做到防患于未然。
可以看到, AI只是一個(gè)契機(jī)和突破口,新華三打通了網(wǎng)絡(luò)的“任督二脈”,實(shí)現(xiàn)了AI從算力、數(shù)據(jù)、應(yīng)用到業(yè)務(wù)、場景的貫通,才能數(shù)字生產(chǎn)力的 “洪荒之力”釋放出來,使能各行業(yè)數(shù)字化、智能化。
一劍飛仙:智能中國,奔馳在網(wǎng)絡(luò)的大動(dòng)脈上
當(dāng)AI大模型的強(qiáng)大內(nèi)力,通過新華三的網(wǎng)絡(luò),充分釋放出來,會(huì)發(fā)生什么?
我們都知道,過去三次改變了世界格局的工業(yè)革命,中國都是后進(jìn)生和學(xué)習(xí)者,而第四次工業(yè)革命,是中國不能錯(cuò)過的百年一遇的變局。而第四次工業(yè)革命的最大可能性,就是以AI技術(shù)為代表的智能革命。
中國有個(gè)共識,叫做:要想富先修路。網(wǎng)絡(luò)作為新型AI基礎(chǔ)設(shè)施的重要組成部分,是數(shù)字化、智能化的大動(dòng)脈,這條“大動(dòng)脈”暢通,才有AI的全面落地與產(chǎn)業(yè)智能化的不斷推進(jìn)。
今天,AI大模型為核心的智能工業(yè)化浪潮,已經(jīng)來到了爆發(fā)前夜。新華三的智能聯(lián)接網(wǎng)絡(luò),也已準(zhǔn)備就緒。當(dāng)AI的“內(nèi)力”與網(wǎng)絡(luò)的“動(dòng)脈”,在中國完成交匯,或許會(huì)是我們期待已久的“一劍飛仙”。
在新華三帶來的完整產(chǎn)業(yè)方案中,我們可以看到一些可能性:
首先是完整。新華三構(gòu)筑了一套從AI訓(xùn)練到應(yīng)用、運(yùn)維的全棧技術(shù)體系,從骨干網(wǎng)到接入網(wǎng),支持了AI在云管邊端等不同場景的落地,新華三的網(wǎng)絡(luò),可以說是全場景、各行業(yè)智能聯(lián)接的動(dòng)力來源。
其次是先進(jìn)。新華三在網(wǎng)絡(luò)領(lǐng)域的技術(shù)優(yōu)勢積累,來實(shí)現(xiàn)聯(lián)接力的全面升級,帶來的改變是顛覆性的,可以支撐AI大模型、自動(dòng)駕駛、工業(yè)互聯(lián)網(wǎng)、園區(qū)網(wǎng)絡(luò)等新型應(yīng)用,激活百行百業(yè)的智能奔涌。
最后是非常簡單。新華三將網(wǎng)絡(luò)從“硬實(shí)力”轉(zhuǎn)變?yōu)?ldquo;軟服務(wù)”,讓網(wǎng)絡(luò)升級變得低門檻、低成本、高回報(bào),也會(huì)驅(qū)動(dòng)產(chǎn)業(yè)數(shù)字化、智能化的熱情,融匯進(jìn)第四次工業(yè)革命的洪流。
這些變化,一點(diǎn)一滴地發(fā)生在中國大地上,讓我想到了詩人北島一首名為《生活》的詩,全文只有一個(gè)字:網(wǎng)。
信息技術(shù)飛速發(fā)展的今天,我們的世界正運(yùn)行在有形或無形的網(wǎng)絡(luò)之中。而沿著新華三鋪設(shè)的網(wǎng)絡(luò),百行百業(yè)通向智能時(shí)代,智能生活正在涌來。
正如曾富貴所言:以ChatGPT為代表的這種深層次AI,會(huì)引領(lǐng)下一輪的科技與革命的浪潮,對各行各業(yè)包括我們每個(gè)人的工作、生活,帶來翻天覆地的變化。
新華三的下一站,智能聯(lián)接的未來,第四次工業(yè)革命的圖景,就在智能中國的萬家燈火間。
好文章,需要你的鼓勵(lì)
11月8日,思杰在一份內(nèi)部通知中宣布,公司已決定停止在中國市場(包括香港地區(qū)和澳門地區(qū))的所有新的商業(yè)交易
伴隨著小鵬與問界AEB系統(tǒng)爭論的不斷發(fā)酵,7日晚某知名汽車網(wǎng)站直播了一場黑夜環(huán)境下對問界M5和小鵬G6的AEB對靜態(tài)假車識別測試。
在OpenAI首屆開發(fā)者大會(huì)上,OpenAI的首席執(zhí)行官Sam Altman宣布推出GPT-4 Turbo,并介紹六大更新