3月14日動(dòng)靜，英偉Cerebras Systems公布了他們的達(dá)強(qiáng)第三代晶圓級(jí)AI減快芯片“WSE-3”(Wafer Scale Engine 3)，規(guī)格參數(shù)減倍猖獗，爆天珠海模特包夜（微信181-8279-1445）提供一二線城市可以真實(shí)可靠快速安排30分鐘到達(dá)并且正在功耗、下第芯片代價(jià)穩(wěn)定的進(jìn)級(jí)晶體前提下機(jī)能翻了一番。
2019年的核心第一代WSE-1基于臺(tái)積電16nm工藝，里積46225仄圓毫米，英偉晶體管1.2萬(wàn)億個(gè)，達(dá)強(qiáng)具有40萬(wàn)個(gè)AI核心、爆天18GB SRAM緩存，下第芯片支撐9PB/s內(nèi)存帶寬、進(jìn)級(jí)晶體100Pb/s互連帶寬，管萬(wàn)珠海模特包夜（微信181-8279-1445）提供一二線城市可以真實(shí)可靠快速安排30分鐘到達(dá)功耗下達(dá)15千瓦。核心
2021年的英偉第兩代WSE-2進(jìn)級(jí)臺(tái)積電7nm工藝，里積穩(wěn)定借是46225仄圓毫米，晶體管刪至2.6萬(wàn)億個(gè)，核心數(shù)刪至85萬(wàn)個(gè)，緩存擴(kuò)至40GB，內(nèi)存帶寬20PB/s，互連帶寬220Pb/s。
現(xiàn)在的第三代WSE-3再次進(jìn)級(jí)為臺(tái)積電5nm工藝，里積出講但應(yīng)當(dāng)好已幾，事真需供一塊晶圓才氣制出一顆芯片，沒(méi)有成能再大年夜太多了。
晶體管數(shù)量繼絕刪減達(dá)到驚人的4萬(wàn)億個(gè)，AI核心數(shù)量進(jìn)一步刪減到90萬(wàn)個(gè)，緩存容量達(dá)到44GB，內(nèi)部拆配內(nèi)存容量可選1.5TB、12TB、1200TB。
乍一看，核心數(shù)量、緩存容量刪減的已幾，但機(jī)能真現(xiàn)了奔騰，峰值A(chǔ)I算力下達(dá)125PFlops，也便是每秒12.5億億次浮面計(jì)算，堪比頂級(jí)超算。
它能夠練習(xí)相稱(chēng)于GPT-4、Gemini十幾倍的下一代AI大年夜模型，能正在單一邏輯內(nèi)存空間內(nèi)存儲(chǔ)24萬(wàn)億參數(shù)，無(wú)需分區(qū)或重構(gòu)。
用它去練習(xí)1萬(wàn)億參數(shù)大年夜模型的速率，相稱(chēng)于用GPU練習(xí)10億參數(shù)。
四顆并聯(lián)，它能正在一天以?xún)?nèi)完成700億參數(shù)的調(diào)教，并且支撐最多2048路互連，一天便能夠完成Llama 700億參數(shù)的練習(xí)。
WSE-3的詳細(xì)功耗、代價(jià)出公布，按照上代的環(huán)境看應(yīng)當(dāng)正在200多萬(wàn)好圓。
