Nvidia uvádza na trh tesla t4, najrýchlejšiu kartu pre dátové centrá

Nvidia oznámila svoju novú GPU pre strojové učenie a inferenciu v dátových centrách. Nová karta Tesla T4 je založená na Turingovej architektúre a je nástupcom súčasného modelu Tesla P4, ktorý pokrýva prakticky všetkých hlavných poskytovateľov cloud computingu.

Nvidia Tesla T4 chce revolúciu v dátových centrách

Nvidia tvrdí, že Tesla T4 sú výrazne rýchlejšie ako P4. Napríklad pre jazykovú inferenciu je T4 34-krát rýchlejšie ako pri použití CPU a viac ako 3, 5-krát rýchlejšie ako P4. Maximálny výkon pre Tesla P4 je 260 TOPS pre 4-bitové celočíselné operácie a 65 TOPS pre operácie s plávajúcou desatinnou čiarkou. T4 je na štandardnom profile 75-wattovej PCI-e karty.

Odporúčame prečítať si náš príspevok na tému Podrobnosti o architektúre Turingovej architektúry Nvidia

Najdôležitejšie je, že spoločnosť Nvidia tieto čipy navrhla špeciálne pre AI inferenciu, vďaka ktorej je Tesla T4 tak účinným GPU na vytváranie inferencií, je nové Turingor Core spoločnosti Turing. Jensen Huang už hovoril o novom jadre Tensor a o tom, čo môže urobiť pre hry, vykresľovanie a operácie AI. Celkovo má čip 320 Tenzorových jadier Turingov a 2 560 jadier CUDA.

Okrem nového čipu Nvidia vydáva aj aktualizáciu svojho softvéru TensorRT na optimalizáciu modelov hlbokého učenia. Táto nová verzia obsahuje aj server TensorRT Inference Server, plne kontajnerizovanú mikroservisovú službu pre dedukciu dátových centier, ktorá sa bezproblémovo pripája k existujúcej infraštruktúre Kubernetes.

Turing je jednou z najinovatívnejších architektúr Nvidia, dokonca aj na hernom trhu, kde po prvýkrát umožní využívať sledovanie lúčov v reálnom čase na zlepšenie grafického prevedenia najmodernejších hier.

Techpowerup písmo