Кишвари шумо ё минтақа интихоб кунед.

Cerebras CS-4 системаи иборагузорӣ барои бозори сервери GPU Nvidia-ро мавриди роҳнамоӣ қарор медиҳад

CS-4 Inference System

Тавлидкунандаи AI чипи Cerebras Systems CS-4-ро муаррифӣ кардааст, системаи нави расмии AI барои бозори сервери GPU Nvidia ва боркунии моделҳои забони калон. Ба гуфтаи ширкат, CS-4 метавонад токенҳоро бо суръати то 30 маротиба тезтар генерат кунад, вақте ки ҳамаи захираҳои систем ба як корбар ихтисос дода шудаанд.

Важно, ин рақам вобаста ба озмоишҳои дохилӣ дар Cerebras мебошад ва суръати генератсияи матнро мепардозад, вақте ки як корбар ба захираҳои компютерии системаи эксклюзив дастрасӣ дорад. Ин намехоҳад интиқоли умумии системаро нишон диҳад, вақте ки чанд корбар дар як вақт хидмат мекунанд.

Дар як чорабинӣ дар Сан-Франсиско, Cerebras гуфт, ки CS-4 се WSE-3 Turbo равзанаи масштабии равандасозиро дар бар мегирад. Ба гуфтаи ширкат, ҳар як равзана тақрибан 4 триллион транзисторҳоро якҷоя мекунад, ки онро яке аз калонтарин равандасозҳои AI, ки то ҳол дар ҷомеа ошкор шудааст, месозад. Бар хилофи меъмориҳои бисёрчипӣ, ки маъмулан аз ҷониби Nvidia ва AMD истифода мешаванд, Cerebras тарҳи монолитӣ, пурра-равзанаро истифода мебарад, ки роҳҳои интиқоли маълумотро кӯтоҳ мекунад.

CS-4 барои иборагузории AI тарҳрезӣ шудааст, на тренингҳои модел. Архитектураи хотирааш SRAM (хотираи истеъмоли статикӣ) -ро истифода мебарад, на DRAM (хотираи истеъмоли динамикӣ), ки маъмулан дар соҳа истифода мешавад. SRAM суръати хондан ва навиштанро хеле тезтар аз DRAM таъмин мекунад, лекин структураи мураккаб ва нархи баландтари он барои ҳар як воҳид метавонад интегратсияро дар равзанаҳое бо тахта дошти маҳдуд душвор созад. WSE-3 Turbo тақрибан андозаи як табақи хўрокпазир аст, ки макони физикии кофӣ барои ҷойгир кардани SRAM мустақиман дар равзанаи равандро таъмин мекунад.

Cerebras генератсияи тезисҳои матнро ҳамчун афзалияти рақобатии асосии CS-4 ишора мекунад. Ширкат гуфт, ки равзанаи масштабии он метавонад ҳамаи арзишҳои параметриро, ки барои моделҳои AI лозиманд, мустақиман дар чип нигоҳ дорад, ки эҳтиёҷ ба гирифтаи маълумот аз чипҳои хотираии беруниро барҳам мезанад ва мўҳлатҳои марбут ба ҳаракати маълумотро коҳиш медиҳад.

Ба гуфтаи Cerebras, намунаҳои CS-4 акнун барои шумораи маҳдуди мизоҷон дастрасанд, бо тарҳи дастрасии васеътар барои охирҳои квартали сеюми имсол.