[ad_1]
కాలిఫోర్నియాలోని శాన్ జోస్లో జరిగిన కంపెనీ డెవలపర్ కాన్ఫరెన్స్లో Nvidia CEO జెన్సన్ హువాంగ్ కొత్త బ్లాక్వెల్ చిప్ పరిమాణాన్ని ప్రస్తుత హాప్పర్ H100 చిప్తో పోల్చారు.
ఎన్విడియా
కొత్త తరం AI గ్రాఫిక్స్ ప్రాసెసర్ పేరు బ్లాక్వెల్. మొదటి బ్లాక్వెల్ చిప్ను GB200 అని పిలుస్తారు మరియు ఈ సంవత్సరం చివర్లో రవాణా చేయబడుతుందని భావిస్తున్నారు. Nvidia మరింత శక్తివంతమైన చిప్లతో కస్టమర్లను ఆకర్షిస్తోంది మరియు కొత్త ఆర్డర్లను అందిస్తోంది. ఉదాహరణకు, కంపెనీలు మరియు సాఫ్ట్వేర్ తయారీదారులు ప్రస్తుత తరం “హాపర్” H100 మరియు ఇలాంటి చిప్లపై తమ చేతులను పొందేందుకు ఇప్పటికీ పెనుగులాడుతున్నారు.
“హాపర్ చాలా బాగుంది, కానీ దీనికి పెద్ద GPU అవసరం” అని Nvidia CEO జెన్సన్ హువాంగ్ సోమవారం కాలిఫోర్నియాలో జరిగిన కంపెనీ డెవలపర్ సమావేశంలో అన్నారు.
AI యొక్క స్వీకరణను సులభతరం చేయడానికి కంపెనీ NIM అని పిలువబడే ఆదాయాన్ని సృష్టించే సాఫ్ట్వేర్ను కూడా ప్రవేశపెట్టింది. ఇది వినియోగదారులు పెరుగుతున్న పోటీదారుల రంగంలో ఎన్విడియా చిప్లతో కట్టుబడి ఉండటానికి మరొక కారణాన్ని అందిస్తుంది.
ఎన్విడియా ఎగ్జిక్యూటివ్లు కంపెనీ మెర్సెనరీ చిప్ ప్రొవైడర్గా మారుతోంది మరియు మైక్రోసాఫ్ట్ లేదా యాపిల్ వంటి ఇతర కంపెనీలు సాఫ్ట్వేర్ను రూపొందించగల ప్లాట్ఫారమ్ ప్రొవైడర్గా మారుతోంది.
“బ్లాక్వెల్ అనేది ప్లాట్ఫారమ్ పేరు, చిప్ కాదు” అని హువాంగ్ చెప్పాడు.
“మేము విక్రయించగల వాణిజ్య ఉత్పత్తి GPU, మరియు సాఫ్ట్వేర్ ప్రజలు GPUని వివిధ మార్గాల్లో ఉపయోగించుకునేలా చేయడం” అని Nvidia ఎంటర్ప్రైజ్ VP మనువీర్ దాస్ ఒక ఇంటర్వ్యూలో చెప్పారు. “వాస్తవానికి, మేము ఇంకా అలా చేస్తున్నాము. కానీ నిజంగా మారినది ఏమిటంటే మేము వాస్తవానికి వాణిజ్య సాఫ్ట్వేర్ వ్యాపారంలో ఉన్నాము.”
ఎన్విడియా యొక్క కొత్త సాఫ్ట్వేర్ ఎన్విడియా యొక్క ఏదైనా GPUలలో ప్రోగ్రామ్లను అమలు చేయడాన్ని సులభతరం చేస్తుందని దాస్ చెప్పారు, AIని రూపొందించడానికి తగినవి కానటువంటి పాతవి కూడా.
“మీరు డెవలపర్ అయితే, మీరు వ్యక్తులు స్వీకరించాలని మీరు కోరుకునే ఒక ఆసక్తికరమైన మోడల్ను కలిగి ఉండవచ్చు. మీరు దానిని NIMలో ఉంచినట్లయితే, అది అన్ని GPUలలో నడుస్తుందని మరియు మీరు దానిని చాలా మందికి అందిస్తారని నిర్ధారించుకోండి. ” అని దాస్ చెప్పారు.
Nvidia యొక్క GB200 గ్రేస్ బ్లాక్వెల్ సూపర్చిప్. రెండు B200 గ్రాఫిక్స్ ప్రాసెసర్లు మరియు ఒక ఆర్మ్ ఆధారిత సెంట్రల్ ప్రాసెసర్ ద్వారా ఆధారితం.
Nvidia దాని GPU నిర్మాణాన్ని ప్రతి రెండు సంవత్సరాలకు ఒకసారి అప్డేట్ చేస్తుంది, పనితీరును గణనీయంగా మెరుగుపరుస్తుంది. గత సంవత్సరంలో విడుదలైన అనేక AI మోడల్లు కంపెనీ హాప్పర్ ఆర్కిటెక్చర్పై శిక్షణ పొందాయి, ఇది 2022లో ప్రవేశపెట్టబడింది మరియు H100 వంటి చిప్లలో ఉపయోగించబడుతుంది.
GB200 వంటి బ్లాక్వెల్-ఆధారిత ప్రాసెసర్లు AI కంపెనీలకు గణనీయమైన పనితీరు అప్గ్రేడ్ను అందిస్తున్నాయని ఎన్విడియా చెబుతోంది, H100కి 4 పెటాఫ్లాప్లతో పోలిస్తే AI పనితీరు 20 పెటాఫ్లాప్లతో ఉంటుంది. అదనపు ప్రాసెసింగ్ శక్తి AI కంపెనీలను పెద్ద మరియు మరింత సంక్లిష్టమైన మోడళ్లకు శిక్షణనిస్తుందని ఎన్విడియా పేర్కొంది.
చిప్లో ఎన్విడియా పిలిచే “ట్రాన్స్ ఇంజన్ ట్రాన్స్ఫార్మర్-ఆధారిత AIని అమలు చేయడానికి ప్రత్యేకంగా నిర్మించబడింది, ఇది ChatGPT వెనుక ఉన్న ప్రధాన సాంకేతికతలలో ఒకటి.”
బ్లాక్వెల్ GPUలు పెద్దవి, విడివిడిగా తయారు చేయబడిన రెండు డైలను కలిపి TSMC తయారు చేసిన ఒక చిప్గా మారుస్తుంది. ఇది 72 బ్లాక్వెల్ GPUలు మరియు AI మోడల్లకు శిక్షణ ఇవ్వడానికి రూపొందించబడిన ఇతర Nvidia భాగాలను మిళితం చేసే GB200 NVLink 2 అనే మొత్తం సర్వర్గా కూడా అందుబాటులో ఉంటుంది.
Amazon, Google, Microsoft మరియు Oracle తమ క్లౌడ్ సేవల ద్వారా GB200కి యాక్సెస్ను విక్రయిస్తాయి. GB200 రెండు B200 బ్లాక్వెల్ GPUలు మరియు ఒక ఆర్మ్-ఆధారిత గ్రేస్ CPUలను మిళితం చేస్తుంది. అమెజాన్ వెబ్ సర్వీసెస్ 20,000GB200 చిప్లతో సర్వర్ క్లస్టర్లను నిర్మిస్తుందని ఎన్విడియా తెలిపింది.
సిస్టమ్ 27 ట్రిలియన్ పారామీటర్ మోడళ్లను అమలు చేయగలదని ఎన్విడియా తెలిపింది. 1.7 ట్రిలియన్ పారామితులను కలిగి ఉన్న GPT-4 వంటి అతిపెద్ద మోడల్ల కంటే ఇది చాలా పెద్దది. అనేక పారామితులు మరియు డేటాతో పెద్ద మోడల్లు కొత్త సామర్థ్యాలను అన్లాక్ చేయగలవని చాలా మంది కృత్రిమ మేధస్సు పరిశోధకులు విశ్వసిస్తున్నారు.
Nvidia కొత్త GB200 ధరను లేదా అది ఉపయోగించే సిస్టమ్లను వెల్లడించలేదు. ఎన్విడియా యొక్క హాప్పర్-ఆధారిత H100 ఒక చిప్కు $25,000 మరియు $40,000 మధ్య ఖర్చు అవుతుందని విశ్లేషకులు అంచనా వేస్తున్నారు, మొత్తం సిస్టమ్ ధర $200,000 వరకు ఉంటుంది.
Nvidia మొత్తం సర్వర్ ర్యాక్ను ఆక్రమించే పూర్తి సిస్టమ్లో భాగంగా B200 గ్రాఫిక్స్ ప్రాసెసర్ను విక్రయించాలని కూడా యోచిస్తోంది.
Nvidia ఎంటర్ప్రైజ్ సాఫ్ట్వేర్ సబ్స్క్రిప్షన్లకు NIM అనే కొత్త ఉత్పత్తిని జోడిస్తున్నట్లు Nvidia ప్రకటించింది.
NIM అనుమితి మరియు AI సాఫ్ట్వేర్ ఎగ్జిక్యూషన్ ప్రాసెస్ల కోసం పాత Nvidia GPUలను ఉపయోగించడాన్ని సులభతరం చేస్తుంది, వ్యాపారాలు ఇప్పటికే కలిగి ఉన్న వందల మిలియన్ల Nvidia GPUలను ఉపయోగించడం కొనసాగించడాన్ని అనుమతిస్తుంది. కొత్త AI మోడల్ యొక్క ప్రారంభ శిక్షణ కంటే అనుమితికి తక్కువ గణన శక్తి అవసరం. OpenAI వంటి కంపెనీల నుండి సేవగా AI ఫలితాలకు యాక్సెస్ను కొనుగోలు చేయకుండా, వారి స్వంత AI మోడల్లను అమలు చేయాలనుకునే కంపెనీలను NIM అనుమతిస్తుంది.
ఎన్విడియా ఆధారిత సర్వర్లను కొనుగోలు చేసే కస్టమర్లు ఎన్విడియా ఎంటర్ప్రైజ్ కోసం సైన్ అప్ చేయడం వ్యూహం, ఇది లైసెన్స్ కోసం సంవత్సరానికి GPUకి $4,500 ఖర్చవుతుంది.
ఎన్విడియా మైక్రోసాఫ్ట్ మరియు హగ్గింగ్ ఫేస్ వంటి AI కంపెనీలతో కలిసి AI మోడల్లు అన్ని అనుకూలమైన Nvidia చిప్లలో రన్ అయ్యేలా చూసుకుంటుంది. రెండవది, NIM డెవలపర్లు తమ మోడల్లను వారి స్వంత సర్వర్లలో లేదా క్లౌడ్-ఆధారిత Nvidia సర్వర్లలో సమర్ధవంతంగా అమలు చేయడానికి సమయం తీసుకునే కాన్ఫిగరేషన్ ప్రక్రియల అవసరం లేకుండా అనుమతిస్తుంది.
“ఓపెన్ఏఐకి కాల్ చేస్తున్న నా కోడ్లో, నేను ఆ ఒక లైన్ కోడ్ని భర్తీ చేయబోతున్నాను మరియు బదులుగా నేను ఎన్విడియా నుండి పొందిన ఈ NIMకి దాన్ని సూచించబోతున్నాను” అని దాస్ చెప్పారు.
క్లౌడ్లోని సర్వర్ల కంటే GPU-అమర్చిన ల్యాప్టాప్లలో AIని అమలు చేయడంలో సాఫ్ట్వేర్ సహాయపడుతుందని ఎన్విడియా తెలిపింది.
[ad_2]
Source link
