Tech

‘ప్రాజెక్ట్ గ్రీన్లాండ్’: అమెజాన్ ఒక GPU క్రంచ్ ఎలా అధిగమించింది

గత సంవత్సరం, అమెజాన్భారీ రిటైల్ వ్యాపారానికి పెద్ద సమస్య ఉంది: ఇది తగినంతగా పొందలేదు Ai చిప్స్ కీలకమైన పనిని పూర్తి చేయడానికి.

ప్రాజెక్టులు ఆలస్యం కావడంతో, పాశ్చాత్య ప్రపంచంలోని అతిపెద్ద ఇ-కామర్స్ ఆపరేషన్ బిజినెస్ ఇన్సైడర్ పొందిన అమెజాన్ పత్రాల ట్రోవ్ ప్రకారం, సమస్యను పరిష్కరించడానికి అంతర్గత ప్రక్రియలు మరియు సాంకేతిక పరిజ్ఞానం యొక్క రాడికల్ పునరుద్ధరణను ప్రారంభించింది.

టెక్ దిగ్గజం ఈ GPU భాగాలకు సరఫరాతో అంతర్గత డిమాండ్‌ను ఎలా సమతుల్యం చేస్తుందో అరుదైన లోపలి రూపాన్ని అందిస్తుంది ఎన్విడియా మరియు ఇతర పరిశ్రమ వనరులు.

2024 ప్రారంభంలో, ది ఉత్పాదక ఐ ఈ శక్తివంతమైన కొత్త సాంకేతిక పరిజ్ఞానాన్ని వర్తింపజేయడానికి అవసరమైన మౌలిక సదుపాయాలకు ప్రాప్యత కోసం వేలాది కంపెనీలు పోటీ పడుతుండటంతో బూమ్ పూర్తి స్వింగ్‌లో ఉంది.

అమెజాన్ లోపల, కొంతమంది ఉద్యోగులు భద్రపరచకుండా నెలలు వెళ్లారు Gpusఅంతర్గత పత్రాల ప్రకారం, సంస్థ యొక్క రిటైల్ విభాగం, దాని ఇ-కామర్స్ ప్లాట్‌ఫామ్ మరియు విస్తారమైన లాజిస్టిక్స్ కార్యకలాపాలను విస్తరించి ఉన్న ఒక రంగం అంతరాయంగా ఉండే ఆలస్యం.

జూలైలో, అమెజాన్ దాని పరిమిత GPU సరఫరాను బాగా నిర్వహించడానికి మరియు కేటాయించడానికి “కేంద్రీకృత GPU సామర్థ్యం గల పూల్” అయిన ప్రాజెక్ట్ గ్రీన్లాండ్‌ను ప్రారంభించింది. అంతర్గత GPU ఉపయోగం కోసం కంపెనీ ఆమోదం ప్రోటోకాల్‌లను కూడా కఠినతరం చేసింది, పత్రాలు చూపిస్తున్నాయి.

“GPU లు మొదట వచ్చిన, మొదటగా అందించిన ప్రాతిపదికన ఇవ్వడానికి చాలా విలువైనవి” అని అమెజాన్ మార్గదర్శకాలలో ఒకటి పేర్కొంది. “బదులుగా, ఇంగితజ్ఞానం పరిగణనలతో లేయర్డ్ ROI ఆధారంగా పంపిణీని నిర్ణయించాలి మరియు సంస్థ యొక్క ఉచిత నగదు ప్రవాహం యొక్క దీర్ఘకాలిక వృద్ధికి అందించాలి.”

ప్రపంచ కొరతకు రెండు సంవత్సరాలు, GPU లు కొరత వస్తువుగా ఉన్నాయి -కొన్ని అతిపెద్ద AI కంపెనీలకు. ఉదాహరణకు, ఓపెనాయ్ సీఈఓ సామ్ ఆల్ట్మాన్ ఫిబ్రవరిలో మాట్లాడుతూ, కొత్త మోడల్ ప్రయోగం తరువాత చాట్‌గ్ప్ట్ తయారీదారు “జిపియులకు దూరంగా ఉన్నారు”. ఆధిపత్య GPU ప్రొవైడర్ అయిన ఎన్విడియా ఈ సంవత్సరం సరఫరా నిర్బంధించబడుతుందని చెప్పారు.

ఏదేమైనా, ఈ సమస్యను పరిష్కరించడానికి అమెజాన్ చేసిన ప్రయత్నాలు ఫలితం ఇవ్వవచ్చు. డిసెంబర్ నాటికి, అంతర్గత సూచనలు ఈ సంవత్సరం క్రంచ్ తగ్గుతాయని సూచించాయి, చిప్ లభ్యత మెరుగుపడుతుందని భావిస్తున్నట్లు పత్రాలు చూపించాయి.

BI కి ఒక ఇమెయిల్‌లో, అమెజాన్ ప్రతినిధి సంస్థ యొక్క రిటైల్ ఆర్మ్ మాట్లాడుతూ, ఇది GPU లను వర్గీకరిస్తుంది అమెజాన్ వెబ్ సేవలుఇప్పుడు AI ప్రాసెసర్‌లకు పూర్తి ప్రాప్యత ఉంది.

“అమెజాన్ మా రిటైల్ వ్యాపారం మరియు సంస్థ అంతటా ఇతర కస్టమర్ల కోసం ఆవిష్కరణను కొనసాగించడానికి తగినంత GPU సామర్థ్యాన్ని కలిగి ఉంది” అని ప్రతినిధి చెప్పారు. “అమెజాన్‌తో సహా మా వినియోగదారులందరికీ క్లౌడ్ కంప్యూటింగ్ సేవలను వేగంగా స్వీకరించడానికి ఆ ఉత్పాదక AI ఆవిష్కరణలు ప్రారంభంలో AWS ప్రారంభంలో గుర్తించబడింది, మరియు మేము మా వినియోగదారుల పెరుగుతున్న GPU అవసరాలను త్వరగా అంచనా వేసాము మరియు ఆవిష్కరణలను నడిపించే సామర్థ్యాన్ని అందించడానికి చర్యలు తీసుకున్నాము.”

“పార-రెడీ”

అమెజాన్ సీఈఓ ఆండీ జాస్సీ

అమెజాన్



అమెజాన్ ఇప్పుడు BI పొందిన పత్రాల ప్రకారం, ప్రతి అంతర్గత GPU అభ్యర్థనకు హార్డ్ డేటా మరియు రిటర్న్-ఆన్-ఇన్వెస్ట్మెంట్ ప్రూఫ్ డిమాండ్ చేస్తుంది.

అందించిన డేటా యొక్క పరిపూర్ణత మరియు GPU కి ఆర్థిక ప్రయోజనంతో సహా అనేక అంశాల ఆధారంగా GPU కేటాయింపుకు చొరవలు “ప్రాధాన్యత ఇవ్వబడ్డాయి మరియు ర్యాంక్ చేయబడతాయి”. ప్రాజెక్టులు తప్పనిసరిగా “పార-సిద్ధంగా” ఉండాలి లేదా అభివృద్ధికి ఆమోదించబడాలి మరియు అవి పోటీ “రేసులో” ఉన్నాయని నిరూపించాలి. వాస్తవ ప్రయోజనాలు ఎప్పుడు గ్రహించబడుతున్నాయో వారు టైమ్‌లైన్‌ను కూడా అందించాలి.

2024 చివరి నుండి ఒక అంతర్గత పత్రం అమెజాన్ యొక్క రిటైల్ యూనిట్ 2025 మొదటి త్రైమాసికంలో ఎక్కువ సరఫరా అందుబాటులోకి వచ్చినందున GPU లను “తదుపరి అత్యధిక ప్రాధాన్యత కార్యక్రమాలకు” పంపిణీ చేయడానికి ప్రణాళిక వేసింది.

అమెజాన్ యొక్క రిటైల్ వ్యాపారానికి విస్తృత ప్రాధాన్యత ఏమిటంటే, దాని క్లౌడ్ మౌలిక సదుపాయాల వ్యయం “ఆదాయ వృద్ధి ద్వారా పెట్టుబడిపై అత్యధిక రాబడిని కలిగిస్తుంది లేదా ఖర్చు-నుండి సేవ తగ్గింపు“పత్రాలలో ఒకటి జోడించబడింది.

అమెజాన్ యొక్క కొత్త GPU “సిద్ధాంతాలు”

అమెజాన్ యొక్క రిటైల్ బృందం తన విధానాన్ని అధికారిక “సిద్ధాంతాలలో” క్రోడీకరించింది-వ్యక్తిగత జట్లు లేదా ప్రాజెక్టులు వేగంగా నిర్ణయం తీసుకోవడం కోసం సృష్టించే అంతర్గత మార్గదర్శకాలు. సిద్ధాంతాలు బలమైన ROI, సెలెక్టివ్ ఆమోదాలు మరియు వేగం మరియు సామర్థ్యం కోసం పుష్ని నొక్కి చెబుతాయి.

మరియు గ్రీన్ లైట్ ప్రాజెక్ట్ అండర్ డిలివర్లు అయితే, దాని GPU లను వెనక్కి లాగవచ్చు.

అమెజాన్ పత్రాలలో ఒకటి ప్రకారం GPU కేటాయింపు కోసం 8 సిద్ధాంతాలు ఇక్కడ ఉన్నాయి:

  1. GPU వినియోగ ప్రాధాన్యత కోసం ROL + అధిక తీర్పు ఆలోచన అవసరం. మొదట వచ్చిన, మొదట అందించిన ప్రాతిపదికన GPU లు చాలా విలువైనవి. బదులుగా, ఇంగితజ్ఞానం పరిగణనలతో లేయర్డ్ ROL ఆధారంగా పంపిణీని నిర్ణయించాలి మరియు సంస్థ యొక్క ఉచిత నగదు ప్రవాహం యొక్క దీర్ఘకాలిక వృద్ధికి అందించాలి. పంపిణీ బెస్పోక్ మౌలిక సదుపాయాలలో లేదా షేరింగ్/పూలింగ్ సాధనం యొక్క గంటలలో జరుగుతుంది.
  2. నిరంతరం నేర్చుకోండి, అంచనా వేయండి మరియు మెరుగుపరచండి: నిరంతర సమీక్ష ఆధారంగా మేము కొత్త ఆలోచనలను అభ్యర్థిస్తాము మరియు మేము మరింత తెలుసుకున్నప్పుడు మా విధానాన్ని మెరుగుపరచడానికి సిద్ధంగా ఉన్నాము.
  3. గొయ్యి నిర్ణయాలు మానుకోండి: ఒంటరిగా నిర్ణయాలు తీసుకోవడాన్ని నివారించండి; బదులుగా, GPU లు మరియు GPU సంబంధిత కార్యక్రమాల ట్రాకింగ్‌ను ఒకే చోట కేంద్రీకరించండి.
  4. సమయం క్లిష్టమైనది: పంపిణీ నిర్ణయాలు తీసుకునేటప్పుడు వేగంగా వెళ్లడానికి స్కేలబుల్ టూలింగ్ ఒక కీలకం, ఇది మా అనుభవాల నుండి ఆవిష్కరణ మరియు నేర్చుకోవడానికి ఎక్కువ సమయం అనుమతిస్తుంది.
  5. సమర్థత ఆవిష్కరణకు ఫీడ్ చేస్తుంది: సరైన వనరుల వినియోగాన్ని ప్రోత్సహించడం, సహకారం మరియు వనరుల భాగస్వామ్యాన్ని ప్రోత్సహించడం ద్వారా సామర్థ్యం ఆవిష్కరణకు మార్గం సుగమం చేస్తుంది.
  6. ఆవిష్కరణను సాధించడంలో ప్రమాదాన్ని స్వీకరించండి: ఆమోదయోగ్యమైన రిస్క్ టాలరెన్స్ ‘వేగంగా విఫలమవుతుంది’ అనే ఆలోచనను స్వీకరించడానికి మరియు పరిశోధన మరియు అభివృద్ధికి అనుకూలమైన వాతావరణాన్ని నిర్వహించడానికి అనుమతిస్తుంది.
  7. పారదర్శకత మరియు గోప్యత: మేము GPU కేటాయింపు పద్దతి చుట్టూ విద్య మరియు వికీపై నవీకరణల ద్వారా పారదర్శకతను ప్రోత్సహిస్తాము, అయితే R&D మరియు ROI షేర్ చేయదగిన వాటిపై సున్నితమైన సమాచారం చుట్టూ గోప్యతను ఉపయోగించుకుంటాము. మేము విజయాలు జరుపుకుంటాము మరియు విస్తృతంగా నేర్చుకున్న పాఠాలను పంచుకుంటాము.
  8. ఇతర కార్యక్రమాలు మరింత విలువను చూపిస్తే గతంలో విమానాలకు ఇచ్చిన GPU లు గుర్తుకు వస్తాయి. GPU కలిగి ఉండటం అంటే మీరు దానిని ఉంచాలని కాదు.

ప్రాజెక్ట్ గ్రీన్లాండ్

AWS CEO మాట్ గార్మాన్

అమెజాన్



GPU సరఫరా మరియు డిమాండ్ నిర్వహణ యొక్క సంక్లిష్టతను పరిష్కరించడానికి, అమెజాన్ గత సంవత్సరం గ్రీన్లాండ్ అనే కొత్త ప్రాజెక్టును ప్రారంభించింది.

గ్రీన్లాండ్‌ను “జట్లలో GPU సామర్థ్యాన్ని పంచుకోవడానికి మరియు వినియోగాన్ని పెంచడానికి కేంద్రీకృత GPU ఆర్కెస్ట్రేషన్ ప్లాట్‌ఫాం” గా వర్ణించబడింది.

ఇది ప్రతి చొరవకు GPU వినియోగాన్ని ట్రాక్ చేస్తుంది, నిష్క్రియ సర్వర్‌లను పంచుకోండి మరియు చిప్‌లను మరింత అత్యవసర ప్రాజెక్టులకు తిరిగి కేటాయించడానికి “క్లాబ్యాక్‌లను” అమలు చేయగలదు, పత్రాలు వివరించాయి. సిస్టమ్ సరళీకృత నెట్‌వర్కింగ్ సెటప్ మరియు భద్రతా నవీకరణలను కూడా అందిస్తుంది, అదే సమయంలో ఉద్యోగులు మరియు నాయకులను తక్కువ GPU వాడకంతో ప్రాజెక్టులకు హెచ్చరిస్తుంది.

ఈ సంవత్సరం, అమెజాన్ ఉద్యోగులు “భవిష్యత్ డిమాండ్ల” కోసం GPU సామర్థ్యాన్ని పొందటానికి గ్రీన్లాండ్ గుండా వెళ్ళడానికి “తప్పనిసరి”, మరియు “పనిలేకుండా సామర్థ్యాన్ని తగ్గించడం మరియు క్లస్టర్ వినియోగాన్ని ఆప్టిమైజ్ చేయడం” ద్వారా ఇది సామర్థ్యాన్ని పెంచుతుందని కంపెనీ ఆశిస్తోంది.

AI- సంబంధిత ప్రాజెక్టులలో billion 1 బిలియన్ పెట్టుబడి

అమెజాన్ యొక్క రిటైల్ వ్యాపారం తన GPU లను పని చేయడానికి సమయం వృధా చేయలేదు. ఒక పత్రం 160 కంటే ఎక్కువ AI- శక్తితో కూడిన కార్యక్రమాలను జాబితా చేసింది రూఫస్ షాపింగ్ అసిస్టెంట్ మరియు థియా ఉత్పత్తి చిత్ర జనరేటర్.

రచనలలోని ఇతర AI ప్రాజెక్టులు పత్రం ప్రకారం:

  • డెలివరీ స్టాప్‌ల వద్ద వ్యాన్ల నుండి సరైన ప్యాకేజీలను త్వరగా గుర్తించడానికి మరియు ఎంచుకోవడానికి డ్రైవర్లకు సహాయపడటానికి కంప్యూటర్-విజన్ టెక్నాలజీని ఉపయోగించే విజన్-అసిస్టెడ్ ప్యాకేజీ రిట్రీవల్ (VAPR) సేవ.
  • స్థిరమైన ఉత్పత్తి సమాచారాన్ని సృష్టించడానికి బాహ్య వెబ్‌సైట్ల నుండి డేటాను స్వయంచాలకంగా లాగే సేవ.
  • డెలివరీ సమయాన్ని తగ్గించడానికి మరియు సామర్థ్యాన్ని మెరుగుపరచడానికి డ్రైవర్ రౌటింగ్ మరియు ప్యాకేజీ నిర్వహణను ఆప్టిమైజ్ చేసే కొత్త AI మోడల్.
  • కస్టమర్ రిటర్న్ ఎంక్వైరీలను పరిష్కరించడానికి సహజ భాషను ఉపయోగించే మెరుగైన కస్టమర్ సేవా ఏజెంట్.
  • విక్రేత మోసం పరిశోధనలను ఆటోమేట్ చేసే మరియు పత్రాల సమ్మతిని ధృవీకరించే సేవ.

గత సంవత్సరం, అమెజాన్ తన రిటైల్ వ్యాపారం ద్వారా AI పెట్టుబడులు పరోక్షంగా billion 2.5 బిలియన్ల నిర్వహణ లాభాలను అందించాయని అంచనా వేసింది, పత్రాలు చూపించాయి. ఆ పెట్టుబడులు కూడా సుమారు 70 670 మిలియన్ల వేరియబుల్ ఖర్చు ఆదా అయ్యాయి.

ఆ కొలమానాల కోసం 2025 అంచనాలు ఏమిటో అస్పష్టంగా ఉంది. కానీ అమెజాన్ AI కోసం భారీగా ఖర్చు చేయడం కొనసాగించాలని యోచిస్తోంది.

ఈ సంవత్సరం ప్రారంభంలో, అమెజాన్ యొక్క రిటైల్ ఆర్మ్ GPU- శక్తితో పనిచేసే AI ప్రాజెక్టుల కోసం సుమారు billion 1 బిలియన్ల పెట్టుబడులను ated హించింది. మొత్తంమీద, రిటైల్ విభాగం 2025 లో AWS క్లౌడ్ మౌలిక సదుపాయాల కోసం సుమారు 7 5.7 బిలియన్లను ఖర్చు చేయాలని ఆశిస్తోంది, ఇది 2024 లో 4.5 బిలియన్ డాలర్ల నుండి, అంతర్గత పత్రాలు చూపిస్తున్నాయి.

సామర్థ్యాన్ని మెరుగుపరుస్తుంది

గత సంవత్సరం, అమెజాన్ యొక్క భారీ స్లేట్ AI ప్రాజెక్టులు దాని GPU సరఫరాపై ఒత్తిడి తెచ్చాయి.

2024 రెండవ భాగంలో, అమెజాన్ యొక్క రిటైల్ యూనిట్ 1,000 పి 5 కంటే ఎక్కువ ఉదాహరణల సరఫరా కొరతతో బాధపడింది, 8 ఎన్విడియా హెచ్ 100 జిపియులను కలిగి ఉన్న AWS యొక్క క్లౌడ్ సర్వర్ డిసెంబర్ నుండి వచ్చిన పత్రాలలో ఒకటి. పి 5 కొరత ఈ సంవత్సరం ఆరంభంలో కొద్దిగా మెరుగుపడుతుందని, ఆ డిసెంబర్ అంచనాల ప్రకారం, 2025 లో తరువాత మిగులు వైపు తిరగండి.

అమెజాన్ ప్రతినిధి BI కి ఆ అంచనాలు ఇప్పుడు “పాతవి” అని చెప్పాడు మరియు ప్రస్తుతం GPU కొరత లేదు.

2025 చివరి నాటికి రిటైల్ డివిజన్ యొక్క డిమాండ్ను సంతృప్తి పరచడానికి AWS యొక్క అంతర్గత AI చిప్ ట్రెయినియం కూడా అంచనా వేయబడింది, కాని “త్వరగా కాదు” అని పత్రాలలో ఒకటి తెలిపింది.

అమెజాన్ యొక్క మెరుగుదల సామర్థ్యం ఫిబ్రవరి నుండి ఆండీ జాస్సీ వ్యాఖ్యలతో సమం చేస్తుంది, అతను GPU మరియు సర్వర్ పరిమితులు అని చెప్పాడు “విశ్రాంతి తీసుకోండి” ఈ సంవత్సరం రెండవ సగం నాటికి.

కానీ ఈ ప్రయత్నాలతో కూడా, అమెజాన్ ఇప్పటికీ GPU సరఫరా గురించి ఆందోళన చెందుతున్న సంకేతాలు ఉన్నాయి.

GPU డిమాండ్లో పేలుడు వృద్ధి ఈ తరం యొక్క నిర్వచించే సవాలుగా మారిందని గ్రీన్లాండ్ బృందం నుండి ఇటీవలి ఉద్యోగ జాబితా అంగీకరించింది: “మేము మరింత GPU సామర్థ్యాన్ని ఎలా పొందగలం?”

మీరు అమెజాన్‌లో పని చేస్తున్నారా? చిట్కా ఉందా? వద్ద ఇమెయిల్ ద్వారా ఈ రిపోర్టర్‌ను సంప్రదించండి ekim@businessinsider.com లేదా 650-942-3061 వద్ద సిగ్నల్, టెలిగ్రామ్ లేదా వాట్సాప్. వ్యక్తిగత ఇమెయిల్ చిరునామా మరియు పని కాని పరికరాన్ని ఉపయోగించండి; సమాచారాన్ని సురక్షితంగా పంచుకోవడానికి ఇక్కడ మా గైడ్ ఉంది.

Related Articles

Back to top button