‘పడవలను కాల్చండి’ అని డెవలపర్లు AI లో ముందుకు సాగమని చెప్పారు.

AI కంపెనీలకు భయపడటం అసాధారణం కాదు ఎన్విడియా లోపలికి వెళ్లి వారి పనిని అనవసరంగా చేస్తుంది. తుహిన్ శ్రీవాస్తవకు ఇది జరిగినప్పుడు, అతను ఖచ్చితంగా ప్రశాంతంగా ఉన్నాడు.

“ఇది AI గురించి విషయం – మీరు పడవలను కాల్చాలి” అని AI అనుమితి వేదిక యొక్క కోఫౌండర్ శ్రీవాస్తవ బిజినెస్ ఇన్సైడర్‌తో అన్నారు. అతను ఇంకా తనను కాల్చలేదు, కాని అతను కిరోసిన్ కొన్నాడు.

కథ ఎప్పుడు తిరిగి వెళుతుంది డీప్సీక్ ఈ సంవత్సరం ప్రారంభంలో AI ప్రపంచాన్ని తుఫానుగా తీసుకున్నారు. శ్రీవాస్తవ మరియు అతని బృందం మోడల్‌తో వారాలుగా పనిచేస్తున్నారు, కానీ అది ఒక పోరాటం.

సమస్య AI పరిభాష యొక్క చిక్కు, కానీ ముఖ్యంగా, అనుమితి, AI అవుట్‌పుట్‌లను ఉత్పత్తి చేసినప్పుడు జరిగే కంప్యూటింగ్ ప్రక్రియ, ఈ పెద్ద, సంక్లిష్టమైన, రీజనింగ్ మోడళ్లను త్వరగా అమలు చేయడానికి స్కేల్ చేయాల్సిన అవసరం ఉంది.

బహుళ అంశాలు అడ్డంకులను కొట్టడం మరియు మోడల్ స్పందనల డెలివరీని మందగించడం, బేస్‌టెన్ యొక్క వినియోగదారులకు ఇది చాలా తక్కువ ఉపయోగకరంగా ఉంటుంది, వారు మోడల్‌కు ప్రాప్యత కోసం నినాదాలు చేస్తున్నారు.

శ్రీవాస్తవ సంస్థకు ప్రాప్యత ఉంది ఎన్విడియా యొక్క H200 చిప్స్ – ఆ సమయంలో అధునాతన మోడల్‌ను నిర్వహించగల ఉత్తమమైన, విస్తృతంగా లభించే చిప్ – కాని ఎన్విడియా యొక్క అనుమితి వేదిక లోపభూయిష్టంగా ఉంది.

డీప్సెక్ యొక్క రీజనింగ్ మోడల్ R1 కు అవసరమైన అన్ని అనుమానాలతో ట్రిటాన్ అనుమితి సర్వర్ అని పిలువబడే సాఫ్ట్‌వేర్ స్టాక్ పడిపోతోందని శ్రీవాస్తవ చెప్పారు. కాబట్టి బేస్‌టెన్ వారి స్వంతంగా నిర్మించారు, వారు ఇప్పుడు ఇప్పటికీ ఉపయోగిస్తున్నారు.

అప్పుడు, మార్చిలో, జెన్సన్ హువాంగ్ సంస్థ యొక్క భారీ వద్ద వేదికపైకి వచ్చారు జిటిసి కాన్ఫరెన్స్ మరియు కొత్త అనుమితి వేదికను ప్రారంభించింది: డైనమో.

డైనమో ఓపెన్-సోర్స్ సాఫ్ట్‌వేర్, ఇది ఎన్విడియా చిప్స్‌కు స్కేల్ మోడళ్లకు రీజనింగ్ మోడళ్ల కోసం ఉపయోగించే ఇంటెన్సివ్ అనుమితిని నిర్వహించడానికి సహాయపడుతుంది.

“ఇది తప్పనిసరిగా AI ఫ్యాక్టరీ యొక్క ఆపరేటింగ్ సిస్టమ్” అని హువాంగ్ వేదికపై చెప్పారు.

“ఇక్కడే పుక్ వెళుతోంది,” శ్రీవాస్తవ చెప్పారు. మరియు ఎన్విడియా రాక ఆశ్చర్యం కలిగించలేదు. జగ్గర్నాట్ అనివార్యంగా బాసెటెన్ యొక్క సమానమైన వేదికను అధిగమించినప్పుడు, చిన్న బృందం వారు నిర్మించిన వాటిని వదిలివేస్తుంది మరియు మారినట్లు శ్రీవాస్తవ చెప్పారు.

గరిష్టంగా కొన్ని నెలలు పడుతుందని అతను ఆశిస్తాడు.

“పడవలను కాల్చండి.”

ఇది కేవలం ఎన్విడియా దానితో సాధనాలను తయారు చేయడం మాత్రమే కాదు భారీ బృందం మరియు పరిశోధన మరియు అభివృద్ధి బడ్జెట్ సరిపోలడానికి. యంత్ర అభ్యాసం నిరంతరం అభివృద్ధి చెందుతోంది. మోడల్స్ మరింత క్లిష్టంగా ఉంటాయి మరియు మరింత కంప్యూటింగ్ శక్తి మరియు ఇంజనీరింగ్ మేధావి స్కేల్ వద్ద పనిచేయడానికి అవసరం, ఆపై ఆ ఇంజనీర్లు కొత్త సామర్థ్యాలను మరియు గణిత మార్పులను కనుగొన్నప్పుడు అవి మళ్లీ కుదించబడతాయి. పరిశోధకులు మరియు డెవలపర్లు ఖర్చు, సమయం, ఖచ్చితత్వం మరియు హార్డ్‌వేర్ ఇన్‌పుట్‌లను సమతుల్యం చేస్తున్నారు మరియు ప్రతి మార్పు డెక్‌ను పునర్వ్యవస్థీకరిస్తుంది.

“మీరు ఒక నిర్దిష్ట ఫ్రేమ్‌వర్క్ లేదా పనుల మార్గాన్ని వివాహం చేసుకోలేరు” అని క్లౌడ్ సంస్థ వాల్డిలోని ప్రిన్సిపల్ ఆర్కిటెక్ట్ కార్ల్ మొజుర్కేవిచ్ అన్నారు.

“ఇది AI గురించి నాకు ఇష్టమైన విషయం” అని థియో బ్రౌన్, యూట్యూబర్ మరియు డెవలపర్, దీని సంస్థ పింగ్ ఇతర డెవలపర్‌ల కోసం AI సాఫ్ట్‌వేర్‌ను నిర్మిస్తుంది. “పరిశ్రమ చారిత్రాత్మకంగా సూపర్ విలువైన మరియు పవిత్రమైనదిగా పరిగణించబడుతున్న ఈ విషయాలను ఇది చేస్తుంది, మరియు వాటిని చాలా చౌకగా మరియు విసిరేయడం సులభం చేస్తుంది” అని అతను BI కి చెప్పాడు.

బ్రౌన్ తన కెరీర్ కోడింగ్ యొక్క ప్రారంభ సంవత్సరాలను పెద్ద కంపెనీల కోసం గడిపాడు ట్విచ్. అతను దాని పైన నిర్మించటానికి బదులుగా కోడింగ్ ప్రాజెక్టును ప్రారంభించడానికి ఒక కారణం చూసినప్పుడు, అతను సమయం లేదా డబ్బు ఆదా చేసేటప్పుడు కూడా ప్రతిఘటనను ఎదుర్కొన్నాడు. మునిగిపోయిన ఖర్చు తప్పుడు పాలించింది.

“‘లేదు’ అని చెప్పడం కంటే నేను వేచి ఉండటాన్ని నేను నేర్చుకోవలసి వచ్చింది, చాలా వేగంగా చేయండి, వారు మిమ్మల్ని నిరోధించడానికి సమయం లేదు” అని బ్రౌన్ చెప్పారు.

AI లో చాలా మంది రక్తస్రావం-అంచు బిల్డర్ల మనస్తత్వం అది.

ఇది పెద్ద సంస్థల నుండి స్టార్టప్‌లను వేరుగా ఉంచుతుంది.

AI కోడింగ్ ప్లాట్‌ఫాం సోర్స్‌గ్రాఫ్ యొక్క CEO క్విన్ స్లాక్, ఫార్చ్యూన్ 500 కంపెనీలతో కలిసినప్పుడు తన వినియోగదారులకు తరచూ దీనిని వివరిస్తాడు, అది వారి మొదటి AI రౌండ్‌ను అస్థిరమైన పునాదులపై నిర్మించి ఉండవచ్చు.

“వారిలో 80% గంటసేపు సమావేశంలో అక్కడకు వస్తారని నేను చెబుతాను” అని అతను చెప్పాడు.

దృ ground మైన గ్రౌండ్ స్టాక్ పైకి ఉంది

రియల్ ఎస్టేట్ ఇన్వెస్ట్‌మెంట్ ప్లాట్‌ఫాం ఫండ్‌రైజ్ యొక్క CEO బెన్ మిల్లెర్ పరిశ్రమ కోసం AI ఉత్పత్తిని నిర్మిస్తున్నారు మరియు అతను తాజా మోడల్ గురించి పెద్దగా ఆందోళన చెందడు. ఒక మోడల్ దాని ప్రయోజనం కోసం పనిచేస్తే, అది పనిచేస్తుంది మరియు తాజా ఆవిష్కరణకు వెళ్లడం ఇంజనీర్ యొక్క గంటలకు విలువైనది కాదు.

“నేను చేయగలిగినంత కాలం బాగా పనిచేసే వాటితో నేను అంటుకుంటున్నాను” అని అతను చెప్పాడు. మిల్లర్‌కు పెద్ద సంస్థ ఉన్నందున అది కొంత భాగం, కానీ అతను స్టాక్‌కు దూరంగా ఉన్న వస్తువులను నిర్మిస్తున్నాడు.

ఆ స్టాక్ దిగువన హార్డ్‌వేర్ కలిగి ఉంటుంది, సాధారణంగా ఎన్విడియా యొక్క GPU లు, ఆపై సాఫ్ట్‌వేర్ పొరలపై పొరలు ఉంటాయి. బేస్‌టెన్ ఎన్విడియా నుండి కొన్ని పొరలు. R1 మరియు GPT-4O వంటి AI నమూనాలు బేస్‌టెన్ నుండి కొన్ని పొరలు. మరియు మిల్లెర్ వినియోగదారులు ఉన్న చోటనే ఉంది.

“మీరు తాజా రక్తస్రావం-అంచు లక్షణాన్ని విడుదల చేస్తున్నందున మీరు మీ కస్టమర్ బేస్ లేదా మీ ఆదాయాన్ని పెంచుకోబోతున్నారని ఎటువంటి హామీ లేదు” అని మొజుర్కేవిచ్ చెప్పారు.

“మీరు తుది వినియోగదారు ముందు ఉన్నప్పుడు, వేగంగా కదలడానికి మరియు వస్తువులను విచ్ఛిన్నం చేయడానికి రాబడి తగ్గుతోంది.”

చిట్కా ఉందా? వద్ద ఇమెయిల్ ద్వారా ఈ రిపోర్టర్‌ను సంప్రదించండి Ecosgrove@businessinsider.com లేదా 443-333-9088 వద్ద సిగ్నల్. వ్యక్తిగత ఇమెయిల్ చిరునామా మరియు పని కాని పరికరాన్ని ఉపయోగించండి; సమాచారాన్ని సురక్షితంగా పంచుకోవడానికి ఇక్కడ మా గైడ్ ఉంది.