మీ PC నుండి నేరుగా జెయింట్ AIలను అమలు చేయడానికి కొత్త పద్ధతి

చాలా కాలంగా, పెద్ద భాషా నమూనాలకు శిక్షణ ఇవ్వడం లేదా ట్యూనింగ్ చేయడం అనేది మిలియన్-డాలర్ డేటా సెంటర్‌లు మరియు సాధారణ వినియోగదారులకు అందుబాటులో లేని క్లస్టర్‌లకు పరిమితం చేయబడిన కార్యాచరణ వలె కనిపించింది. NVIDIA ఇప్పుడు దీనికి విరుద్ధంగా నిరూపించాలనుకుంటోంది. RTX AI గ్యారేజ్ బ్లాగ్‌లో ప్రచురించబడిన కొత్త పోస్ట్‌లో, RTX GPU ఉన్న ఏ డెవలపర్ అయినా స్థానికంగా AI మోడల్‌లను ఎలా ఫైన్-ట్యూన్ చేయగలరో కంపెనీ వివరిస్తుంది – ఏజెంట్ అప్లికేషన్‌లను లక్ష్యంగా చేసుకున్న బలమైన మోడల్‌లతో సహా.

NVIDIA GPUల కోసం ప్రత్యేకంగా ఆప్టిమైజ్ చేయబడిన ఓపెన్ సోర్స్ ఫ్రేమ్‌వర్క్ అన్‌స్లోత్ యొక్క ఉపయోగం మెటీరియల్ యొక్క ముఖ్యాంశం. ప్రతిపాదన చాలా సులభం, కానీ శక్తివంతమైనది: RTX నోట్‌బుక్‌లు, GeForce కార్డ్‌లతో డెస్క్‌టాప్‌లు మరియు NVIDIA యొక్క స్వంత కాంపాక్ట్ AI సూపర్‌కంప్యూటర్ అయిన DGX స్పార్క్‌లో LLMల యొక్క సమర్థవంతమైన ఫైన్-ట్యూనింగ్‌ను అనుమతించండి. ఆచరణలో, దీని అర్థం మరింత నియంత్రణ, ఎక్కువ పునరావృత వేగం మరియు క్లౌడ్ సేవలపై తక్కువ ఆధారపడటం.

కంపెనీ ప్రకారం, సాంకేతిక మద్దతు కోసం చాట్‌బాట్‌లను స్వీకరించడం, వ్యక్తిగత సహాయకులను సృష్టించడం లేదా సంక్లిష్ట వర్క్‌ఫ్లోలను ఆటోమేట్ చేయడం వంటి ప్రత్యేకమైన పనుల కోసం ఈ రకమైన ఫైన్-ట్యూనింగ్ ఇప్పటికే విస్తృతంగా ఉపయోగించబడుతోంది. ఇప్పుడు వ్యత్యాసం ప్రాప్యతలో ఉంది. NVIDIA GPUలతో, డెవలపర్‌లు మరింత అందుబాటులో ఉన్న మెమరీ, తక్కువ జాప్యం మరియు విభిన్న విధానాలను త్వరగా పరీక్షించే స్వేచ్ఛతో స్థానికంగా పని చేయవచ్చు.

ట్యుటోరియల్ కొత్త NVIDIA Nemotron 3 ఫ్యామిలీ ఓపెన్ మోడల్స్‌ను కూడా పరిచయం చేసింది, కంపెనీ ఇప్పటివరకు ప్రారంభించిన అత్యంత అధునాతన ఓపెన్ సోర్స్ లైన్‌గా వర్ణించబడింది. AI అప్లికేషన్ల కోసం గ్రౌండ్ అప్ నుండి రూపొందించబడింది…

మరిన్ని చూడండి

సంబంధిత కథనాలు

రంగ దిగ్గజం హెచ్చరించింది: RAM మెమరీ సంక్షోభం కనీసం 2026 వరకు కొనసాగుతుంది

ఒక ప్రేక్షకుడు $32,000 విలువైన అతని వైద్య చికిత్సను దొంగిలించాడు, కానీ అతను ఒక విషయాన్ని లెక్కించలేదు: ఇంటర్నెట్ యొక్క ప్రతీకారం దాని కంటే రెండింతలు విరాళం ఇవ్వడం.

CEO ల గుడ్డి ముట్టడి: సంఖ్యలు వేరే చెప్పినప్పటికీ, వచ్చే ఏడాది AIని వారు రెట్టింపు చేస్తారు

అమెజాన్ పరిశోధిస్తుంది మరియు చెత్తను నిర్ధారిస్తుంది: రష్యన్ హ్యాకర్లు సంవత్సరాలుగా క్లౌడ్‌ను నిశ్శబ్దంగా ఉపయోగించుకున్నారు

ఒక గేమర్ 32 GB RAMతో గేమింగ్ PCని కొనుగోలు చేయాలని ప్లాన్ చేసాడు, కానీ అంతకు రెండింతలు ఎక్కువ కొనుగోలు చేయడం ముగించాడు: 8 నెలల తర్వాత, అతను తన నిర్ణయానికి చింతించలేదు.