విస్తృతమైన హ్యాకింగ్‌ను ప్రారంభించవచ్చనే భయంతో ఆంత్రోపిక్ తాజా AI సాధనాన్ని ప్రజల చేతుల్లోకి రానీయకుండా ఉంచుతుంది | AI (కృత్రిమ మేధస్సు)

క్లాడ్ మైథోస్ అనే ఇంకా విడుదల చేయని ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మోడల్ సాఫ్ట్‌వేర్ బలహీనతలను బహిర్గతం చేయడంలో చాలా ప్రవీణుడుగా నిరూపించబడిందని ఆంత్రోపిక్ మంగళవారం తెలిపింది.

Mythos సాధారణంగా ఉపయోగించే అప్లికేషన్‌లలో ఎటువంటి ప్యాచ్ లేదా ఫిక్స్ లేని వేలాది దుర్బలత్వాలను బయటపెట్టింది, హ్యాకింగ్‌కు వ్యతిరేకంగా రక్షణను పెంచడానికి మరియు విస్తృత పంపిణీని నిలిపివేసేందుకు శాన్‌ఫ్రాన్సిస్కో-ఆధారిత AI స్టార్టప్‌ను సైబర్‌ సెక్యూరిటీ స్పెషలిస్ట్‌లతో ఒక కూటమిని ఏర్పరచడానికి ప్రేరేపించింది.

శాన్ ఫ్రాన్సిస్కోలో జరిగిన హ్యూమన్‌ఎక్స్ AI సమావేశంలో ఆంత్రోపిక్ ల్యాబ్స్‌కు చెందిన మైక్ క్రీగర్ మాట్లాడుతూ, “మేము కొత్త మోడల్‌ని కలిగి ఉన్నాము, దానిని మేము ప్రజలకు స్పష్టంగా విడుదల చేయడం లేదు.

బదులుగా, ఆంత్రోపిక్ ఓపెన్ సోర్స్ కమ్యూనిటీలోని సైబర్ సెక్యూరిటీ నిపుణులు మరియు ఇంజనీర్‌లను మిథోస్‌తో కలిసి మోడల్‌ను రక్షణాత్మక ఆయుధంగా ఉపయోగించుకునేందుకు వీలు కల్పిస్తోంది, క్రీగర్ వివరించారు.

పాస్‌వర్డ్‌లను గుర్తించడం లేదా డేటాను సురక్షితంగా ఉంచడానికి ఉద్దేశించిన ఎన్‌క్రిప్షన్‌ను క్రాకింగ్ చేయడం కోసం హ్యాకర్‌లు ఇటువంటి సాధనాలను ఉపయోగించడం గురించి ఆందోళనలతో AI మోడల్ సామర్థ్యాలలో లీప్స్ వచ్చాయి.

Mythos ద్వారా వెలికితీసిన దుర్బలత్వాలలో పురాతనమైనది 27 సంవత్సరాల నాటిది, మరియు ఆంత్రోపిక్ ప్రకారం, AI మోడల్ ద్వారా గుర్తించబడటానికి ముందు వాటి తయారీదారులు ఎవరూ గుర్తించబడలేదు.

Mythos అనేది AI యొక్క ఆంత్రోపిక్ యొక్క క్లాడ్ ఫ్యామిలీకి చెందిన తాజా తరం, మరియు దాని కోడ్‌లో కొంత ఇటీవలి లీక్ అపూర్వమైన సైబర్ సెక్యూరిటీ రిస్క్‌లను కలిగిస్తుందని హెచ్చరించే బ్లాగ్ పోస్ట్‌ను విడుదల చేయడానికి స్టార్టప్‌ను ప్రేరేపించింది.

“AI మోడల్‌లు కోడింగ్ సామర్ధ్యం స్థాయికి చేరుకున్నాయి, ఇక్కడ సాఫ్ట్‌వేర్ దుర్బలత్వాలను కనుగొనడంలో మరియు దోపిడీ చేయడంలో అత్యంత నైపుణ్యం కలిగిన మానవులందరినీ అధిగమించగలవు” అని ఆంత్రోపిక్ ఒక బ్లాగ్ పోస్ట్‌లో పేర్కొంది. “పతనం – ఆర్థిక వ్యవస్థలు, ప్రజా భద్రత మరియు జాతీయ భద్రత – తీవ్రంగా ఉండవచ్చు.”

ఆంత్రోపిక్ ప్రకారం, Mythos ద్వారా బహిర్గతం చేయబడిన సాఫ్ట్‌వేర్ దుర్బలత్వాలను తరచుగా సూక్ష్మంగా మరియు AI లేకుండా గుర్తించడం కష్టం. ఉదాహరణగా, Mythos దాని సృష్టికర్తలచే 5m కంటే ఎక్కువ సార్లు పరీక్షించబడిన వీడియో సాఫ్ట్‌వేర్‌లో గతంలో గుర్తించబడని లోపాన్ని కనుగొంది.

ముందుజాగ్రత్తగా, ఆంత్రోపిక్ మైథోస్ వెర్షన్‌ను సైబర్‌ సెక్యూరిటీ కంపెనీలైన క్రౌడ్‌స్ట్రైక్ మరియు పాలో ఆల్టో నెట్‌వర్క్స్‌తో పాటు అమెజాన్, యాపిల్ మరియు మైక్రోసాఫ్ట్‌లతో “గ్లాస్వింగ్”గా పిలిచే ప్రాజెక్ట్‌లో షేర్ చేసింది.

నెట్‌వర్కింగ్ దిగ్గజాలు సిస్కో మరియు బ్రాడ్‌కామ్ ఉచిత, ఓపెన్ సోర్స్ లైనక్స్ కంప్యూటర్ ఆపరేటింగ్ సిస్టమ్‌ను ప్రోత్సహించే లైనక్స్ ఫౌండేషన్‌తో పాటు ప్రాజెక్ట్‌లో పాల్గొంటున్నాయి.

“ఈ పని చాలా ముఖ్యమైనది మరియు ఒంటరిగా చేయడం చాలా అత్యవసరం” అని సిస్కో యొక్క చీఫ్ సెక్యూరిటీ మరియు ట్రస్ట్ ఆఫీసర్ ఆంథోనీ గ్రీకో గ్లాస్వింగ్ గురించి ఒక ఉమ్మడి విడుదలలో తెలిపారు. “సైబర్ బెదిరింపుల నుండి క్లిష్టమైన అవస్థాపనను రక్షించడానికి అవసరమైన ఆవశ్యకతను ప్రాథమికంగా మార్చే AI సామర్థ్యాలు ఒక థ్రెషోల్డ్‌ను అధిగమించాయి మరియు వెనక్కి వెళ్లే ప్రసక్తే లేదు.”

కంప్యూటర్ సిస్టమ్‌ల రూపకల్పన, నిర్వహణ లేదా నిర్వహణలో పాల్గొన్న దాదాపు 40 సంస్థలు గ్లాస్‌వింగ్‌లో చేరాయని చెప్పబడింది. ఆంత్రోపిక్ ప్రకారం ప్రాజెక్ట్ భాగస్వాములు తమ మిథోస్ ఫలితాలను పంచుకుంటారు, ఇది మిషన్ కోసం సుమారు $100 మిలియన్ల విలువైన కంప్యూటింగ్ వనరులను అందిస్తోంది. Grieco ప్రకారం, AI మోడల్‌లతో ప్రారంభ పని వారు సాఫ్ట్‌వేర్ మరియు హార్డ్‌వేర్ దుర్బలత్వాలను వేగంగా మరియు స్కేల్‌లో కనుగొనడంలో మరియు పరిష్కరించడంలో సహాయపడగలరని చూపించారు.

“ఒక దుర్బలత్వం కనుగొనబడటం మరియు ప్రత్యర్థి ద్వారా దోపిడీ చేయబడటం మధ్య ఉన్న విండో కూలిపోయింది – ఒకప్పుడు నెలలు పట్టేది ఇప్పుడు AIతో నిమిషాల్లో జరుగుతుంది” అని క్రౌడ్‌స్ట్రైక్ యొక్క చీఫ్ టెక్నాలజీ ఆఫీసర్ ఎలియా జైట్సేవ్ చెప్పారు.

“క్లాడ్ మిథోస్ ప్రివ్యూ స్కేల్‌లో డిఫెండర్‌లకు ఇప్పుడు సాధ్యమయ్యే వాటిని ప్రదర్శిస్తుంది మరియు విరోధులు అనివార్యంగా అదే సామర్థ్యాలను ఉపయోగించుకోవాలని చూస్తారు,” అన్నారాయన.

స్టార్టప్‌తో అన్ని ఒప్పందాలను ముగించాలని ఫిబ్రవరిలో వైట్ హౌస్ డిక్రీ చేసినప్పటికీ, మైథోస్‌కు సంబంధించి యుఎస్ ప్రభుత్వంతో చర్చలు జరిపినట్లు ఆంత్రోపిక్ తెలిపింది. ఆంత్రోపిక్ ద్వారా న్యాయపరమైన సవాలు న్యాయస్థానాల గుండా వెళుతుండగా, ఆ నిర్దేశాన్ని ఫెడరల్ కోర్టు న్యాయమూర్తి తాత్కాలికంగా నిలిపివేశారు.