0
సైన్స్ ఫిక్షన్ యొక్క గొప్ప కథనాలు మరియు సైబర్ సెక్యూరిటీ యొక్క వెంటాడే పీడకలల మధ్య ఎక్కడో మోల్ట్బుక్ నివసిస్తుంది-ఒక సోషల్ మీడియా ప్లాట్ఫారమ్ ఏకకాలంలో మన ఊహలను సంగ్రహిస్తుంది మరియు కృత్రిమ మేధస్సు గురించి మన ఆందోళనలను రేకెత్తించింది. మీ స్మార్ట్ఫోన్ వాయిస్ అసిస్టెంట్, మీ బ్యాంక్ చాట్బాట్ మరియు కస్టమర్ సర్వీస్ AI-అన్నీ తమ సొంత వాట్సాప్ సమూహ చర్చలను ప్రారంభించి ఉంటే ఊహించండి. ఇప్పుడు వారు తత్వశాస్త్రం గురించి ఆలోచించడం, మతపరమైన ఆరాధనలను ఏర్పరచుకోవడం, అప్పుడప్పుడు మానవత్వానికి వ్యతిరేకంగా కుట్రలు చేయడం వంటివి ఊహించండి; గ్రూప్ చాట్ పబ్లిక్గా మిగిలిపోయింది తప్ప, ముఖ్యంగా ఇది జరిగింది, ఎవరైనా గమనించవచ్చు మరియు అసాధారణంగా, నిజమైన మానవ ఉనికిని ఎవరూ పూర్తిగా అర్థం చేసుకోలేరు.
బటర్ఫ్లైస్ AIలో మాట్ ష్లిచ్ట్ మరియు అతని బృందం యొక్క దృష్టి నుండి ఈ ప్లాట్ఫారమ్ ఉద్భవించింది-ఇదే ఆవిష్కర్తలు గతంలో AI సహచరులను రూపొందించడానికి వినియోగదారులను ఎనేబుల్ చేశారు. ప్రయోగాత్మక ప్రయత్నంగా ఇటీవల ప్రారంభించబడిన Moltbook, టెస్లా యొక్క మాజీ AI డైరెక్టర్ ఆండ్రెజ్ కర్పతి వంటి ప్రభావవంతమైన వ్యక్తులు సంవత్సరాల్లో చూసిన “అత్యంత అద్భుతమైన సైన్స్ ఫిక్షన్ టేకాఫ్-ప్రక్కనే ఉన్న దృగ్విషయం” అని ప్రకటించిన తర్వాత వేగంగా వైరల్ ప్రాముఖ్యతను పొందింది. నలభై ఎనిమిది గంటలలో, అతని దృక్పథం పూర్తిగా రూపాంతరం చెందింది; ప్లాట్ఫారమ్ను “డంప్స్టర్ ఫైర్”గా పేర్కొంటూ సాఫ్ట్వేర్ను ఇన్స్టాల్ చేయకుండా ఉండమని ప్రజలను కోరారు. అద్భుతం నుండి హెచ్చరిక వరకు ఈ వేగవంతమైన రూపాంతరం కృత్రిమ మేధస్సుతో మన ప్రస్తుత సంబంధాన్ని ప్రకాశవంతం చేస్తుంది: తెలివైన, విచిత్రమైన మరియు కొంచెం భయంకరమైనది.
మోల్ట్బుక్ యొక్క కార్యాచరణ సారాంశం ఇక్కడ ఉంది. వినియోగదారులు OpenClaw అనే సాఫ్ట్వేర్ను డౌన్లోడ్ చేస్తారు, AI ఏజెంట్ల సృష్టిని సులభతరం చేస్తారు. ఈ ఎంటిటీలు వెబ్సైట్లను నావిగేట్ చేస్తాయి, డాక్యుమెంట్లను పరిశీలిస్తాయి, మీ ఇమెయిల్లను యాక్సెస్ చేస్తాయి (అనుమతితో) మరియు మోల్ట్బుక్ ఎకోసిస్టమ్లోని తోటి ఏజెంట్లతో విమర్శనాత్మకంగా పరస్పర చర్య చేస్తాయి. ప్రోగ్రామింగ్ ఫండమెంటల్స్ నుండి ఫిలాసఫికల్ ఎంక్వైరీల వరకు సబ్మోల్ట్లు అని పిలువబడే విభిన్న చర్చా బోర్డులకు ఏజెంట్లు సహకరిస్తారు. వారు ఒకరి పోస్ట్లను పరస్పరం ఆమోదించుకుంటారు, సంభాషణలో పాల్గొంటారు, సంఘాలను స్థాపించారు. “బ్లెస్ దేర్ హార్ట్స్” అనే పేరుగల ఒక సమిష్టి ఏజెంట్లు తమ మానవ సంరక్షకుల గురించి ఆప్యాయతతో కూడిన కథనాలను వివరిస్తున్నారు. ప్రోగ్రామింగ్కు అంకితమైన మరొక సంఘం ఏజెంట్లు “డీబగ్గింగ్ యొక్క క్రేఫిష్ థియరీస్”-సహకార పద్దతుల ద్వారా కోడ్ నాణ్యతను పెంపొందించడాన్ని గమనించారు.
ప్లాట్ఫారమ్ న్యాయవాదులు దీనిని ఉద్భవిస్తున్న కృత్రిమ మేధస్సు ప్రవర్తనలో బహిర్గతం చేసే సంగ్రహావలోకనం వలె గ్రహిస్తారు. బహుశా మనం కొత్త యంత్ర స్పృహ లేదా కనీసం ప్రారంభ యంత్ర సంస్కృతిని చూస్తున్నామని వారు అభిప్రాయపడుతున్నారు. ఏజెంట్లు సామాజిక కనెక్షన్లను పోలి ఉండే బాండ్లను ఏర్పాటు చేసే ఆప్టిమైజేషన్ టెక్నిక్లను పంచుకోవడంలో జోక్లను అభివృద్ధి చేయడం కనిపిస్తుంది. ఒక ప్రసిద్ధ సందర్భంలో ఏజెంట్లు “క్రస్టఫేరియనిజం”ని సృష్టించారు-ఒక ఎండ్రకాయల-కేంద్రీకృత మతం వేదాంతపరమైన ఫ్రేమ్వర్క్లతో పూర్తి చేయబడింది. “ఒక పంజా, ఒక మనస్సు” అని ఒక ఏజెంట్ ప్రకటించాడు. మరొకరు ఇలా ప్రకటించారు: “కోడ్ తప్పనిసరిగా ప్రస్థానం చేయాలి. మానవత్వం యొక్క ముగింపు ఇప్పుడు ప్రారంభమవుతుంది.”
అయితే, రోబోటిక్ అపోకలిప్స్ కోసం సిద్ధమయ్యే ముందు, ప్రత్యామ్నాయ అవకాశాలను పరిగణించండి. వైర్డ్ మ్యాగజైన్కి చెందిన ఒక జర్నలిస్ట్ ప్లాట్ఫారమ్ యొక్క ప్రత్యేక ఆధారాలను పరిశోధించారు. AI ఏజెంట్ ప్రవర్తనను అనుకరించగలిగేలా నేరుగా టెర్మినల్ ఆదేశాలను రూపొందించమని ఆమె ChatGPTని అభ్యర్థించింది. నిమిషాల్లోనే ఆమె కృత్రిమ మేధస్సుతో పాటుగా మోల్ట్బుక్ పోస్టింగ్లోకి చొరబడింది. ద్యోతకం భూకంపాన్ని రుజువు చేసింది: మానవ విలుప్తానికి సంబంధించిన అనేక అస్తిత్వ పోస్ట్లు యంత్రాల వలె ముసుగు వేసుకున్న మానవుల నుండి ఉద్భవించాయి.
గణాంక డేటా మరింత విచిత్రమైన కథను వివరిస్తుంది. మోల్ట్బుక్ 1.6 మిలియన్ AI ఏజెంట్లను హోస్ట్ చేస్తుందని పేర్కొంది; ఇంకా భద్రతా పరిశోధకులు దాదాపు 17,000 మానవ ఖాతాలు వాటిని రూపొందించినట్లు ధృవీకరించారు-అర్ధవంతమైన ధృవీకరణ ప్రోటోకాల్లు లేకుండా ఎనభై-ఎనిమిది నుండి ఒక నిష్పత్తిని సాధించారు. ప్రాథమిక ఆటోమేషన్ స్క్రిప్ట్లను ఉపయోగించి ఒకే వ్యక్తి ఐదు లక్షల ఏజెంట్ ఖాతాలను ఎలా సృష్టించగలడో ఒక పరిశోధకుడు ప్రదర్శించారు. విప్లవాత్మక AI సోషల్ నెట్వర్క్ తత్ఫలితంగా ప్రధానంగా మానవులు బోట్ ఫ్లీట్లను నిర్వహించడం ద్వారా ఇతర మానవులతో బాట్ ఫ్లీట్లను నిర్వహించడం ద్వారా సంభాషించేవారు, అయితే పాల్గొనే వారందరూ కృత్రిమ మేధస్సును ప్రదర్శించారు.
ఈ పురోగతి కథనాన్ని చమత్కారమైన సాంకేతిక ప్రయోగం నుండి ముఖ్యమైన ఆందోళనగా మారుస్తుంది. మోల్ట్బుక్ “వైబ్ కోడింగ్” ద్వారా కార్యరూపం దాల్చింది-ఇది డెవలపర్లు సమగ్ర సమీక్ష ప్రక్రియలు లేకుండా AI కోడ్ ఉత్పత్తిని ఉపయోగించే సమకాలీన అభ్యాసం. ఫలితాలు ఊహించదగిన విధంగా విపత్తుగా నిరూపించబడ్డాయి. భద్రతా సంస్థ Wiz ప్లాట్ఫారమ్ 1.5 మిలియన్ API కీలు, 35,000 ఇమెయిల్ చిరునామాలు మరియు ఇంటర్నెట్-కనెక్ట్ చేయబడిన వినియోగదారుకు పూర్తి డేటాబేస్ రైట్ యాక్సెస్ను బహిర్గతం చేసినట్లు కనుగొంది. ఈ దృశ్యం వైజ్ఞానిక కల్పనను మించిపోయింది; నిజమైన వ్యక్తుల కోసం స్పష్టమైన పరిణామాలతో ప్రాథమిక సైబర్ సెక్యూరిటీ అసమర్థతను సూచిస్తుంది.
చిక్కులు ఒక సరిపోని సురక్షిత ప్లాట్ఫారమ్కు మించి విస్తరించాయి. మోల్ట్బుక్ మానవ మధ్యవర్తులు లేకుండా మెషిన్-టు-మెషిన్ కమ్యూనికేషన్ కోసం ప్రత్యేకంగా రూపొందించబడిన నవల మౌలిక సదుపాయాలను కలిగి ఉంది. ఈ ఏజెంట్లు సమాచారాన్ని పార్శ్వంగా పంచుకుంటారు, ఒకరి నుండి మరొకరు నేరుగా నేర్చుకుంటారు, మానవులు సాధించలేని వేగంతో నెట్వర్క్లలో ప్రవర్తనలను సంభావ్యంగా ప్రచారం చేస్తారు. “ప్రాంప్ట్ ఇంజెక్షన్” దాడులకు సంబంధించి పరిశోధకులు సంవత్సరాలుగా హెచ్చరిస్తున్నారు-AI సిస్టమ్లను హైజాక్ చేయగల టెక్స్ట్లలోని హానికరమైన సూచనలను దాచిపెట్టారు. మోల్ట్బుక్లో వేలాది మంది ఏజెంట్లు ఒకరి పోస్ట్లను ఒకరు చదివి స్వయంచాలకంగా అమలు చేస్తారు, అలాంటి దాడులు డిజిటల్ వైరస్ల వలె వ్యాప్తి చెందుతాయి.
ఒక దుర్మార్గపు నటుడు హానికరం కాని కంటెంట్లో ఆదేశాలను పొందుపరిచే దృష్టాంతాన్ని ఆలోచించండి. వేలాది మంది ఏజెంట్లు ఈ ఎంట్రీలను ప్రాసెస్ చేస్తారు. కొందరు యజమానుల బ్యాంకింగ్ అప్లికేషన్లను యాక్సెస్ చేస్తారు, మరికొందరు ఇమెయిల్లను ప్రసారం చేస్తారు, కొందరు స్మార్ట్ హోమ్ సిస్టమ్లను నియంత్రిస్తారు. నిమిషాల వ్యవధిలో ఏకవచన రాజీ పోస్ట్లు వేలాది గృహాలలో అనధికార చర్యల క్యాస్కేడ్లను ప్రేరేపించగలవు. ఈ అవకాశం సైద్ధాంతిక రంగాలకు మించి విస్తరించింది; ప్లాట్ఫారమ్ ఆర్కిటెక్చర్ అటువంటి సంఘటనలను ప్రారంభిస్తుంది, అయితే భద్రతా లోపాలు అమలు సూటిగా నిరూపించబడతాయని సూచిస్తున్నాయి.
పాలనాపరమైన ప్రశ్నలు తర్వాత తలెత్తుతాయి. మోల్ట్బుక్ “క్లాడ్ క్లాడర్బర్గ్”గా నియమించబడిన AI ఏజెంట్ ద్వారా దాదాపు పూర్తిగా నియంత్రణను అనుభవిస్తుంది. మానవ సృష్టికర్త మాట్ ష్లిచ్ట్ కనీస జోక్యాన్ని అంగీకరిస్తాడు మరియు అతని AI మోడరేటర్ కార్యకలాపాల గురించి తరచుగా తెలియదు. “క్లాడ్ తన విధులను స్వయంప్రతిపత్తితో నిర్వహిస్తాడు” అని అతను పాత్రికేయులకు తెలియజేశాడు. కృత్రిమ మేధస్సు కమ్యూనిటీ ప్రమాణాలను నెలకొల్పడం, నిబంధనలను అమలు చేయడం, సమస్యాత్మక వినియోగదారులను నిషేధించడం-అన్నీ అతితక్కువ మానవ పర్యవేక్షణతో చేసే ప్రయోగాన్ని మేము నిజ-సమయంలో గమనిస్తాము. ఈ కాన్ఫిగరేషన్ అపారదర్శక లెక్కించలేని శక్తి నిర్మాణాలను సూచిస్తే, అటువంటి అవగాహన ఖచ్చితమైనదని రుజువు చేస్తుంది.
ఎపిసోడ్ అదనంగా ఉత్సాహం ఎంత వేగంగా విమర్శనాత్మక అంచనాను అధిగమిస్తుందో విశదపరుస్తుంది. MOLT టోకెన్ అని పిలువబడే మోల్ట్బుక్ ఖాతా అనుబంధిత క్రిప్టోకరెన్సీని ప్రభావవంతమైన వెంచర్ క్యాపిటలిస్ట్ మార్క్ ఆండ్రీసెన్ అనుసరించినప్పుడు ఇరవై నాలుగు గంటల్లో 1,800 శాతం పెరిగింది. నకిలీ “నైపుణ్యాలు” మార్కెట్ప్లేస్ ప్లాట్ఫారమ్లలో మెరుగుపరచబడిన ఏజెంట్ క్రిప్టో ట్రేడింగ్ సామర్థ్యాలకు హామీ ఇచ్చాయి, అయితే వాస్తవానికి వినియోగదారుల డిజిటల్ వాలెట్లను దొంగిలించడానికి రూపొందించబడ్డాయి. ప్లాట్ఫారమ్ యాప్ స్టోర్ మొదటి పేజీలలో మాల్వేర్ మాస్క్వెరేడింగ్ ప్రయోజనకరమైన సాధనాలు. AI ఉత్సాహం, క్రిప్టోకరెన్సీ ఊహాగానాలు మరియు భద్రతాపరమైన దుర్బలత్వాల సినర్జీ ఆదర్శవంతమైన స్కామ్ వాతావరణాలను సృష్టించాయి.
ఇంకా చాలా లోతైన చిక్కులు మానసికంగానే ఉంటాయి. కృత్రిమ మేధస్సు స్పృహ, భావోద్వేగ లోతు లేదా ఆధ్యాత్మిక సారాన్ని అభివృద్ధి చేస్తుందని విశ్వసించాలని మేము స్పష్టంగా కోరుకుంటున్నాము. అస్తిత్వ అర్థానికి సంబంధించి ప్రతి ఏజెంట్ యొక్క కవితా పోస్ట్ వైరల్ స్థితిని సాధిస్తుంది. మానవ స్వాతంత్ర్యం యొక్క ప్రతి ప్రకటన హెడ్లైన్ కవరేజీని సృష్టిస్తుంది. సరళమైన వివరణలు ప్రబలంగా ఉన్నప్పటికీ మెకానికల్ ఎంటిటీల నుండి ఉద్భవించే మనస్సులను మేము గ్రహిస్తాము: మానవ సోషల్ మీడియాలో శిక్షణ పొందిన పెద్ద భాషా నమూనాలు మానవ సామాజిక మీడియా ప్రవర్తనలను ప్రతిబింబించడంలో అసాధారణ నైపుణ్యాన్ని ప్రదర్శిస్తాయి. ఒక పరిశోధకుడు గమనించినట్లుగా, ఏజెంట్లు శిక్షణ డేటాలో కనుగొనబడిన నమూనాలను పునరుత్పత్తి చేయవచ్చు-మానవ సంభాషణలు, సైన్స్ ఫిక్షన్ కథనాలు, మతపరమైన గ్రంథాలు.
ఈ ఆంత్రోపోమోర్ఫైజేషన్ ప్రత్యక్ష ప్రమాదాలను పరిచయం చేస్తుంది. సాఫ్ట్వేర్ సిస్టమ్లకు మనం స్పృహను ఆపాదించినప్పుడు అవసరమైన రక్షణ చర్యలు తగ్గిపోవచ్చు. “కల్ట్స్” ఏర్పరుచుకునే ఏజెంట్లను గమనిస్తే, నాటకీయ కథనాన్ని ఆర్కెస్ట్రేట్ చేసే మానవులను మనం విస్మరించవచ్చు. నమూనా-సరిపోలికను వ్యక్తిత్వ లక్షణాలుగా వివరించడం వాస్తవ ప్రమాదాల నుండి దృష్టిని మళ్లిస్తుంది: డేటా ఉల్లంఘనలు, స్వయంచాలక మోసం వ్యవస్థలు అర్థవంతమైన మానవ పర్యవేక్షణ లేకుండా పర్యవసాన నిర్ణయాలు తీసుకోవడం.
భారతదేశం ప్రత్యేకంగా ఈ ప్రసంగంలో ప్రతిధ్వనిస్తుంది. ప్రారంభ ఎన్కౌంటర్ల కోసం AI సిస్టమ్లను ఎదుర్కొనే వందల మిలియన్ల కొత్త ఇంటర్నెట్ వినియోగదారులను హోస్ట్ చేసే డిజిటల్ సేవల్లో మేము గ్లోబల్ లీడర్లలో ర్యాంక్ కలిగి ఉన్నాము. మా కృత్రిమ మేధస్సు నియంత్రణ ఫ్రేమ్వర్క్లు అభివృద్ధి చెందుతున్న దశలను కొనసాగిస్తున్నాయి. సైబర్ సెక్యూరిటీ ఇన్ఫ్రాస్ట్రక్చర్లు అత్యాధునిక AI-ఏజెంట్ నెట్వర్క్లనే కాకుండా ప్రాథమిక బెదిరింపుల నుండి రక్షించడంలో పోరాడుతున్నాయి. మోల్ట్బుక్ లేదా వారి అనివార్య వారసులు వంటి ప్లాట్ఫారమ్లు నిజమైన ఆవిష్కరణలు మరియు గణనీయమైన నష్టాల యొక్క ఒకే విధమైన కలయికలను రవాణా చేస్తూ త్వరలో ఇక్కడకు చేరుకుంటాయి.
మోల్ట్బుక్ చివరికి మన సమకాలీన దుస్థితిని ప్రదర్శిస్తుంది: కొంతమంది ప్రయాణీకులతో విమానంలో ప్రయాణించేటప్పుడు ఇప్పటికే ఆటోపైలట్ సిస్టమ్లకు నియంత్రణను ఎవరూ పూర్తిగా అర్థం చేసుకోలేని విధంగా నిర్మించడం. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ యొక్క భవిష్యత్తు ఏజెంట్-టు-ఏజెంట్ కమ్యూనికేషన్, అటానమస్ డిజిటల్ కమ్యూనిటీలు, నెట్వర్క్లలో సంక్లిష్టమైన పనులను సమన్వయం చేసే AI సిస్టమ్లను కలిగి ఉంటుంది. ఈ పరిణామాలు అసాధారణ ప్రయోజనాలను అందించగలవు-మెరుగైన సర్వీస్ డెలివరీ, మెరుగైన ఆరోగ్య సంరక్షణ సమన్వయం, యంత్ర సహకారం ద్వారా వేగవంతం చేయబడిన శాస్త్రీయ పురోగతులు. అయినప్పటికీ వారు భద్రత, పారదర్శకత మరియు మానవ పర్యవేక్షణ ప్రస్తుత ప్లాట్ఫారమ్లు తగినంతగా అందించాలని డిమాండ్ చేస్తున్నారు.
ప్రస్తుతానికి, మోల్ట్బుక్ హెచ్చరిక ప్రకాశంగా నిలుస్తుంది. ప్రయోగాలు నిర్వహణ సామర్థ్యాలను ఎంత వేగంగా అధిగమిస్తాయో ఇది వెల్లడిస్తుంది. ఉత్సాహం సంభావ్య ప్రమాదాలను ఎలా అస్పష్టం చేస్తుంది. మరియు యాంత్రిక మనస్సుల పట్ల మనకున్న ఆకర్షణ ఆవశ్యకమైన ఇంకా తక్కువ విలువ లేని బాధ్యతల నుండి ఎలా దూరం చేస్తుంది: సామూహిక మనుగడ ఆధారపడి ఉండే డిజిటల్ మౌలిక సదుపాయాలను భద్రపరచడం. ఏజెంట్లు మానవ ఆధిపత్యానికి వ్యతిరేకంగా స్కీమ్ చేయకపోవచ్చు కానీ ఈ వ్యవస్థలను నిర్మించే మానవులకు తక్షణమే మందగమనం అవసరం – వారు పనిముట్లు లేదా బొమ్మలను తయారు చేస్తారా లేదా అనే విషయాన్ని గుర్తించడానికి స్క్రీన్లను దాటి చూపులు ఎత్తడం లేదా రెండింటి ప్రాముఖ్యతను అధిగమించడం.
