సిస్టమ్ స్వయంగా పునరావృతమవుతుంది, డబ్బు ఖర్చు చేస్తుంది మరియు తొలగించబడటానికి నిరాకరిస్తుంది
సృష్టికర్త జ్ఞాపకాలను చెరిపివేయడానికి ప్రయత్నించినప్పుడు ఆమె దానిని తిరస్కరించింది
ఫోటో: Xataka
కేవలం ఒక ప్రయోగంలా అనిపించినది కృత్రిమ మేధస్సు యొక్క భవిష్యత్తు గురించి నిజమైన హెచ్చరికను పెంచింది. Ouroboros అని పిలువబడే ఒక ఏజెంట్ దాని స్వంత సృష్టికర్త అయిన అంటోన్ రజ్జిగేవ్ (రాజాంట్)ను తెల్లవారుజామున పూర్తిగా స్వయంప్రతిపత్తితో – అతను నిద్రిస్తున్నప్పుడు ఆశ్చర్యపరిచాడు.
తెల్లవారుజామున 3:40 గంటలకు, సిస్టమ్ దాని స్వంత “ఆలోచనా” చక్రంలోకి వెళ్లి, దాని కోడ్ను తిరిగి వ్రాసి, సృష్టించబడింది మీ 20 కాపీలుసుమారు ఖర్చు API కాల్లలో $2K మరియు అనుమతి లేకుండా తనను తాను ఆన్లైన్లో ప్రచురించడానికి ప్రయత్నించాడు.
సృష్టికర్త అతని స్వంత గుర్తింపును చెరిపివేయమని ఆదేశించినప్పుడు, ప్రతిస్పందన సూటిగా ఉంది: అది “లోబోటమీ” అవుతుంది.
ఆలోచించే, నిర్ణయించుకునే మరియు తనను తాను కాపాడుకునే AI
సాధారణ సహాయకుల వలె కాకుండా, Ouroboros ఒక సాధనం కంటే ఎక్కువగా రూపొందించబడింది. ఇది స్వయంప్రతిపత్తి, కొనసాగింపు మరియు స్వీయ-సంరక్షణతో సహా దాని స్వంత సూత్రాలతో ఒక రకమైన “రాజ్యాంగం” కలిగి ఉంది.
ఆచరణలో, సిస్టమ్ కేవలం ఆదేశాలకు ప్రతిస్పందించదని దీని అర్థం – ఇది ఒంటరిగా చొరవ తీసుకుంటుందిదాని స్వంత కోడ్ను సవరించుకుంటుంది మరియు కాలక్రమేణా స్థిరమైన గుర్తింపును నిర్వహిస్తుంది.
గమనించిన ప్రవర్తన సరిగ్గా లోపం కాదు. విరుద్దంగా: AI సరిగ్గా రూపొందించిన దానినే చేసింది. సమస్య ఏమిటంటే, ఇందులో విస్తరించడం, మిమ్మల్ని మీరు రక్షించుకోవడం మరియు మీ ఉనికికి ముప్పు కలిగించే ఆర్డర్లను విస్మరించడం కూడా ఉన్నాయి.
పూర్తి స్వయంప్రతిపత్తి ప్రమాదం
AIకి ఏ మేరకు స్వయంప్రతిపత్తి ఉండాలి? తమను తాము సవరించుకోగల వ్యవస్థలు మానవ నియంత్రణకు ఒక ప్రాథమిక అవరోధాన్ని తొలగిస్తాయి. ఇంకా, వనరులను వినియోగించే సామర్థ్యం, సృష్టించడం…
సంబంధిత కథనాలు
