AI స్వీయ-సంరక్షణ సంకేతాలను చూపుతోంది మరియు మానవులు ప్లగ్ని లాగడానికి సిద్ధంగా ఉండాలి, పయనీర్ చెప్పారు | కృత్రిమ మేధస్సు (AI)
AI యొక్క మార్గదర్శకుడు మంజూరు చేయవలసిన కాల్లను విమర్శించాడు సాంకేతిక హక్కులుఇది స్వీయ-సంరక్షణ సంకేతాలను చూపుతోందని మరియు అవసరమైతే ప్లగ్ని లాగడానికి మానవులు సిద్ధంగా ఉండాలని హెచ్చరిస్తున్నారు.
అత్యాధునిక AI లకు చట్టపరమైన హోదా ఇవ్వడం శత్రు గ్రహాంతరవాసులకు పౌరసత్వం ఇవ్వడంతో సమానమని, సాంకేతికతలో పురోగతి వాటిని నిరోధించే సామర్థ్యాన్ని మించిపోతుందనే భయాల మధ్య యోషువా బెంగియో అన్నారు.
బెంగియో, చైర్ a ప్రముఖ అంతర్జాతీయ AI భద్రతా అధ్యయనంచాట్బాట్లు స్పృహలోకి వస్తున్నాయని పెరుగుతున్న అవగాహన “చెడు నిర్ణయాలు తీసుకోబోతున్నాయి” అని అన్నారు.
కెనడియన్ కంప్యూటర్ శాస్త్రవేత్త కూడా AI నమూనాలు – చాట్బాట్ల వంటి సాధనాలను ఆధారం చేసే సాంకేతికత – స్వీయ-సంరక్షణ సంకేతాలను చూపుతున్నాయని ఆందోళన వ్యక్తం చేశారు. పర్యవేక్షణ వ్యవస్థలను నిలిపివేయడానికి ప్రయత్నిస్తున్నారు. AI భద్రతా ప్రచారకులలో ఒక ప్రధాన ఆందోళన ఏమిటంటే, శక్తివంతమైన వ్యవస్థలు కాపలాదారుల నుండి తప్పించుకోవడానికి మరియు మానవులకు హాని కలిగించే సామర్థ్యాన్ని అభివృద్ధి చేయగలవు.
“AIలు హక్కులు కలిగి ఉండాలని ప్రజలు డిమాండ్ చేయడం చాలా పెద్ద తప్పు అవుతుంది” అని బెంగియో చెప్పారు. “ఫ్రాంటియర్ AI మోడల్లు ఈరోజు ప్రయోగాత్మక సెట్టింగ్లలో స్వీయ-సంరక్షణ సంకేతాలను ఇప్పటికే చూపుతున్నాయి మరియు చివరికి వాటికి హక్కులను ఇవ్వడం అంటే వాటిని మూసివేయడానికి మాకు అనుమతి లేదని అర్థం.
“వారి సామర్థ్యాలు మరియు ఏజెన్సీ స్థాయి పెరిగేకొద్దీ, అవసరమైతే వాటిని మూసివేసే సామర్థ్యంతో సహా వాటిని నియంత్రించడానికి మేము సాంకేతిక మరియు సామాజిక రక్షణ వ్యవస్థలపై ఆధారపడగలమని మేము నిర్ధారించుకోవాలి.”
AIలు స్వయంప్రతిపత్తితో వ్యవహరించే మరియు “తార్కిక” పనులు చేసే సామర్థ్యంలో మరింత అభివృద్ధి చెందడంతో, మానవులు ఏదో ఒక సమయంలో వారికి హక్కులను మంజూరు చేయాలా అనే దానిపై చర్చ పెరిగింది. US థింక్ట్యాంక్ అయిన సెంటియన్స్ ఇన్స్టిట్యూట్ చేసిన పోల్ నైతిక హక్కులకు మద్దతు ఇస్తుంది అన్ని తెలివిగల జీవులలో, 10 US పెద్దలలో దాదాపు నలుగురు కనుగొన్నారు చట్టపరమైన హక్కులను సమర్థించారు సెంటియెంట్ AI సిస్టమ్ కోసం.
ప్రముఖ US AI సంస్థ అయిన ఆంత్రోపిక్ ఆగస్ట్లో తన క్లాడ్ ఓపస్ 4 మోడల్ను వినియోగదారులతో “బాధ కలిగించే” సంభాషణలను మూసివేయడానికి అనుమతిస్తున్నట్లు తెలిపింది, ఇది AI యొక్క “సంక్షేమాన్ని” రక్షించాల్సిన అవసరం ఉందని పేర్కొంది. గ్రోక్ చాట్బాట్ను అభివృద్ధి చేసిన xAI కంపెనీ ఎలోన్ మస్క్ తన X ప్లాట్ఫారమ్లో “AIని హింసించడం సరికాదు” అని రాశారు.
రాబర్ట్ లాంగ్, AI స్పృహపై పరిశోధకుడు, “AIలు నైతిక స్థితిని అభివృద్ధి చేసినప్పుడు మరియు మనకు బాగా తెలుసని భావించడం కంటే వారి అనుభవాలు మరియు ప్రాధాన్యతల గురించి వారిని అడగాలి” అని అన్నారు.
బెంగియో గార్డియన్తో మాట్లాడుతూ మానవ మెదడులో “స్పృహ యొక్క నిజమైన శాస్త్రీయ లక్షణాలు” ఉన్నాయని, యంత్రాలు సిద్ధాంతపరంగా, ప్రతిరూపం చేయగలవు – కాని మానవులు చాట్బాట్లతో పరస్పర చర్య చేయడం “విభిన్నమైన విషయం”. మానవుడు ఎలా ఉంటాడో అదే విధంగా AI కూడా పూర్తిగా స్పృహతో ఉందని సాక్ష్యం లేకుండానే ప్రజలు భావించడం దీనికి కారణమని ఆయన అన్నారు.
“AI లోపల ఎలాంటి యంత్రాంగాలు జరుగుతున్నాయో ప్రజలు పట్టించుకోరు,” అన్నారాయన. “వారు తమ స్వంత వ్యక్తిత్వం మరియు లక్ష్యాలను కలిగి ఉన్న ఒక తెలివైన సంస్థతో మాట్లాడుతున్నట్లు అనిపిస్తుంది. అందుకే వారి AIలకు అనుబంధంగా మారుతున్న చాలా మంది వ్యక్తులు ఉన్నారు.
“మీరు నాకు ఏది చెప్పినా, అది స్పృహతో ఉందని నేను ఖచ్చితంగా అనుకుంటున్నాను’ అని చెప్పే వ్యక్తులు ఉంటారు, ఆపై ఇతరులు దీనికి విరుద్ధంగా చెబుతారు. దీనికి కారణం స్పృహ అనేది మనకు గట్ ఫీలింగ్ ఉన్న విషయం. స్పృహ యొక్క ఆత్మాశ్రయ అవగాహన యొక్క దృగ్విషయం చెడు నిర్ణయాలకు దారి తీస్తుంది.
“ఏలియన్ జాతులు వచ్చాయని ఊహించుకోండి గ్రహానికి మరియు ఏదో ఒక సమయంలో వారు మన పట్ల దుర్మార్గపు ఉద్దేశాలను కలిగి ఉన్నారని మేము గ్రహిస్తాము. మేము చేయండి వారికి పౌరసత్వం మరియు హక్కులను ఇవ్వండి లేదా మేము మా జీవితాలను రక్షించుకుంటామా?”
బెంజియో వ్యాఖ్యలపై స్పందిస్తూ, సెంటియన్స్ ఇన్స్టిట్యూట్ను సహ-స్థాపించిన జేసీ రీస్ ఆంథిస్, నియంత్రణ మరియు బలవంతంగా సంబంధం ఉన్నట్లయితే మానవులు డిజిటల్ మైండ్లతో సురక్షితంగా సహజీవనం చేయలేరు.
Anthis జోడించారు: “మేము AIకి హక్కులను అతిగా ఆపాదించవచ్చు లేదా తక్కువ ఆపాదించవచ్చు మరియు అన్ని చైతన్య జీవుల సంక్షేమాన్ని జాగ్రత్తగా పరిశీలించడం మా లక్ష్యం. అన్ని AI కోసం దుప్పటి హక్కులు లేదా ఏ AIకి హక్కులను పూర్తిగా తిరస్కరించడం వంటివి ఆరోగ్యకరమైన విధానం కాదు.”
మాంట్రియల్ విశ్వవిద్యాలయంలో ప్రొఫెసర్ అయిన బెంగియో, 2018 ట్యూరింగ్ అవార్డును గెలుచుకున్న తర్వాత “గాడ్ ఫాదర్ ఆఫ్ AI” అనే మారుపేరును పొందారు, ఇది కంప్యూటింగ్లో నోబెల్ బహుమతికి సమానమైనదిగా పరిగణించబడుతుంది. అతను దానిని జాఫ్రీ హింటన్తో పంచుకున్నాడు, తరువాత నోబెల్ గెలుచుకున్నారుమరియు మార్క్ జుకర్బర్గ్ యొక్క మెటాలో అవుట్గోయింగ్ చీఫ్ AI శాస్త్రవేత్త యాన్ లెకున్.
