పిల్లల లైంగిక వేధింపులను వర్ణించే AI కంటెంట్‌ను నేరంగా పరిగణించాలని UNICEF పిలుపునిచ్చింది

2

జాస్పర్ వార్డ్ ఫిబ్రవరి 4 (రాయిటర్స్) ద్వారా – AI- రూపొందించిన పిల్లల లైంగిక వేధింపుల కంటెంట్‌ను సృష్టించడాన్ని నేరంగా పరిగణించాలని ఐక్యరాజ్యసమితి పిల్లల ఏజెన్సీ UNICEF బుధవారం దేశాలకు పిలుపునిచ్చింది, పిల్లలను లైంగికంగా మార్చే కృత్రిమ మేధస్సు చిత్రాల సంఖ్య పెరుగుదల నివేదికల గురించి ఆందోళన చెందుతోంది. AI మోడల్స్ దుర్వినియోగం కాకుండా నిరోధించడానికి డెవలపర్‌లు సేఫ్టీ-బై-డిజైన్ విధానాలు మరియు గార్డ్‌రైల్‌లను అమలు చేయాలని ఏజెన్సీ కోరింది. డిటెక్షన్ టెక్నాలజీలలో పెట్టుబడితో కంటెంట్ నియంత్రణను బలోపేతం చేయడం ద్వారా డిజిటల్ కంపెనీలు ఈ చిత్రాల సర్క్యులేషన్‌ను నిరోధించాలని పేర్కొంది. “డీప్‌ఫేక్ దుర్వినియోగం వల్ల కలిగే హాని నిజమైనది మరియు అత్యవసరం. పిల్లలు చట్టం కోసం వేచి ఉండలేరు” అని UNICEF ఒక ప్రకటనలో తెలిపింది. డీప్‌ఫేక్‌లు అనేది AI- రూపొందించిన చిత్రాలు, వీడియోలు మరియు ఆడియో, ఇవి నిజమైన వ్యక్తులను నమ్మించేలా ఉంటాయి. 1.2 మిలియన్ల మంది పిల్లలు మానిప్యులేటెడ్ యునిసెఫ్ పిల్లలను “నగ్నీకరణ” అని పిలిచే దాని గురించి ఆందోళన వ్యక్తం చేశారు, కల్పిత నగ్న లేదా లైంగిక చిత్రాలను రూపొందించడానికి ఫోటోలలో దుస్తులను తీసివేయడానికి లేదా మార్చడానికి AIని ఉపయోగిస్తుంది. UNICEF ప్రకారం, 11 దేశాలలో కనీసం 1.2 మిలియన్ల మంది పిల్లలు తమ చిత్రాలను లైంగిక అసభ్యకరమైన డీప్‌ఫేక్‌లుగా మార్చినట్లు వెల్లడించారు. పిల్లల లైంగిక వేధింపుల చిత్రాలను రూపొందించడానికి AI సాధనాలను ఉపయోగించడాన్ని చట్టవిరుద్ధం చేయాలని యోచిస్తున్నట్లు బ్రిటన్ శనివారం తెలిపింది, అలా చేసిన మొదటి దేశంగా ఇది నిలిచింది. పిల్లల దుర్వినియోగం కంటెంట్‌ను రూపొందించడానికి AIని ఉపయోగించడం గురించి ఇటీవలి సంవత్సరాలలో ఆందోళనలు పెరిగాయి, ముఖ్యంగా xAI’s Grok వంటి చాట్‌బాట్‌లు – ఎలోన్ మస్క్ యాజమాన్యంలో ఉన్నాయి – ఇది మహిళలు మరియు మైనర్‌ల లైంగిక చిత్రాలను రూపొందించడం కోసం పరిశీలనలో ఉంది. సబ్జెక్ట్‌లు సమ్మతించలేదని వినియోగదారులు స్పష్టంగా హెచ్చరించినప్పటికీ, చాట్‌బాట్ ఈ చిత్రాలను ఉత్పత్తి చేయడం కొనసాగించిందని రాయిటర్స్ పరిశోధన కనుగొంది. బుధవారం విడిగా, UN సెక్రటరీ-జనరల్ ఆంటోనియో గుటెర్రెస్ విలేకరులతో మాట్లాడుతూ, మానవాళికి ప్రయోజనం చేకూర్చడానికి AI ఉపయోగించబడుతుందని నిర్ధారించే లక్ష్యంతో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్‌పై ఇండిపెండెంట్ ఇంటర్నేషనల్ సైంటిఫిక్ ప్యానెల్‌లో పనిచేయడానికి 40 మంది వ్యక్తులను ప్రతిపాదించినట్లు చెప్పారు. మెషీన్ లెర్నింగ్, డేటా గవర్నెన్స్, పబ్లిక్ హెల్త్, సైబర్ సెక్యూరిటీ, బాల్య అభివృద్ధి మరియు మానవ హక్కులలో 37 దేశాలకు చెందిన వ్యక్తులను ఒకచోట చేర్చే ప్యానెల్‌కు లోతైన నైపుణ్యం ఉందని గుటెర్రెస్ చెప్పారు: “సమర్థవంతమైన రక్షణ మార్గాలను నిర్మించడానికి, ఉమ్మడి మంచి కోసం ఆవిష్కరణలను అన్‌లాక్ చేయడానికి మరియు సహకారాన్ని పెంపొందించడానికి మాకు భాగస్వామ్య అవగాహనలు అవసరం.” xAI జనవరి 14న Grok AI వినియోగదారుల కోసం ఇమేజ్ ఎడిటింగ్‌ను పరిమితం చేసిందని మరియు “చట్టవిరుద్ధమైన అధికార పరిధిలో” దుస్తులను బహిర్గతం చేసే వ్యక్తుల చిత్రాలను రూపొందించకుండా వారి స్థానం ఆధారంగా వినియోగదారులను బ్లాక్ చేసిందని తెలిపింది. ఇది దేశాలను గుర్తించలేదు. ఇది ఇంతకుముందు గ్రోక్ యొక్క ఇమేజ్ జనరేషన్ మరియు ఎడిటింగ్ ఫీచర్ల వినియోగాన్ని చెల్లింపు చందాదారులకు మాత్రమే పరిమితం చేసింది. (వాషింగ్టన్‌లోని జాస్పర్ వార్డ్ రిపోర్టింగ్; డేవిడ్ బ్రున్‌స్ట్రోమ్ అదనపు రిపోర్టింగ్; మిచెల్ నికోల్స్ మరియు రాడ్ నికెల్ ఎడిటింగ్)

(వ్యాసం సిండికేట్ ఫీడ్ ద్వారా ప్రచురించబడింది. హెడ్‌లైన్ మినహా, కంటెంట్ పదజాలంగా ప్రచురించబడింది. బాధ్యత అసలు ప్రచురణకర్తపై ఉంటుంది.)