పిల్లల లైంగిక వేధింపులను వర్ణించే AI కంటెంట్‌ను నేరంగా పరిగణించాలని UNICEF పిలుపునిచ్చింది

0

జాస్పర్ వార్డ్ ఫిబ్రవరి 4 (రాయిటర్స్) ద్వారా – AI- రూపొందించిన పిల్లల లైంగిక వేధింపుల కంటెంట్‌ను సృష్టించడాన్ని నేరంగా పరిగణించాలని ఐక్యరాజ్యసమితి పిల్లల ఏజెన్సీ UNICEF బుధవారం దేశాలకు పిలుపునిచ్చింది, పిల్లలను లైంగికంగా మార్చే కృత్రిమ మేధస్సు చిత్రాల సంఖ్య పెరుగుదల నివేదికల గురించి ఆందోళన చెందుతోంది. AI మోడల్స్ దుర్వినియోగం కాకుండా నిరోధించడానికి డెవలపర్‌లు సేఫ్టీ-బై-డిజైన్ విధానాలు మరియు గార్డ్‌రైల్‌లను అమలు చేయాలని ఏజెన్సీ కోరింది. డిటెక్షన్ టెక్నాలజీలలో పెట్టుబడితో కంటెంట్ నియంత్రణను బలోపేతం చేయడం ద్వారా డిజిటల్ కంపెనీలు ఈ చిత్రాల సర్క్యులేషన్‌ను నిరోధించాలని పేర్కొంది. “డీప్‌ఫేక్ దుర్వినియోగం వల్ల కలిగే హాని నిజమైనది మరియు అత్యవసరం. పిల్లలు చట్టం కోసం వేచి ఉండలేరు” అని UNICEF ఒక ప్రకటనలో తెలిపింది. డీప్‌ఫేక్‌లు అనేది AI- రూపొందించిన చిత్రాలు, వీడియోలు మరియు ఆడియో, ఇవి నిజమైన వ్యక్తులను నమ్మించేలా ఉంటాయి. కల్పిత నగ్న లేదా లైంగిక చిత్రాలను రూపొందించడానికి ఫోటోలలోని దుస్తులను తీసివేయడానికి లేదా మార్చడానికి AIని ఉపయోగించి, పిల్లల “నగ్నీకరణ” అని పిలవబడే దాని గురించి UNICEF ఆందోళన వ్యక్తం చేసింది. UNICEF ప్రకారం, 11 దేశాలలో కనీసం 1.2 మిలియన్ల మంది పిల్లలు తమ చిత్రాలను లైంగిక అసభ్యకరమైన డీప్‌ఫేక్‌లుగా మార్చినట్లు వెల్లడించారు. పిల్లల లైంగిక వేధింపుల చిత్రాలను రూపొందించడానికి AI సాధనాలను ఉపయోగించడాన్ని చట్టవిరుద్ధం చేయాలని యోచిస్తున్నట్లు బ్రిటన్ శనివారం తెలిపింది, అలా చేసిన మొదటి దేశంగా ఇది నిలిచింది. పిల్లల దుర్వినియోగం కంటెంట్‌ను రూపొందించడానికి AIని ఉపయోగించడం గురించి ఇటీవలి సంవత్సరాలలో ఆందోళనలు పెరిగాయి, ముఖ్యంగా xAI’s Grok వంటి చాట్‌బాట్‌లు – ఎలోన్ మస్క్ యాజమాన్యంలో ఉన్నాయి – ఇది మహిళలు మరియు మైనర్‌ల లైంగిక చిత్రాలను రూపొందించడం కోసం పరిశీలనలో ఉంది. సబ్జెక్ట్‌లు సమ్మతించలేదని వినియోగదారులు స్పష్టంగా హెచ్చరించినప్పటికీ, చాట్‌బాట్ ఈ చిత్రాలను ఉత్పత్తి చేయడం కొనసాగించిందని రాయిటర్స్ పరిశోధన కనుగొంది. xAI జనవరి 14న Grok AI వినియోగదారుల కోసం ఇమేజ్ ఎడిటింగ్‌ను పరిమితం చేసిందని మరియు “చట్టవిరుద్ధమైన అధికార పరిధిలో” దుస్తులను బహిర్గతం చేసే వ్యక్తుల చిత్రాలను రూపొందించకుండా వారి స్థానం ఆధారంగా వినియోగదారులను బ్లాక్ చేసిందని తెలిపింది. ఇది దేశాలను గుర్తించలేదు. ఇది ఇంతకుముందు గ్రోక్ యొక్క ఇమేజ్ జనరేషన్ మరియు ఎడిటింగ్ ఫీచర్ల వినియోగాన్ని చెల్లింపు చందాదారులకు మాత్రమే పరిమితం చేసింది. (వాషింగ్టన్‌లోని జాస్పర్ వార్డ్ రిపోర్టింగ్; మిచెల్ నికోల్స్ మరియు రాడ్ నికెల్ ఎడిటింగ్)

(వ్యాసం సిండికేట్ ఫీడ్ ద్వారా ప్రచురించబడింది. హెడ్‌లైన్ మినహా, కంటెంట్ పదజాలంగా ప్రచురించబడింది. బాధ్యత అసలు ప్రచురణకర్తపై ఉంటుంది.)