టిక్‌టాక్ BBC నివేదిక తర్వాత లైంగికంగా ఉన్న నల్లజాతి మహిళలను చూపించే AI వీడియోలను తీసివేసింది

లైంగిక అసభ్యకరమైన కంటెంట్‌ను ప్రచారం చేసే సైట్‌లకు వినియోగదారులను మళ్లించడానికి నల్లజాతి మహిళల ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రూపొందించిన చిత్రాలను ఉపయోగించినట్లు BBC వెల్లడించిన తర్వాత TikTok 20 ఖాతాలను నిషేధించింది.

ఈ చిత్రాలు ఇన్‌స్టాగ్రామ్ మరియు టిక్‌టాక్‌లోని ఖాతాలలో ట్రెండ్‌లో భాగంగా ఉన్నాయి, ఇవి మూస పద్ధతులు మరియు జాతి భాష కారణంగా జాత్యహంకార మరియు తప్పుదారి పట్టించేవిగా గుర్తించబడ్డాయి.

BBC మరియు స్వతంత్ర AI పబ్లికేషన్ అయిన Riddance పరిశోధకులు, రెండు ప్లాట్‌ఫారమ్‌లలో అధిక లైంగికత కలిగిన నల్లజాతి మహిళల పాత్రలు లేదా డిజిటల్ అవతారాలతో డజన్ల కొద్దీ ఖాతాలను కనుగొన్నారు.

చిత్రాలు మరియు వీడియోలు AI ద్వారా రూపొందించబడ్డాయి కానీ ప్లాట్‌ఫారమ్‌ల మార్గదర్శకాలను స్పష్టంగా ఉల్లంఘించినట్లు గుర్తించబడలేదు.

దాదాపు అన్ని ఖాతాలు ఇన్‌స్టాగ్రామ్‌లో ఉన్నాయి మరియు మూడింట ఒక వంతు కూడా టిక్‌టాక్‌లో వెర్షన్‌లను కలిగి ఉన్నాయి. ఇన్‌స్టాగ్రామ్ మాతృ సంస్థ మెటా, ఈ కేసును విచారిస్తున్నట్లు బిబిసికి తెలిపింది, అయితే తాము ఎటువంటి చర్య తీసుకోలేదని చెప్పలేదు.

అవతార్‌లు తరచుగా తక్కువ ఈత దుస్తులు లేదా ఇతర బహిర్గతం చేసే దుస్తులు ధరించి, అతిశయోక్తితో కూడిన శరీర ఆకృతులతో చిత్రీకరించబడతాయి.

కొందరు అనూహ్యంగా డార్క్ స్కిన్ టోన్‌లను కలిగి ఉంటారు, అవి డిజిటల్‌గా మానిప్యులేట్ చేయబడ్డాయి, వాటికి కృత్రిమ రూపాన్ని ఇస్తాయి.

ఖాతా పేర్లలో “బ్లాక్”, “నోయిర్”, “డార్క్” మరియు “ఎబోనీ” వంటి పదాలు ఉంటాయి.

చాలా మంది తమ పోస్ట్‌లలో “నేను తెల్ల పురుషులను ప్రేమిస్తున్నాను” మరియు “నా జీవితంలో తెల్లజాతి వ్యక్తి ఎందుకు కావాలి” వంటి వ్యాఖ్యలను కలిగి ఉన్నారు. చాలా ఖాతాలు ఒకదానికొకటి అనుసరిస్తాయి లేదా ఇష్టపడతాయి.

BBC, Riddance విశ్లేషకులు జెరెమీ కరాస్కో మరియు ఏంజెల్ నులానీల సహకారంతో, థర్డ్-పార్టీ సైట్‌లలో చెల్లింపు కోసం లైంగిక అసభ్యకరమైన కంటెంట్‌కి లింక్‌లు లేదా లింక్‌ల గొలుసులను కలిగి ఉన్న 60 ఖాతాలను, ప్రధానంగా Instagramలో గుర్తించింది.

వెబ్‌సైట్‌లు చిత్రాలను AI-జనరేటెడ్‌గా లేబుల్ చేశాయి, కానీ ఇన్‌స్టాగ్రామ్ ఖాతాలు లేబుల్ చేయలేదు.

ఇన్‌స్టాగ్రామ్ మరియు టిక్‌టాక్‌లో చెల్లింపు కంటెంట్‌కు లింక్ చేయని సారూప్య AI- రూపొందించిన అవతార్‌లతో అనేక ఇతర ఖాతాలను కూడా పరిశోధన గుర్తించింది.

‘నాకు కోపం వచ్చింది’

TikTok ద్వారా డీయాక్టివేట్ చేయబడిన ఖాతాలలో ఒకటి — ప్రచురణ సమయంలో Instagramలో ఇప్పటికీ యాక్టివ్‌గా ఉన్నప్పటికీ — నిజమైన వ్యక్తుల నుండి వీడియోలను దొంగిలించడం ద్వారా మరింత ఆగ్రహానికి కారణమైంది.

ఖాతా AI- రూపొందించిన పాత్రగా కనిపిస్తుంది మరియు డిసెంబర్‌లో సృష్టించబడిన వారాల్లోనే మూడు మిలియన్ల మంది అనుచరులను సేకరించింది.

కానీ ఆమె నిజమైన కంటెంట్ సృష్టికర్త, మలేషియాకు చెందిన మోడల్ అయిన రియా ఉలాన్ యొక్క వీడియోలను సవరించి ప్రచురించింది.

అనూహ్యంగా చీకటిగా, కృత్రిమంగా సృష్టించబడిన చర్మపు రంగును కలిగి ఉన్న అవతార్ ముఖం రియా శరీరంపై సూపర్మోస్ చేయబడింది మరియు రియా కదలికలు, దుస్తులు మరియు సెట్టింగ్‌లు ప్రతిరూపం చేయబడ్డాయి.

నేను కోపంగా ఉన్నాను’ అని రియా బీబీసీతో అన్నారు. “అఫ్ కోర్స్ నా వీడియోస్ అన్నీ అందుబాటులో ఉన్నాయి… అంటే మీరు వాటిని తీసుకుని, దొంగిలించి, మీ స్వంతంగా పోస్ట్ చేయవచ్చు అని కాదు.”

మానిప్యులేట్ చేయబడిన వీడియోలలో ఒకటి టిక్‌టాక్‌లో 35 మిలియన్లకు పైగా వీక్షణలను మరియు ఇన్‌స్టాగ్రామ్‌లో 173 మిలియన్లకు చేరుకుంది, రియా యొక్క అసలు పోస్ట్ కంటే దాదాపు 47 రెట్లు ఎక్కువ వీక్షణలు వచ్చాయి.

రియా కంటెంట్‌తో స్పష్టంగా సరిపోలిన మూడు వీడియోలు లైంగికమైనవి కానప్పటికీ, AI ఖాతాలోని ఇతర వీడియోలు అదే డిజిటల్‌గా సృష్టించబడిన పాత్రను ఉపయోగించి అతను బహిర్గతం చేసే దుస్తులను ధరించినట్లు లేదా రెచ్చగొట్టే చర్యలను చేస్తున్నట్లు చూపుతాయి. ఖాతా నుండి లింక్‌ల గొలుసు చెల్లింపు పెద్దల కంటెంట్‌కు దారి తీస్తుంది.

“అసభ్యకరమైన కంటెంట్‌ను ప్రచారం చేయడానికి వారు నా వీడియోను ఉపయోగించారనే వాస్తవం గురించి నేను మరింత ఆందోళన చెందుతున్నానా లేదా ప్రజలు దానిని నిజంగా విశ్వసిస్తున్నారనే విషయం గురించి నాకు తెలియదు,” అని ఆమె చెప్పింది.

కంటెంట్ నిజమైనదా కాదా అని గుర్తించడం వినియోగదారులకు చాలా కష్టంగా మారుతోంది మరియు “ప్రజలు ఈ AI మోడల్‌ల కోసం పడిపోతూనే ఉంటారు” అని ఆయన చెప్పారు.

చాలా మంది వీక్షకులు అవతార్‌ల అవాస్తవ ఫీచర్‌లు ఉన్నప్పటికీ వాటిని వాస్తవమైనవిగా భావించారు. ఇన్‌స్టాగ్రామ్ పోస్ట్‌లు లేదా కథనాలలో, కొన్ని ఖాతాలు రియా యొక్క కంటెంట్‌ని ఉపయోగించిన ఖాతాతో సహా AI వినియోగాన్ని నిరాకరిస్తాయి.

రియా రెండు ప్లాట్‌ఫారమ్‌లకు ఖాతా గురించి చాలాసార్లు నివేదించింది, అయితే ఆ సమయంలో, కంటెంట్ తీసివేయబడలేదు. వ్యాఖ్య కోసం BBC సంప్రదించిన తర్వాత TikTok ఖాతాను నిషేధించింది.

‘అవాస్తవిక ప్రాతినిధ్యాలు’

“ఈ ఖాతాలు జాత్యహంకారమని నేను నమ్ముతున్నాను ఎందుకంటే వాటి ఉనికి నల్లజాతీయుల దోపిడీ యొక్క సుదీర్ఘ చరిత్రను శాశ్వతం చేస్తుంది” అని పరిశోధకులలో ఒకరైన నులాని చెప్పారు.

“వారి వ్యంగ్య చిత్రాలు, ‘రేస్ గేమ్’ పదజాలం మరియు నల్లజాతి మహిళల యొక్క అవాస్తవ వర్ణనలు వారు మన భద్రత లేదా శ్రేయస్సు గురించి ఆందోళన చెందడం లేదని రుజువు చేస్తున్నాయి, కానీ ఆన్‌లైన్ అశ్లీల యంత్రంలో భాగంగా పెట్టుబడి పెట్టగల మన సామర్థ్యం,” అని ఆయన జోడించారు.

తన సోషల్ నెట్‌వర్క్‌లలో AI పోకడలు మరియు సాంకేతికతలను విమర్శించే కరాస్కో, “అత్యంత నల్లజాతి వ్యక్తుల యొక్క కఠోరమైన మరియు జాత్యహంకార ప్రాతినిధ్యాల మొత్తం కొత్తది” అని పేర్కొన్నాడు.

“ఈ ఫెటిష్” గతంలో ఉనికిలో ఉండవచ్చు, AI “దీనికి కొత్త బలాన్ని ఇస్తుంది,” అని ఆయన చెప్పారు. అసహజంగా ఉండే డార్క్ స్కిన్ టోన్‌లను సృష్టించడానికి మరియు గతంలో యానిమేషన్ లేదా బాడీ పెయింటింగ్ అవసరమయ్యే ఎఫెక్ట్‌లను రూపొందించడానికి ఇమేజ్‌లు మరియు వీడియోలలోని స్కిన్ టోన్‌లను తొలగించడాన్ని AI సులభతరం చేస్తుందని అతను వివరించాడు.

అంతేకాకుండా, అవతార్‌కు ఎటువంటి సామాజిక పరిణామాలు ఉండవని ఆయన చెప్పారు: “అవమానం ఏమీ లేదు…ఇది AI ప్రత్యేకమైన రీతిలో దోపిడీ చేస్తుంది.”

మొరాకో మోడల్ మరియు నల్లజాతి మహిళలకు మరింత ప్రామాణికమైన ప్రాతినిధ్యాల కోసం వాదించే కంటెంట్ సృష్టికర్త అయిన హౌడా ఫోనోన్, ఈ ధోరణి “ఎరేజర్” అని చెప్పారు.

“సిల్కీ హెయిర్, చాలా స్లిమ్ బాడీలు మరియు నిష్కళంకమైన పర్ఫెక్ట్ స్కిన్… ‘రిఫైన్’ చేసినప్పుడే నల్లని అందాన్ని అంగీకరించినట్లే.”

“మా నిజ జీవిత కథలు మరియు అనుభవాలు కృత్రిమ చిత్రంతో భర్తీ చేయబడ్డాయి” అయితే ఇది మూస పద్ధతులను బలపరిచే ప్రమాదం ఉందని ఆమె చెప్పింది.

BBC మేము గుర్తించిన ఖాతాల యొక్క Meta మరియు TikTok ఉదాహరణలను పంపింది మరియు వారి ప్రతిస్పందనలను కోరింది.

రెండు రోజుల తర్వాత, TikTok ప్రతినిధి BBCతో మాట్లాడుతూ, కంపెనీ “మా నిబంధనలను ఉల్లంఘించే కంటెంట్‌ను తీసివేసిందని మరియు ఖాతాలను నిషేధించిందని” చెప్పారు.

రోజుల వ్యవధిలో, యాప్‌లో 20 ఖాతాలు “నిషేధించబడినవి”గా గుర్తించబడ్డాయి.

“వారి అనుమతి లేకుండా ఉపయోగించే వ్యక్తుల నుండి AI- రూపొందించిన కంటెంట్‌ను TikTok నిషేధిస్తుంది; ప్లాట్‌ఫారమ్ వెలుపల లైంగిక సేవలను ప్రోత్సహించే కంటెంట్‌ను మేము సహించలేము” అని ప్రతినిధి చెప్పారు.

హానికరమైన లేదా తప్పుదారి పట్టించే AI- రూపొందించిన కంటెంట్‌ను నిషేధిస్తుంది మరియు తీసివేస్తుందని మరియు వాస్తవిక AI- రూపొందించిన కంటెంట్‌ను వినియోగదారులు లేబుల్ చేయాల్సిన అవసరం ఉందని కంపెనీ పేర్కొంది. తాను అనేక వీడియోలకు సరైన లేబులింగ్‌ను కూడా వర్తింపజేసినట్లు ఆమె చెప్పారు.

మెటా తనకు అందించిన కంటెంట్‌ను పరిశీలిస్తున్నట్లు తెలిపింది.

వినియోగదారులు AI- పవర్డ్ పోస్ట్‌లను ఎప్పుడు చూస్తున్నారో తెలుసుకోవాలని మరియు AI- రూపొందించిన కంటెంట్‌ను లేబుల్ చేయడానికి తమ వద్ద విధానాలు ఉన్నాయని కంపెనీ పేర్కొంది. BBC ట్రాక్ చేసిన తొమ్మిది ఇన్‌స్టాగ్రామ్ ఖాతాలు ఉనికిలో లేవు.

రియా యొక్క ప్రారంభ నివేదికలకు వారి ప్రతిస్పందనపై ఏ ప్లాట్‌ఫారమ్ వివరాలను అందించలేదు.