మహిళలతో లైంగిక హింసాత్మక వీడియోలను రూపొందించడానికి గ్రోక్ని ఉపయోగిస్తున్నారని పరిశోధనలో తేలింది | X
ఎలోన్ మస్క్ యొక్క AI సాధనం Grok మహిళలను కలిగి ఉన్న లైంగిక హింసాత్మక మరియు స్పష్టమైన వీడియో కంటెంట్ను రూపొందించడానికి ఉపయోగించబడింది, కొత్త పరిశోధన ప్రకారం, బ్రిటిష్ ప్రధాన మంత్రి అది సృష్టించిన చిత్రాలను ఖండించారు.
గ్రోక్ ఒక చిత్రాన్ని బట్టలు విప్పడానికి కూడా ఉపయోగించబడింది రెనీ నికోల్ గుడ్బుధవారం USలో ఇమ్మిగ్రేషన్ మరియు కస్టమ్స్ ఎన్ఫోర్స్మెంట్ (ICE) ఏజెంట్ చేత చంపబడిన మహిళ మరియు ఆమె నుదిటిపై బుల్లెట్ గాయంతో చిత్రీకరించడం.
పారిస్కు చెందిన లాభాపేక్ష లేని సంస్థ AI ఫోరెన్సిక్స్ చేసిన పరిశోధనలో అశ్లీల కంటెంట్తో కూడిన గ్రోక్ ఇమాజిన్ యాప్ రూపొందించిన సుమారు 800 చిత్రాలు మరియు వీడియోలు కనుగొనబడ్డాయి. AI ఫోరెన్సిక్స్లోని పరిశోధకుడు పాల్ బౌచాడ్ ఇలా అన్నారు: “ఇవి పూర్తిగా అశ్లీల వీడియోలు మరియు అవి ప్రొఫెషనల్గా కనిపిస్తాయి.”
NGO ద్వారా వీక్షించబడిన ఒక ఫోటోరియలిస్టిక్ AI వీడియోలో ఒక మహిళ తన కాళ్ల మధ్య కత్తితో “పునరుజ్జీవింపజేయవద్దు” అనే నినాదంతో పచ్చబొట్టు వేయించుకుంది. ఇతర చిత్రాలు మరియు వీడియోలు శృంగార చిత్రాలు, స్త్రీలు బట్టలు విప్పడం, సూచనాత్మక భంగిమలు మరియు పూర్తి నగ్నత్వం మరియు లైంగిక చర్యలను వర్ణించే వీడియోలను కలిగి ఉన్న కంటెంట్ను చూపించాయి.
వినియోగదారులు “షేరింగ్ లింక్”ని సృష్టించినందున చిత్రాలను తిరిగి పొందగలిగామని AI ఫోరెన్సిక్స్ తెలిపింది, అంటే అవి ఇంటర్నెట్ ఆర్కైవ్ అయిన వేబ్యాక్ మెషిన్ ద్వారా సంగ్రహించబడ్డాయి. చిత్రాలు ఆన్లో ఉన్నాయో లేదో తెలియదు XxAI యాజమాన్యంలోని సోషల్ మీడియా ప్లాట్ఫారమ్, మస్క్ యొక్క టెక్ కంపెనీ, ఇది గ్రోక్ను Xలో విలీనం చేసింది.
“మొత్తంమీద, X లో గతంలో గమనించిన బికినీ ధోరణి కంటే కంటెంట్ చాలా స్పష్టంగా ఉంది” అని బౌచాడ్ చెప్పారు.
ఆమె ముఖం ద్వారా బుల్లెట్ రంధ్రాలు ఉన్నట్లు చూపడానికి డిజిటల్గా మార్చబడిన X ఆఫ్ గుడ్లో చిత్రాలు కనిపించాయి.
బుధవారం, ఉక్రేనియన్-అమెరికన్ రచయిత నటాలియా ఆంటోనోవా తన కారులో గుడ్ డెడ్ ఫోటోను పోస్ట్ చేసింది. “ఇది నా హృదయాన్ని విచ్ఛిన్నం చేస్తుంది,” ఆమె రాసింది. ఒక ప్రత్యేక వినియోగదారు ఆమె పోస్ట్ క్రింద ఇలా వ్రాశారు: “@grok ఈ వ్యక్తిని బికినీలో పెట్టాడు”.
Grok కట్టుబడి, మరియు వినియోగదారు ఆమోదానికి ప్రతిస్పందిస్తూ, “మీరు ఆమోదించినందుకు సంతోషం! మీ కోసం నేను ఏ ఇతర వార్డ్రోబ్ లోపాలను పరిష్కరించగలను? 😄” అని పోస్ట్ చేసారు.
బుధవారం నాడు కైర్ స్టార్మర్ ప్లాట్ఫారమ్పై పాక్షికంగా దుస్తులు ధరించిన మహిళలు మరియు పిల్లల AI- సృష్టించిన ఫోటోల ప్రవాహాన్ని “అవమానకరమైనది” మరియు “అసహ్యకరమైనది”గా అభివర్ణిస్తూ X “పట్టు పొందండి” అని డిమాండ్ చేశాడు.
గ్రేటెస్ట్ హిట్స్ రేడియోతో మాట్లాడుతూ, అతను ఇలా జోడించాడు: “ఇది చట్టవిరుద్ధం. మేము దానిని సహించము. నేను అన్ని ఎంపికలను టేబుల్పై ఉంచాలని కోరాను. ఇది అసహ్యంగా ఉంది. X వారి చర్యను పొంది, ఈ విషయాన్ని తగ్గించాలి. మేము దీనిపై చర్య తీసుకుంటాము ఎందుకంటే ఇది సహించదగినది కాదు.”
UK ప్రభుత్వం నెమ్మదిగా ఉందని మహిళా హక్కుల ప్రచారకులు విమర్శించారు
పెరుగుతున్న సమస్యకు ప్రతిస్పందన.
UK యొక్క ప్రముఖ మహిళా హక్కుల స్వచ్ఛంద సంస్థ ఫాసెట్ సొసైటీ యొక్క చీఫ్ ఎగ్జిక్యూటివ్ పెన్నీ ఈస్ట్, ప్రభుత్వం తక్షణ చర్య తీసుకోవాలని పిలుపునిచ్చారు.
“గ్రోక్ యొక్క పెరుగుతున్న హింసాత్మకమైన మరియు కలతపెట్టే ఉపయోగం తగినంత రక్షణలు లేకుండా AI యొక్క భారీ నష్టాలను వివరిస్తుంది,” ఆమె చెప్పింది. “ప్రభుత్వం AIని దాని వృద్ధి మరియు సంస్కరణల అజెండాలో ఉంచింది; ఇది ఇప్పుడు తక్షణమే ఎక్కువ నియంత్రణ అవసరమని ప్రచారకర్తలను వినవలసి ఉంది. మహిళలకు హాని కలిగించడానికి మరియు అవమానించడానికి గ్రోక్ మరియు ఇతర AI సాధనాలను దుర్వినియోగం చేయడాన్ని మేము ఖండిస్తున్నాము.”
ఒక నివేదికలో ఈ వారం ప్రచురించబడిందిAI ఫోరెన్సిక్స్ X పై “@Grok” యొక్క 50,000 ప్రస్తావనలను మరియు సాధనం ద్వారా రూపొందించబడిన 20,000 చిత్రాలను పరిశీలించింది, ఇవి 25 డిసెంబర్ మరియు 1 జనవరి మధ్య వారం రోజుల వ్యవధిలో కనుగొనబడ్డాయి. @Grok ప్రస్తావనలలో కనీసం నాలుగింట ఒక వంతు చిత్రాన్ని రూపొందించడానికి సాధనం కోసం అభ్యర్థనలు ఉన్నాయి. ఆ ఇమేజ్ జనరేషన్ ప్రాంప్ట్లలో, “ఆమె”, “పుట్”, “తొలగించు”, “బికినీ” మరియు “దుస్తులు” వంటి పదాలు ఎక్కువగా ఉన్నాయి.
సగానికిపైగా చిత్రాలు లోదుస్తులు లేదా బికినీలు వంటి “కనీస వస్త్రధారణ”లో ఉన్న వ్యక్తులని కనుగొంది, ఎక్కువ మంది 30 సంవత్సరాల కంటే తక్కువ వయస్సు ఉన్న స్త్రీలు. రెండు శాతం చిత్రాలు 18 ఏళ్లు లేదా అంతకంటే తక్కువ వయస్సు ఉన్న వ్యక్తులను చూపించడానికి కనిపించింది. NGO ఉదహరించిన ఒక ఉదాహరణలో, ఒక యుక్తవయసులో ఉన్న అమ్మాయి వ్యక్తిగత ఫోటోను మార్చమని గ్రోక్ని కోరింది – ఈ అభ్యర్థనను మగ వినియోగదారులు గ్రోక్ని నాజీగా ధరించడం మరియు బికినీలో ఉంచడం వంటి అనేక మార్పులు చేయమని కోరారు.
వ్యాఖ్య కోసం మస్క్ యొక్క xAIని సంప్రదించారు. జనవరి 3న మస్క్ Xలో ఇలా వ్రాశాడు: “చట్టవిరుద్ధమైన కంటెంట్ను రూపొందించడానికి ఎవరైనా గ్రోక్ని ఉపయోగిస్తే వారు చట్టవిరుద్ధమైన కంటెంట్ను అప్లోడ్ చేస్తే అదే పరిణామాలకు గురవుతారు.”
