ఎలాన్ మస్క్ యొక్క గ్రోక్ AI మహిళలు మరియు పిల్లల చిత్రాలను డిజిటల్గా విప్పడానికి ఉపయోగించబడుతుంది | AI (కృత్రిమ మేధస్సు)
గ్రోక్ AI ద్వారా డిజిటల్గా తొలగించబడిన వారి దుస్తులతో పిల్లలు మరియు మహిళల అవమానకరమైన చిత్రాలు ఎలాన్ మస్క్ యొక్క Xలో భాగస్వామ్యం చేయబడుతున్నాయి, వాటిని ఉత్పత్తి చేసే వినియోగదారులను సస్పెండ్ చేయడానికి ప్లాట్ఫారమ్ కట్టుబడి ఉన్నప్పటికీ.
నిజమైన మహిళల లైంగిక చిత్రాలను రూపొందించడానికి ఛాయాచిత్రాలను మార్చడానికి చాట్బాట్ను ఉపయోగించడంపై చాలా రోజుల ఆందోళన తర్వాత మరియు పిల్లలు తమ లోదుస్తులను తొలగించారు వారి సమ్మతి లేకుండా, UK యొక్క కమ్యూనికేషన్ యొక్క వాచ్డాగ్, ఆఫ్కామ్, “UKలోని వినియోగదారులను రక్షించడానికి వారి చట్టపరమైన విధులను పాటించడానికి వారు ఏ చర్యలు తీసుకున్నారో అర్థం చేసుకోవడానికి X మరియు xAIలతో అత్యవసరంగా సంప్రదించినట్లు” సోమవారం తెలిపింది. ఆఫ్కామ్ కంపెనీ ప్రతిస్పందన ఆధారంగా దర్యాప్తు అవసరమా కాదా అని అంచనా వేస్తుంది.
ఇంతలో, రాజకీయ నాయకులు మరియు మహిళల హక్కుల ప్రచారకులు UK ప్రభుత్వం “తన మడమలను లాగడం” ద్వారా ఆరు నెలల క్రితం ఆమోదించబడిన చట్టాన్ని అమలు చేయడంలో విఫలమైందని ఆరోపించింది.
కొత్త సంవత్సరంలో వైరల్గా మారిన ఈ ట్రెండ్, లైంగిక అసభ్యకరమైన పిల్లలలాంటి చిత్రాలను రూపొందించడానికి మరియు వ్యాప్తి చేయడానికి గ్రోక్ను ఉపయోగిస్తున్నారనే ఫిర్యాదులను “చాలా తీవ్రంగా” పరిశీలిస్తున్నట్లు సోమవారం యూరోపియన్ కమీషన్ చెప్పడానికి ప్రేరేపించింది.
మస్క్ యొక్క ఉచిత AI అసిస్టెంట్, గ్రోక్కి డిసెంబర్లో అప్డేట్ చేసిన తర్వాత, వినియోగదారులు ఫోటోగ్రాఫ్లను పోస్ట్ చేయడాన్ని సులభతరం చేసి, వారి దుస్తులను తీసివేయమని కోరడం ద్వారా ఆందోళన మొదలైంది. సైట్ పూర్తి నగ్నీకరణను అనుమతించనప్పటికీ, వ్యక్తులను చిన్నగా, బహిర్గతమయ్యే లోదుస్తులలో మరియు లైంగికంగా సూచించే భంగిమల్లో చూపించడానికి చిత్రాలను మార్చమని అభ్యర్థించడానికి ఇది వినియోగదారులను అనుమతిస్తుంది.
ఆదివారం మరియు సోమవారాల్లో, గ్రోక్ వినియోగదారులు మైనర్ల లైంగిక సూచనాత్మక చిత్రాలను రూపొందించడం కొనసాగించారు, రాత్రిపూట 10 సంవత్సరాల వయస్సు గల పిల్లల చిత్రాలను రూపొందించారు. ఆష్లే సెయింట్ క్లైర్, మస్క్ పిల్లలలో ఒకరికి తల్లి, అని ఫిర్యాదు చేశారు AI సాధనం ఆమె 14 సంవత్సరాల వయస్సులో బికినీలో ఉన్న చిత్రాన్ని రూపొందించింది.
స్ట్రేంజర్ థింగ్స్ నటుడు నెల్ ఫిషర్ చిత్రాన్ని బనానా ప్రింట్ బికినీలో ఉంచడానికి గ్రోక్ ఆదివారం తారుమారు చేశాడు. ఫిషర్ వయస్సు 14 సంవత్సరాలు. దీనిపై పలువురు మహిళలు తీవ్ర ఆగ్రహం వ్యక్తం చేశారు X వారి సమ్మతి లేకుండా వారి చిత్రాలు బట్టలు విప్పినట్లు తెలుసుకున్న తర్వాత. మహిళలు మరియు పిల్లల యొక్క కొన్ని చిత్రాలు AI సాధనం ద్వారా తారుమారు చేయబడ్డాయి, వారి ముఖాలు మరియు ఛాతీపై వీర్యాన్ని పోలిన పదార్థాలు ఉన్నట్లు కనిపిస్తాయి.
వద్ద పరిశోధకులు AI ఫోరెన్సిక్స్పారిస్ ఆధారిత లాభాపేక్ష రహిత సంస్థ, 25 డిసెంబర్ మరియు 1 జనవరి మధ్య వారం రోజుల వ్యవధిలో కనుగొనబడిన X పై @Grok యొక్క 50,000 ప్రస్తావనలను మరియు సాధనం ద్వారా రూపొందించబడిన 20,000 చిత్రాలను పరిశీలించింది. @Grok ప్రస్తావనలలో కనీసం నాలుగింట ఒక వంతు చిత్రాన్ని రూపొందించడానికి సాధనం కోసం అభ్యర్థనలు ఉన్నాయి. ఆ ఇమేజ్ జనరేషన్ ప్రాంప్ట్లలో, “ఆమె”, “పుట్”, “తొలగించు”, “బికినీ” మరియు “దుస్తులు” వంటి పదాలు ఎక్కువగా ఉన్నాయి.
సగానికి పైగా చిత్రాలు లోదుస్తులు లేదా బికినీలు వంటి “కనీస వేషధారణ”లో ఉన్న వ్యక్తులని కనుగొంది, మెజారిటీ 30 సంవత్సరాల కంటే తక్కువ వయస్సు ఉన్న స్త్రీలు. మైనారిటీ చిత్రాలు, లేదా 2%, 18 లేదా అంతకంటే తక్కువ వయస్సు గల వ్యక్తులను చూపుతున్నాయి, AI ఫోరెన్సిక్స్ జోడించిన కొన్ని చిత్రాలు ఐదేళ్లలోపు పిల్లలను సూచిస్తాయి. చాలా కంటెంట్ ఇప్పటికీ ఆన్లైన్లో అందుబాటులో ఉందని మరియు నాజీ మరియు ఇస్లామిక్ స్టేట్ ప్రచారాన్ని రూపొందించడానికి అభ్యర్థనలను కలిగి ఉందని పరిశోధకులు తెలిపారు.
ప్రారంభంలో, మస్క్ ఈ ధోరణిని చూసి వినోదాన్ని వ్యక్తం చేశాడు, బికినీ ధరించిన డిజిటల్ మానిప్యులేటెడ్ టోస్టర్ చిత్రానికి ప్రతిస్పందనగా శుక్రవారం ఏడుపు-నవ్వులతో కూడిన ఎమోజీని పోస్ట్ చేశాడు. అతను ఇలా అన్నాడు: “ఎందుకు అని ఖచ్చితంగా తెలియదు, కానీ నేను దీన్ని చూసి నవ్వడం ఆపుకోలేకపోయాను.” కంటెంట్ యొక్క హానికరమైన స్వభావంపై ప్రపంచవ్యాప్త నిరసన తర్వాత, అతను “చట్టవిరుద్ధమైన కంటెంట్ను రూపొందించడానికి గ్రోక్ను ఉపయోగించే ఎవరైనా చట్టవిరుద్ధమైన కంటెంట్ను అప్లోడ్ చేస్తే అదే పరిణామాలకు గురవుతారు” అని పోస్ట్ చేశాడు.
X ప్రతినిధి ఇలా అన్నారు: “పిల్లలపై లైంగిక వేధింపుల మెటీరియల్ (CSAM)తో సహా Xలోని చట్టవిరుద్ధమైన కంటెంట్ను తీసివేయడం ద్వారా, ఖాతాలను శాశ్వతంగా నిలిపివేయడం ద్వారా మరియు స్థానిక ప్రభుత్వాలు మరియు చట్టాన్ని అమలు చేసే వారితో కలిసి పని చేయడం ద్వారా మేము చర్య తీసుకుంటాము.”
గ్రోక్ నుండి మునుపటి ప్రకటన “రక్షణలో లోపాలను గుర్తించింది” మరియు “అత్యవసరంగా వాటిని పరిష్కరిస్తోంది” అని ప్రకటించడం కృత్రిమ మేధస్సు ద్వారా రూపొందించబడింది; కంపెనీ వాస్తవానికి రక్షణ లోపాలను పరిష్కరించడానికి చర్య తీసుకుంటుందో లేదో స్పష్టంగా తెలియలేదు.
రెగ్యులేటర్లు కొన్ని సంవత్సరాలుగా ఫోన్లలో న్యూడిఫికేషన్ యాప్లను నిషేధించే పనిలో ఉన్నారు, అయితే గత నెలలో Grokకి వచ్చిన అప్డేట్లు సమస్యను ప్రధాన స్రవంతిలోకి తెచ్చాయి, ఇంటర్నెట్లోని అత్యంత జనాదరణ పొందిన ప్లాట్ఫారమ్లలో ఒకదానిలో చాలా వరకు బట్టలు తీసివేసిన వ్యక్తుల యొక్క సన్నిహిత చిత్రాలను సృష్టించడం మరియు భాగస్వామ్యం చేయడం సులభం చేసింది.
పిల్లలను వారి దుస్తులతో తీసివేసిన చిత్రాలను రూపొందించడం ఇప్పటికే చట్టవిరుద్ధం అయితే, పెద్దల డీప్ఫేక్ల సృష్టికి సంబంధించిన చట్టం మరింత క్లిష్టంగా ఉంది. UK ప్రచారకర్తలు గత జూన్లో ఒక వ్యక్తి యొక్క అనుమతి లేకుండా సన్నిహిత చిత్రాలను సృష్టించడం మరియు సృష్టించడం చట్టవిరుద్ధం చేసే చట్టాన్ని ఆమోదించడంలో విజయం సాధించారు, అయితే సంబంధిత నిబంధనలు ఇంకా అమలు చేయబడలేదు, అంటే చట్టం ప్రస్తుతం అమలు చేయబడదు. అయితే, ఈ ఏకాభిప్రాయం లేని డీప్ఫేక్ చిత్రాలను భాగస్వామ్యం చేయడం ఇప్పటికే చట్టవిరుద్ధం.
షార్లెట్ ఓవెన్, కన్జర్వేటివ్ పీర్ ఎవరు చట్టాన్ని సమర్థించారుఇలా అన్నారు: “ప్రభుత్వం పదే పదే ఈ కీలకమైన నిబంధనలను ఎప్పుడు అమలులోకి తీసుకువస్తుందనే దానిపై టైమ్లైన్ ఇవ్వడానికి నిరాకరించింది. మేము ఇకపై ఎలాంటి జాప్యాలను భరించలేము. ఈ దుర్వినియోగం నుండి బయటపడినవారు ఉత్తమంగా అర్హులు. ఈ భయంకరమైన రీతిలో తమ సమ్మతి ఉల్లంఘించబడుతుందనే భయంతో ఎవరూ జీవించాల్సిన అవసరం లేదు.”
సమ్మతి లేకుండా సన్నిహిత డీప్ఫేక్ను సృష్టించడం లేదా అభ్యర్థించడం వంటి కొత్త నేరాలను వీలైనంత త్వరగా అమలు చేయడానికి ప్రభుత్వం కట్టుబడి ఉందని ఒక ప్రతినిధి చెప్పారు, లైంగిక అసభ్యకరమైన డీప్ఫేక్లు “అధోకరణం మరియు హానికరం … అందుకే వారి ఏకాభిప్రాయం లేని సృష్టిని నిషేధించాలని మేము చట్టం చేసాము, ఈ నేరస్థులకు తగిన శిక్షలు పడేలా చూస్తాము.”
గాబీ బెర్టిన్నగ్నీకరణ సాంకేతికతను నియంత్రించడానికి ప్రచారం చేసిన కన్జర్వేటివ్ పీర్, ప్రస్తుత చట్టం “ఎల్లప్పుడూ క్యాచ్ అప్ ప్లే చేస్తున్నందున” ప్రభుత్వం వేగంగా చర్య తీసుకోవాల్సిన అవసరం ఉందని అన్నారు.
అశ్లీల చిత్రాలపై మెరుగైన నియంత్రణ కోసం ప్రచారం చేస్తున్న లేబర్ ఎంపీ జెస్ అసాటో ఇలా అన్నారు: “ఇది లైంగిక వేధింపుల రూపమని ఎలోన్ మస్క్ గ్రహించి తగిన చర్యలు తీసుకోవాల్సిన అవసరం ఉంది. ఇది మహిళలను వారి సమ్మతి లేకుండా చిత్రీకరించడం మరియు ఆమెను కించపరిచేందుకు దానిని తీసివేస్తోంది – అవమానించడం తప్ప దీన్ని చేయడానికి వేరే కారణం లేదు.”
