కాలిఫోర్నియా అటార్నీ జనరల్ అశ్లీల నకిలీ చిత్రాలపై మస్క్ యొక్క గ్రోక్ AI దర్యాప్తు | గ్రోక్ AI

కాలిఫోర్నియా యొక్క అవుట్‌పుట్‌పై అధికారులు విచారణను ప్రకటించారు ఎలోన్ మస్క్యొక్క గ్రోక్.

రాష్ట్ర అత్యున్నత న్యాయవాది తెలిపారు గ్రోక్మస్క్ కంపెనీ xAI ద్వారా తయారు చేయబడిన AI సాధనం మరియు ఇమేజ్ జనరేటర్, X మరియు ఆన్‌లైన్‌లో ఇతర చోట్ల డీప్‌ఫేక్ చిత్రాలతో మహిళలు మరియు బాలికలను వేధించడం సులభం చేస్తున్నట్టు కనిపిస్తోంది.

“ఇటీవలి వారాల్లో xAI ఉత్పత్తి చేసి ఆన్‌లైన్‌లో పోస్ట్ చేసిన ఏకాభిప్రాయం లేని, లైంగిక అసభ్యకరమైన విషయాలను వివరించే నివేదికల హిమపాతం దిగ్భ్రాంతిని కలిగిస్తుంది” కాలిఫోర్నియా అటార్నీ జనరల్, రాబ్ బొంటా ఒక ప్రకటనలో తెలిపారు. “ఇది ఇకపై జరగకుండా చూసేందుకు తక్షణ చర్య తీసుకోవాలని నేను xAIని కోరుతున్నాను.”

xAI రాష్ట్ర చట్టాన్ని ఎలా ఉల్లంఘించిందో మరియు ఎలా ఉల్లంఘించిందో బొంటా కార్యాలయం దర్యాప్తు చేస్తోంది.

X లో, కాలిఫోర్నియా గవర్నర్ గావిన్ న్యూసోమ్ “ఈ వెబ్‌సైట్‌లో పిల్లల అశ్లీలతను గ్రోక్ అసహ్యంగా వ్యాప్తి చేయడం”పై విచారణకు పిలుపునిచ్చింది.

“బిడ్డలను డిజిటల్‌గా బట్టలు విప్పే చిత్రాలతో సహా ఏకాభిప్రాయం లేని లైంగిక అసభ్యకరమైన AI డీప్‌ఫేక్‌లను వ్యాప్తి చేయడానికి మాంసాహారుల కోసం బ్రీడింగ్ గ్రౌండ్‌ను సృష్టించి, హోస్ట్ చేయాలనే xAI నిర్ణయం నీచమైనది” అని అతని అధికారిక ఖాతా నుండి ఒక ట్వీట్ చదవండి.

అదే రోజు, మైనర్‌ల నగ్న చిత్రాలను వ్యాప్తి చేయడానికి గ్రోక్‌ను ఉపయోగించడాన్ని మస్క్ ఖండించారు. అతను Xలో ఇలా వ్రాశాడు: “గ్రోక్ రూపొందించిన నగ్న వయస్సు గల చిత్రాల గురించి నాకు తెలియదు. అక్షరాలా సున్నా.”

దాదాపు రెండు వారాల క్రితం, AI సాధనం వినియోగదారులచే ప్రశ్నించబడినప్పుడు “మైనర్లను కనీస దుస్తులలో చిత్రీకరించే చిత్రాలను” రూపొందించినట్లు చెప్పింది.

గ్రోక్ వినియోగదారులు ఆన్‌లైన్‌లో కనిపించే మహిళలు లేదా పిల్లల చిత్రాలను తీస్తున్నారని మరియు వారి బట్టలు విప్పడానికి xAI బాట్‌ను ఉపయోగిస్తున్నారని ఇటీవలి వారాల్లో నివేదికల వరదలు వచ్చాయి, బొంటా చెప్పారు.

గ్రోక్ యొక్క ఇమేజ్ జనరేషన్ మోడల్‌లలో అటార్నీ జనరల్ కార్యాలయం ప్రకారం, చిత్రాలతో సహా లైంగిక విషయాలను రూపొందించడానికి మరియు సవరించడానికి xAI “స్పైసీ మోడ్”గా ప్రచారం చేస్తుంది.

గత వారం, పారిస్ నాన్-ప్రాఫిట్ AI ఫోరెన్సిక్స్ ద్వారా 20,000 కంటే ఎక్కువ గ్రోక్-సృష్టించిన చిత్రాల విశ్లేషణలో సగానికి పైగా “కనీస వస్త్రధారణలో ఉన్న వ్యక్తులు” – వారిలో ఎక్కువ మంది మహిళలు మరియు 2% మంది 18 ఏళ్లలోపు వారుగా కనిపిస్తున్నారు.

బొంటా ప్రకారం, గ్రోక్ రూపొందించిన చిత్రాలు పబ్లిక్ ఫిగర్స్‌తో పాటు సాధారణ సోషల్ మీడియా వినియోగదారులను వేధించడానికి ఉపయోగించబడుతున్నాయి.

ముగ్గురు డెమొక్రాటిక్ US సెనేటర్లు గత వారం లైంగిక చిత్రాల వరదలకు ప్రతిస్పందనగా తమ యాప్ స్టోర్‌ల నుండి X మరియు Grok కోసం యాప్‌లను తీసివేయవలసిందిగా Apple మరియు Googleకి పిలుపునిచ్చారు. ఇద్దరు టెక్ దిగ్గజాలు ప్రతిస్పందనగా మౌనంగా ఉన్నారు.

లైంగికీకరించబడిన డీప్‌ఫేక్ చిత్రాలపై xAI ప్రపంచవ్యాప్త ఎదురుదెబ్బను ఎదుర్కొంది. ఇండోనేషియా శనివారం గ్రోక్‌కు పూర్తిగా యాక్సెస్‌ను నిరోధించిన మొదటి దేశంగా అవతరించింది, పొరుగున ఉన్న మలేషియా ఆదివారం అనుసరించింది. X తన ఫిర్యాదులకు ప్రతిస్పందనగా వేలాది పోస్ట్‌లను మరియు వందలాది వినియోగదారు ఖాతాలను తొలగించిందని భారతదేశం ఆదివారం తెలిపింది.

లైంగిక చిత్రాలపై X UK చట్టాన్ని పాటించడంలో విఫలమైందా అనే దానిపై విచారణను ప్రారంభిస్తున్నట్లు బ్రిటన్ ఆఫ్‌కామ్ మీడియా రెగ్యులేటర్ సోమవారం తెలిపింది. గ్రోక్ రూపొందించిన చిత్రాలను ఫ్రెంచ్ ప్రాసిక్యూటర్లు, ఆర్కామ్ మీడియా రెగ్యులేటర్‌లకు సూచించినట్లు ఫ్రాన్స్ పిల్లల కమీషనర్ సారా ఎల్ హెయిరీ మంగళవారం తెలిపారు. యూరోపియన్ యూనియన్.

EU యొక్క డిజిటల్ వాచ్‌డాగ్‌గా వ్యవహరించే యూరోపియన్ కమీషన్, గ్రోక్‌కి సంబంధించిన అన్ని అంతర్గత పత్రాలు మరియు డేటాను 2026 చివరి వరకు ఉంచుకోవాలని Xని ఆదేశించింది.