టీనేజ్ అమ్మాయిలు మస్క్ యొక్క xAIపై దావా వేశారు, గ్రోక్ టూల్ పిల్లలపై లైంగిక వేధింపుల విషయాలను సృష్టించిందని ఆరోపించింది గ్రోక్ AI
ముగ్గురు టీనేజ్ బాలికలు, వారిలో ఇద్దరు మైనర్లు ఉన్నారు, దీనిపై సోమవారం దావా వేసింది ఎలోన్ మస్క్యొక్క xAI కృత్రిమ మేధస్సు పిల్లల లైంగిక వేధింపుల మెటీరియల్ని ఉత్పత్తి చేయడానికి మరియు పంపిణీ చేయడానికి దాని గ్రోక్ ఇమేజ్ జనరేటర్ వారి ఫోటోలను ఉపయోగించిందని కంపెనీ ఆరోపించింది. ఈ సంవత్సరం ప్రారంభంలో గ్రోక్ యొక్క ప్రబలమైన ఏకాభిప్రాయం లేని నగ్న చిత్రాల తర్వాత మైనర్లు దాఖలు చేసిన మొదటి కేసు క్లాస్-యాక్షన్ దావా.
“అలాంటి ప్రమాదకరమైన ఉత్పత్తిని సృష్టించడం వల్ల కలిగే పరిణామాల గురించి పూర్తిగా తెలిసినప్పటికీ, పిల్లలతో సహా నిజమైన వ్యక్తుల లైంగిక వేధింపుల నుండి లాభం పొందాలని xAI ఎంచుకుంది” అని వాది తరఫు న్యాయవాది వెనెస్సా బెహర్-జోన్స్ ఒక ప్రకటనలో తెలిపారు.
ముగ్గురు టేనస్సీ టీనేజర్లు తీసుకువచ్చిన దావా, xAI ప్రధాన కార్యాలయం ఉన్న కాలిఫోర్నియాలో దాఖలు చేయబడింది, అమ్మాయిలు తమ నగ్న, AI-మార్పు చేసిన చిత్రాలను డిస్కార్డ్ సర్వర్లో అప్లోడ్ చేసి, వారికి తెలియకుండా ఆన్లైన్లో ఎలా పంచుకున్నారో వివరిస్తుంది.
వారు చిత్రాలకు చట్ట అమలును హెచ్చరించిన తర్వాత, ఫిర్యాదు ప్రకారం, పోలీసులు ఆ నెలలో ఒక అనుమానితుడిని అరెస్టు చేశారు మరియు అతని ఫోన్లో xAI యొక్క ఇమేజ్ మరియు వీడియో జనరేషన్ టెక్నాలజీని ఉపయోగించి రూపొందించబడిన పిల్లల లైంగిక వేధింపు మెటీరియల్ (CSAM)ని కనుగొన్నారు.
గార్డియన్ నుండి వ్యాఖ్య కోసం చేసిన అభ్యర్థనకు xAI వెంటనే స్పందించలేదు.
CSAM థర్డ్-పార్టీ యాప్ను ఉపయోగించి సృష్టించబడిందని దావా ఆరోపించింది, అది లైసెన్సు పొందిన మరియు మెటీరియల్ని ఉత్పత్తి చేయడానికి గ్రోక్ యొక్క AIపై ఆధారపడింది. వాషింగ్టన్ పోస్ట్ మొదట నివేదించబడింది కేసుపై.
ఈ వ్యాజ్యం అనేక ఇతర చట్టపరమైన చర్యలతో కలుస్తుంది మరియు అంతర్జాతీయ పరిశోధనలు మస్క్ పిల్లలలో ఒకరి తల్లి నుండి మరొక వ్యాజ్యం మరియు అధికారిక యూరోపియన్ యూనియన్ విచారణతో సహా ఏకాభిప్రాయం లేని లైంగిక చిత్రాల సృష్టి మరియు వ్యాప్తిపై xAI లోకి. కుంభకోణం తారాస్థాయికి చేరినప్పుడు, సెంటర్ ఫర్ కౌంటర్ డిజిటల్ హేట్ పరిశోధకులు లెక్కించారు గ్రోక్ రెండు వారాల కంటే తక్కువ వ్యవధిలో 3 మిలియన్ల లైంగిక చిత్రాలను సృష్టించాడు – అందులో దాదాపు 23,000 మంది పిల్లలను చిత్రీకరించారు.
CSAMను ఉత్పత్తి చేయడానికి గ్రోక్ ఉపయోగించబడలేదని మస్క్ గతంలో తిరస్కరించాడు, జనవరిలో క్లెయిమ్ చేస్తోంది అతను “గ్రోక్ రూపొందించిన నగ్న వయస్సు గల చిత్రాల గురించి తెలియదు. అక్షరాలా సున్నా.”
గ్రోక్ ఎలాంటి చట్టవిరుద్ధమైన చిత్రాలను రూపొందించదని మరియు స్థానిక చట్టాలను అనుసరించడమే దాని నిర్వహణ సూత్రం అని కూడా అతను ఆరోపించాడు.
సోమవారం దాఖలు చేసిన ఫిర్యాదులో, టీనేజ్ వాది తరపు న్యాయవాదులు తమ AI-మార్పు చేసిన నగ్న చిత్రాలు ఆన్లైన్లో ప్రసారం అవుతున్నాయని బాలికలు ఎలా కనుగొన్నారో వివరించారు. జేన్ డో 1 అని పిలువబడే ఒక అమ్మాయి, డిసెంబర్లో ఇన్స్టాగ్రామ్లో అనామక వినియోగదారు నుండి ఒక సందేశాన్ని అందుకుంది, ఆమె తన సోషల్ సర్కిల్లోని ఎవరైనా డీప్ఫేక్ వీడియోలు మరియు చిత్రాల శ్రేణిని డిస్కార్డ్ సర్వర్లో అప్లోడ్ చేశారని ఆమె మరియు ఆమె హైస్కూల్లోని ఇతర బాలికలను నగ్నంగా మరియు లైంగిక స్థానాల్లో చిత్రీకరిస్తున్నట్లు ఫిర్యాదులో పేర్కొంది.
జేన్ డో మూడు ఫోటోలు ఆమె మైనర్గా ఉన్నప్పుడు తీసిన ఫోటోగ్రాఫ్ల యొక్క AI-మార్చబడిన చిత్రాలుగా కనిపించడం గమనించింది, అందులో ఒకటి ఆమె పాఠశాల హోమ్కమింగ్ వేడుకలో ఉంది. క్రిమినల్ ఇన్వెస్టిగేటర్లు తర్వాత కూడా ఆ చిత్రాలను మెసేజింగ్ యాప్ టెలిగ్రామ్లో పంచుకున్నట్లు కనుగొన్నారు, ఫిర్యాదు ప్రకారం, వారు ఇతర పిల్లల లైంగిక వేధింపుల మెటీరియల్ని మార్చుకోవడానికి కరెన్సీగా ఉపయోగించబడుతున్నారని ఆరోపించారు.
“చిత్రాలు ఆమె మొత్తం శరీరాన్ని, ఆమె జననాంగాలతో సహా, ఎలాంటి బట్టలు లేకుండా చూపించాయి. ఆమె పూర్తిగా నగ్నంగా ఉండే వరకు ఆమె బట్టలు విప్పినట్లు వీడియోలో చిత్రీకరించబడింది” అని ఫిర్యాదు పేర్కొంది.
ఫిబ్రవరిలో దావాలోని ఇతర వాదులు ఇలాంటి CSAM మెటీరియల్ను AI ద్వారా రూపొందించారని మరియు ఆన్లైన్లో షేర్ చేశారని, చిత్రాల ఫలితంగా ఖ్యాతి మరియు మానసిక ఆరోగ్యానికి హాని కలిగించినందుకు xAIకి వ్యతిరేకంగా దావా వేయాలని కోరింది.
“ఈ చిత్రాలు సృష్టించబడి, వాటిని గుర్తుకు తెచ్చుకోవాలనే ఆశ లేకుండా పంపిణీ చేయబడిందని తెలుసుకున్న తర్వాత నా కుమార్తె తీవ్ర భయాందోళనకు గురైంది” అని ఒక బాలిక తల్లి ప్రతినిధి ద్వారా చెప్పారు.
X వెబ్సైట్ లేదా Grok యాప్లో నేరుగా కాకుండా Grok యొక్క సాంకేతికతను యాక్సెస్ చేసే మూడవ-పక్ష అప్లికేషన్ను ఉపయోగించి చిత్రాలు సృష్టించబడినట్లు ఫిర్యాదు ఆరోపించినప్పటికీ, ఈ వినియోగానికి ఇప్పటికీ xAI యొక్క సర్వర్లు అవసరమని మరియు xAI తన సాంకేతికతను ఈ యాప్లకు లైసెన్స్ ఇవ్వడం ద్వారా లాభపడుతుందని ఫిర్యాదు వాదించింది.
వాది తరపు న్యాయవాదులు xAI దాని లైసెన్సింగ్ నిర్మాణం మరియు పర్యవేక్షణ లేకపోవడం ద్వారా బాధ్యతను సమర్థవంతంగా ఆఫ్లోడింగ్ చేసిందని ఆరోపించారు.
