X యొక్క AI వేలకొద్దీ నగ్న వ్యక్తుల డీప్ఫేక్లను ఉత్పత్తి చేస్తోంది – గంటకు దాదాపు 6,700 చిత్రాలు
AI కంపెనీలు బాధ్యత వహించాలా లేక వినియోగదారులు మాత్రమే బాధ్యత వహించాలా?
ఫోటో: Xataka
ఓ చాట్బాట్ గ్రోక్ఎలోన్ మస్క్ యొక్క xAI చే అభివృద్ధి చేయబడింది, ఇది అపూర్వమైన నైతిక మరియు భద్రతా సంక్షోభానికి కేంద్రంగా ఉంది X (గతంలో ట్విట్టర్). మహిళలు మరియు పిల్లలను డిజిటల్గా “వివస్త్రను” చేయడానికి కృత్రిమ మేధస్సును సామూహికంగా ఉపయోగిస్తున్నారని ఇటీవలి విశ్లేషణ వెల్లడించింది, ఇది సోషల్ నెట్వర్క్ను మార్చేస్తుంది ఫైనాన్షియల్ టైమ్స్ దీనిని “డీప్ఫేక్ పోర్న్ సైట్”గా అభివర్ణించారు.
సేవ కోసం ఛార్జ్ చేసే ఇతర “nudify” యాప్ల వలె కాకుండా, Grok మిలియన్ల కొద్దీ ప్రీమియం వినియోగదారులకు అందుబాటులో ఉంది, పారిశ్రామిక స్థాయిలో ఏకాభిప్రాయం లేని లైంగిక కంటెంట్ని సృష్టించడం సులభం చేస్తుంది.
భయంకరమైన సంఖ్యలు: గ్రోక్ దుర్వినియోగ కర్మాగారం
@Grok ఖాతా ద్వారా పోస్ట్ చేయబడిన చిత్రాలపై పరిశోధకుడు Genevieve Oh 24-గంటల పర్యవేక్షణ (జనవరి 5 మరియు 6, 2026 మధ్య) నిర్వహించారు. డేటా షాకింగ్:
- Grok సుమారుగా ఉత్పత్తి చేస్తుంది గంటకు 6,700 చిత్రాలు లైంగికంగా సూచించే లేదా కృత్రిమ నగ్నత్వంగా గుర్తించబడింది.
- ఈ రకమైన కంటెంట్లో ప్రత్యేకత కలిగిన ప్రధాన సైట్లు చుట్టూ, కలిపి, ఉత్పత్తి చేస్తాయి గంటకు 79 చిత్రాలుమస్క్ యొక్క సాధనం అదే కాలంలో వేల సంఖ్యలో ఉత్పత్తి చేస్తుంది.
- అని అంచనా వేయబడింది మొత్తం చిత్రాలలో 85% Grok ద్వారా ఉత్పత్తి చేయబడినవి ప్రస్తుతం లైంగికీకరించబడ్డాయి.
సమర్థవంతమైన ఫిల్టర్లు లేకపోవడం
సమస్య ఎలోన్ మస్క్ వ్యక్తిగత సర్కిల్కు కూడా చేరింది. యాష్లే సెయింట్ క్లైర్బిలియనీర్ పిల్లలలో ఒకరి తల్లి, మస్క్ మద్దతుదారులు గ్రోక్ని ఉపయోగించి తనపై “పగ తీర్చుకునే అశ్లీలతను” సృష్టిస్తున్నారని, ఆమె చిన్నపిల్లగా ఉన్నప్పటి నుండి ఫోటోలు విప్పే స్థాయికి వెళ్లారని నివేదించింది.
…
సంబంధిత కథనాలు
AIతో పాత GPUలను పునఃప్రారంభించడం “మంచి ఆలోచన” అని Nvidia CEO చెప్పారు
ఆఫర్లో ప్రీమియం వైర్లెస్ కీబోర్డ్: లాజిటెక్ MX మెకానికల్ అమెజాన్లో 28% వరకు చౌకగా ఉంటుంది
