గ్రోక్, ఎలోన్ మస్క్ యొక్క AI సాధనం, లైంగిక అసభ్యకరమైన మరియు హింసాత్మక చిత్రాలను రూపొందించడానికి దాని ఉపయోగంపై విస్తృతమైన నిరసనలు వచ్చిన తర్వాత అత్యధిక మంది వినియోగదారుల కోసం దాని ఇమేజ్ క్రియేషన్ ఫంక్షన్ను స్విచ్ ఆఫ్ చేసింది.
జరిమానాలు, నియంత్రణ చర్యలు మరియు సాధ్యమయ్యే నివేదికలతో మస్క్ బెదిరించబడిన తర్వాత ఈ చర్య వచ్చింది UKలో Xపై నిషేధం.
ఈ సాధనం మహిళల చిత్రాలను తారుమారు చేసి వారి దుస్తులను తీసివేసి వారిని లైంగికంగా ఉంచిన స్థానాల్లో ఉంచడానికి ఉపయోగించబడింది. చెల్లింపు సబ్స్క్రైబర్లకు మినహా అలా చేయాల్సిన ఫంక్షన్ స్విచ్ ఆఫ్ చేయబడింది.
పోస్ట్ చేస్తోంది Xమస్క్ యొక్క సోషల్ మీడియా నెట్వర్క్, గ్రోక్ ఇలా అన్నారు: “ఇమేజ్ జనరేషన్ మరియు ఎడిటింగ్ ప్రస్తుతం చెల్లింపు చందాదారులకే పరిమితం చేయబడ్డాయి.”
దీని అర్థం ప్లాట్ఫారమ్ యొక్క అత్యధిక మంది వినియోగదారులు గ్రోక్ని ఉపయోగించి చిత్రాలను సృష్టించలేరు మరియు వారి పూర్తి వివరాలు మరియు క్రెడిట్ కార్డ్ సమాచారాన్ని X ద్వారా నిల్వ చేసిన వారు, ఫంక్షన్ దుర్వినియోగం చేయబడితే గుర్తించవచ్చు.
గార్డియన్ వెల్లడించిన పరిశోధనలో ఇది మహిళల అనుమతి లేకుండా అశ్లీల వీడియోలతో పాటు మహిళలను కాల్చి చంపిన చిత్రాలను రూపొందించడానికి ఉపయోగించినట్లు కనుగొనబడింది.
ఏకాభిప్రాయం లేని లైంగిక చిత్రాలను రూపొందించడానికి గ్రోక్ను ఉపయోగించిన తర్వాత మస్క్ ప్రపంచవ్యాప్తంగా నియంత్రణ చర్యల ముప్పును ఎదుర్కొంటోంది.
సోషల్ మీడియా కంపెనీపై కఠిన చర్యలు తీసుకుంటామని బ్రిటన్ ప్రధాని కైర్ స్టార్మర్ బుధవారం బెదిరించారు.
ప్లాట్ఫారమ్పై పాక్షికంగా దుస్తులు ధరించిన మహిళలు మరియు పిల్లల AI-సృష్టించిన ఫోటోల ప్రవాహాన్ని “అవమానకరమైనది” మరియు “అసహ్యకరమైనది”గా అభివర్ణిస్తూ X “పట్టు పొందండి” అని అతను డిమాండ్ చేశాడు.
కమ్యూనికేషన్స్ రెగ్యులేటర్ ఆఫ్కామ్కి “దీనికి సంబంధించి చర్య తీసుకోవడానికి మా పూర్తి మద్దతు ఉంది” అని స్టార్మెర్ చెప్పాడు: “ఇది చట్టవిరుద్ధం. మేము దానిని సహించబోము. నేను అన్ని ఎంపికలను టేబుల్పై ఉంచమని అడిగాను. ఇది అసహ్యకరమైనది. X వారి చర్యను పొందాలి మరియు ఈ విషయాన్ని తగ్గించాలి. మేము దీనిపై చర్య తీసుకుంటాము ఎందుకంటే ఇది సహించలేనిది.”
డిసెంబర్ చివరిలో గ్రోక్ ఇమేజ్ క్రియేషన్ ఫీచర్ అప్డేట్ చేయబడిన తర్వాత, గత రెండు వారాల్లో వేలకొద్దీ స్త్రీల లైంగిక చిత్రాలు వారి అనుమతి లేకుండా సృష్టించబడ్డాయి. ఫీచర్ను తీసివేయడానికి లేదా పరిమితం చేయడానికి మస్క్ పదేపదే పబ్లిక్ కాల్లను ఎదుర్కొన్నాడు, కానీ ఇప్పటి వరకు సోషల్ మీడియా యాప్ చర్య తీసుకోలేదు.
వ్యాఖ్య కోసం Xని సంప్రదించారు.
