ఇప్పుడు మస్క్ యొక్క గ్రోక్ చాట్‌బాట్ పిల్లల లైంగిక చిత్రాలను సృష్టిస్తోంది. చట్టం దానిని ఆపకపోతే, బహుశా అతని పెట్టుబడిదారులు | సోఫియా స్మిత్ గేలర్

Iఇది ఒక కొత్త సాధనంతో ప్రజలు చేయడానికి ప్రయత్నించే మొదటి విషయం స్త్రీలను తొలగించడం అనేది ఇంటర్నెట్‌లోని ఒక అనారోగ్య చట్టం. Grok, X యొక్క AI చాట్‌బాట్, వినియోగదారులు పదే పదే ఉపయోగించబడుతోంది ఇటీవలి రోజుల్లో స్త్రీలు మరియు మైనర్ల చిత్రాలను విప్పుటకు. వార్తా సంస్థ రాయిటర్స్ గత శుక్రవారం 10 నిమిషాల వ్యవధిలో 102 అభ్యర్థనలను వినియోగదారుల నుండి బికినీలలోకి మార్చడానికి గ్రోక్‌ను పొందాలని గుర్తించింది, వీటిలో ఎక్కువ భాగం యువతులను లక్ష్యంగా చేసుకుంది. గ్రోక్ కనీసం 21 వాటిని పాటించాడు.

మీరు కూర్చున్నప్పుడు ఇంటర్నెట్‌లో దోపిడీ సాధనాలను విడుదల చేయడం సబబు కాదు $10bn (£7.5bn) నగదు. AI ఇంటిగ్రేషన్‌తో ఉన్న ప్రతి ప్లాట్‌ఫారమ్ (ఇది ఇప్పుడు దాదాపు మొత్తం ఇంటర్నెట్‌ను కవర్ చేస్తుంది) అదే సవాళ్ల కోసం ప్లాన్ చేస్తోంది; మీరు ఉత్పాదక AIతో చిత్రాలను మరియు వీడియోలను కూడా సృష్టించడానికి వినియోగదారులను ప్రారంభించాలనుకుంటే, అదే వ్యక్తులకు హాని కలిగించకుండా మీరు ఎలా చేస్తారు? టెక్ కంపెనీలు దీనితో కుస్తీ పట్టేందుకు వినియోగదారుగా మీరు ఎప్పటికీ చూడని తెర వెనుక డబ్బు ఖర్చు చేస్తారు; వారు “రెడ్ టీమింగ్” చేస్తారు, దీనిలో వారు తమ ఉత్పత్తులను పరీక్షించడానికి చెడు నటులుగా నటిస్తారు. విశ్వసనీయ పరిసరాలలో ఫీచర్‌లను పరిశీలించడానికి మరియు సమీక్షించడానికి వారు బీటా పరీక్షలను ప్రారంభిస్తారు.

ప్రతి పునరావృతంతో, వారు వినియోగదారులను సురక్షితంగా ఉంచడానికి మరియు చట్టానికి లోబడి ఉండటానికి మాత్రమే కాకుండా, ఆన్‌లైన్ దుష్ప్రవర్తనతో సంబంధం కలిగి ఉండకూడదనుకునే పెట్టుబడిదారులను శాంతింపజేసేందుకు భద్రతా చర్యలను తీసుకువస్తారు. కానీ మొదటి నుండి, ఎలోన్ మస్క్ డిజిటల్ స్ట్రిప్పింగ్ సమస్యగా భావించినట్లు కనిపించలేదు. ఎవరైనా బెన్ అఫ్లెక్ స్మోకింగ్ మెమ్‌ని మస్క్ సగం నగ్నంగా మార్చినట్లు అతను భావిస్తే అది మస్క్ యొక్క ప్రత్యేక హక్కు. “పరిపూర్ణమైనది”. ఇది అనేక అధికార పరిధిలో చట్టవిరుద్ధం కాకుండా ఏకాభిప్రాయం లేని AI డీప్‌ఫేక్‌లను భాగస్వామ్యం చేయడాన్ని ఆపలేదు, UKతో సహాఈ చిత్రాలను భాగస్వామ్యం చేసినందుకు లేదా పిల్లల లైంగిక చిత్రాలను రూపొందించినందుకు నేరస్థులకు ఛార్జీ విధించవచ్చు.

గ్రోక్ ఈ వారం చేసిన ఒక ఉపయోగకరమైన విషయం ఏమిటంటే అది ఎలా ప్రోగ్రామ్ చేయబడిందో వెల్లడిస్తుంది. స్వీడిష్ ఉప ప్రధాన మంత్రి ఎబ్బా బుష్ బికినీలో కనిపించేలా ఆమె చిత్రాన్ని ఎందుకు తారుమారు చేసిందని ఒక వినియోగదారు ప్రశ్నించగా, అది సెటైర్ అని వాదించారు ఎందుకంటే ఆమె బురఖా నిషేధం గురించి మాట్లాడింది. అని పట్టుబట్టి వెళ్లింది నిజమైన ఫోటో డీప్‌ఫేక్ కాదు, కానీ AI- రూపొందించిన ఇలస్ట్రేషన్ (తప్పు), మరియు అభ్యర్థనలకు “సృజనాత్మకంగా ప్రతిస్పందిస్తూ నిజమైన హానిని నివారించడం”, నైతికతతో వినోదాన్ని సమతుల్యం చేయడం దీని లక్ష్యం అని జోడించారు.

హాస్యాన్ని విలువైనదిగా భావించే వ్యక్తికి, మస్క్ దానితో చాట్‌బాట్‌ను అందించడానికి ప్రయత్నించడం వింతగా ఉంది. చాట్‌బాట్‌లకు తప్పుగా పేరు పెట్టారు, ఎందుకంటే వాటికి అసలు ఎలా మాట్లాడాలనే ఆలోచన లేదు – అవి వాస్తవమైన అంతర్దృష్టికి విరుద్ధంగా గణాంక నమూనాలు మరియు డేటా శిక్షణను ఉపయోగించి తర్వాత వచ్చే అవకాశాలను అంచనా వేయడం ద్వారా వచనాన్ని రూపొందిస్తాయి. గ్రోక్ యొక్క సాకులు దాని భద్రత కోసం లేదా వాస్తవాలకు కట్టుబడి ఉండటం కోసం దాని పారామితులను బలంగా పరీక్షించలేదు; ఇది వినోదం కోసం ప్రోగ్రామ్ చేయబడింది.

వారం అభివృద్ధి చెందడంతో, మస్క్ ఈ జోక్‌ని తనంతట తానుగా సరదాగా భావించినట్లు కనిపిస్తోంది. “చట్టవిరుద్ధమైన కంటెంట్‌ను రూపొందించడానికి గ్రోక్‌ని ఉపయోగించే ఎవరైనా చట్టవిరుద్ధమైన కంటెంట్‌ను అప్‌లోడ్ చేస్తే అదే పరిణామాలను ఎదుర్కొంటారు” జనవరి 3న మస్క్ బెదిరించాడు ఒక వెల్లుల్లి పిండి బంతి యొక్క అన్ని గురుత్వాకర్షణల వలె కనిపించింది. 2023 మరియు 2024 మధ్య, X నాటకీయంగా విశ్వాసం మరియు భద్రతా సిబ్బందిని తగ్గించింది మరియు వినియోగదారు రిపోర్టింగ్‌పై ఎక్కువగా ఆధారపడుతుంది. దీని అర్థం చాలా మంది చెడ్డ నటులు ప్లాట్‌ఫారమ్‌లో చట్టవిరుద్ధమైన ప్రవర్తనతో ఇప్పటికీ బయటపడవచ్చు.

X సమస్యను స్వయంగా పరిష్కరించడంలో సహాయపడగలదని అంగీకరించే బదులు, మస్క్ చట్ట అమలుపై దర్యాప్తు బాధ్యతను మరియు X యొక్క వినియోగదారులపై నిందను మోపారు. ఆఫ్‌కామ్, అలాగే యూరోపియన్ కమీషన్, వారు పరిశోధించి, X యొక్క విధానాలు లోపభూయిష్టంగా ఉన్నట్లయితే, పుస్తకాన్ని అతనిపైకి తిరిగి విసిరేయవచ్చు – అయితే, మస్క్ జవాబుదారీతనం నుండి తప్పించుకోవచ్చు, ప్రస్తుతం ఉన్నట్లుగా Xకి €120m జరిమానా జారీ చేయబడింది దాని నీలి రంగు టిక్ బ్యాడ్జ్‌లపై.

ChatGPT మరియు Meta AI వంటి ఇతర AI ఏజెంట్ సాధనాలు ఏకాభిప్రాయం లేని డీప్‌ఫేక్ పోర్నోగ్రఫీని నిషేధించాయి మరియు దీన్ని అమలు చేస్తున్నట్లుగా కనిపిస్తాయి, ఇది ప్రశ్నను లేవనెత్తుతుంది: Grok ఎందుకు చేయకూడదు? ప్రపంచంలో నేరాలు జరగడానికి అనుమతించే ప్లాట్‌ఫారమ్‌ను పోలీసులు ఎలా ఎంచుకుంటారు అనేది మస్క్ వంటి వ్యక్తులు శిక్షార్హత లేకుండా పనిచేయగలరా అనేది ఒకసారి మరియు అందరికీ రుజువు చేస్తుంది. రాజకీయ హక్కులు ఎవరు ఎలా ఎంజాయ్ చేశారో చూడాలనే ఆసక్తి నాకు ఉంది X వారి దిశలో వంగి ఉంటుంది మస్క్ స్వాధీనం చేసుకున్నప్పటి నుండి, దీనిపై ప్రతిస్పందిస్తుంది. స్త్రీలు మరియు పిల్లలను రక్షించడం అనేది సాంప్రదాయిక విలువల యొక్క ప్రధాన సిద్ధాంతం, మరియు USలోని మితవాద స్వరాలు ఇప్పుడు నైతిక పరీక్షను ఎదుర్కొంటున్నాయి. రాబోయే వారాల్లో, వారు స్వేచ్ఛా ప్రసంగం పేరుతో US కంపెనీని రక్షించడానికి సిద్ధంగా ఉన్నారో లేదో చూడబోతున్నాము, అది వ్యక్తులను సృష్టించడానికి అనుమతించినప్పటికీ పిల్లల లైంగిక కంటెంట్.

మాజీ రోజువారీ వినియోగదారుగా నా దృష్టికోణం నుండి, X చాలా కాలంగా ఆతిథ్యం ఇవ్వలేనిదిగా భావించబడింది – మరియు ఈ వారం ఈవెంట్‌లు డిజిటల్ అసహ్యకరమైన వరుసలో తాజావి, ఇది నా అవుట్‌పుట్‌ను వేరే చోటికి తరలించడం మంచి నిర్ణయమని నాకు గుర్తు చేస్తుంది. కానీ చురుకైన, ప్రతికూల వాతావరణం ఈ ప్రవర్తనను సాధారణీకరిస్తుంది, మనం అక్కడ ఉన్నామా లేదా అనే దానితో సంబంధం లేకుండా, ఈ చిత్రాలు ఇంటర్నెట్‌లో వ్యాప్తి చెందుతాయి. నష్టం – దాడి – మనం ఇప్పటికీ X వినియోగదారులుగా ఉన్నామా లేదా అనే విషయాన్ని సూచిస్తుంది.

ఎవరైనా ఏదైనా చేయవలసి ఉంటుంది – మరియు అంతర్జాతీయ ప్రభుత్వాలు Xని మార్చడానికి ప్రేరేపించలేకపోతే, బహుశా దాని పెట్టుబడిదారులలో కొందరు చేయవచ్చు. xAI బిలియన్ల కొద్దీ మండుతోంది దాని AI అభివృద్ధి కోసం, మరియు దాని వినియోగదారులను విల్లీ-నిల్లీ చిత్రాలను రూపొందించడానికి అనుమతించడం ద్వారా డేటాను గజ్లింగ్ చేస్తుంది; వివిధ అంతర్జాతీయ చట్టాలను గౌరవించడం మరింత చట్టపరమైనది కాదు – కానీ అది చౌకగా కూడా ఉంటుంది.

గ్రోక్ యొక్క ఉద్దేశ్యం దాని స్వంత వెబ్‌సైట్ ప్రకారం “నిజం మరియు నిష్పాక్షికతను” పెంచడం, కానీ ఈ రోజు నేను దాని సెస్‌పిట్‌ను స్క్రోల్ చేస్తున్నప్పుడు, అనామక వినియోగదారు అభ్యర్థన మేరకు స్వీడిష్ రాజకీయవేత్త యొక్క “నాకర్స్” గరిష్టీకరించడాన్ని నేను చూశాను. న్యూస్ రిపోర్టింగ్ ఇప్పుడు 14 ఏళ్ల వయస్సు గల వారి బికినీ చిత్రాలను కూడా చార్ట్ చేస్తోంది. “మేము అనుమానిత పిల్లల లైంగిక వేధింపుల మెటీరియల్‌ని తప్పిపోయిన మరియు దోపిడీకి గురైన పిల్లల కోసం నేషనల్ సెంటర్‌కు నివేదిస్తాము” అని xAI యొక్క ఆమోదయోగ్యమైన వినియోగ విధానం దావా వేసింది. కానీ కంపెనీ తన స్వంత రాక్షసుడిని నివేదించడం ఎంత సౌకర్యవంతంగా ఉంటుంది?

• సోఫియా స్మిత్ గేలర్ ఒక పాత్రికేయురాలు మరియు కంటెంట్ సృష్టికర్త. ఆమె రెండవ పుస్తకం, ఒక భాషను ఎలా చంపాలిమేలో ప్రచురించబడుతుంది

• ఈ వ్యాసంలో లేవనెత్తిన సమస్యలపై మీకు అభిప్రాయం ఉందా? మీరు ఇమెయిల్ ద్వారా గరిష్టంగా 300 పదాల ప్రతిస్పందనను సమర్పించాలనుకుంటే మాలో ప్రచురణ కోసం పరిగణించబడుతుంది అక్షరాలు విభాగం, దయచేసి ఇక్కడ క్లిక్ చేయండి.