ఆఫ్‌కామ్ వర్సెస్ గ్రోక్‌పై గార్డియన్ వీక్షణ: పిల్లల బట్టలు విప్పడానికి చాట్‌బాట్‌లు అనుమతించబడవు | సంపాదకీయం

ఎn ఆన్‌లైన్ ట్రెండ్‌లో గ్రోక్, ఎలోన్ మస్క్ యాజమాన్యంలోని చాట్‌బాట్ అడగడం మహిళలు మరియు బాలికల ఛాయాచిత్రాలను విప్పు మరియు వారు బికినీలు ధరించి చూపించడం UKలో మరియు అంతర్జాతీయంగా ఆగ్రహాన్ని రేకెత్తించింది. ఈ వారం ప్రారంభంలో, సైన్స్ అండ్ టెక్నాలజీ సెక్రటరీ లిజ్ కెండల్, డిజిటల్‌గా మార్చబడిన చిత్రాల విస్తరణను వర్ణించారు, వాటిలో కొన్ని బహిరంగంగా లైంగికంగా లేదా హింసాత్మకంగా ఉంటాయి, “మర్యాదపూర్వక సమాజంలో ఆమోదయోగ్యం కాదు”. ఆమె మరియు ఆమె సహోద్యోగులు అటువంటి వ్యాఖ్యలను అనుసరించడానికి సిద్ధంగా ఉన్నారా అనే దానిపై తదుపరి ఏమి జరుగుతుంది. AI పట్ల ప్రభుత్వం యొక్క సాధారణంగా ఉత్సాహపూరితమైన విధానం, మరియు పబ్లిక్ సర్వీసెస్‌లో వారు పెరుగుతున్న పాత్రను చూస్తారుఅటువంటి బెదిరింపులను ఎదుర్కొనే వారి సామర్థ్యంపై విశ్వాసం కలిగించవద్దు.

బికినీ చిత్రాల వరదతో పాటు, ఇంటర్నెట్ వాచ్ ఫౌండేషన్, స్వచ్ఛంద సంస్థ, గ్రోక్ ఇమాజిన్ (ప్రాంప్ట్‌ల నుండి చిత్రాలు మరియు వీడియోలను రూపొందించే AI సాధనం) చట్టవిరుద్ధమైన పిల్లల లైంగిక వేధింపు చిత్రాలను రూపొందించడానికి ఉపయోగించబడిందని ఆధారాలు ఉన్నాయి. అయితే X అది చెప్పింది అటువంటి పదార్థాన్ని తొలగిస్తుందిచట్టాన్ని ఉల్లంఘించని చోట కూడా క్రూరమైన మరియు ఉల్లంఘించే బికినీ చిత్రాలకు ప్రతిస్పందనగా భద్రతా చర్యలు కఠినతరం చేయబడిన సంకేతాలు లేవు.

Mr మస్క్ యొక్క ట్రాక్ రికార్డ్ మరియు దాని ప్రకారం ఈ ప్రతిస్పందన యొక్క అసమర్థత ఆశ్చర్యం కలిగించదు అతని పరిశ్రమ. కానీ అది ఇంకా కలవరపెడుతోంది. ఈ వారం ప్రారంభంలో xAI, X (గతంలో Twitter) మరియు Grok రెండింటినీ కలిగి ఉన్న సంస్థ, దాని తాజా నిధుల రౌండ్‌లో $20bn సేకరించినట్లు ప్రకటించింది. బుధవారం Mr మస్క్ X లో “Grok దేవదూతల వైపు ఉన్నాడు” అని పోస్ట్ చేసాడు.

UKలో, ఇప్పుడు మీడియా రెగ్యులేటర్‌పై దృష్టి కేంద్రీకరించబడింది, ఆఫ్కామ్ఇది దర్యాప్తు అవసరాన్ని అంచనా వేస్తోంది. ఇది ప్రజల విశ్వాసాన్ని నిలుపుకోవాలనుకుంటే, Ofcom దాని విధానంలో మరింత ఆవశ్యకతను చొప్పించాలి మరియు అది తీసుకుంటున్న చర్యలను వివరించాలి. UK యొక్క ఆన్‌లైన్ భద్రతా చట్టం సేవా అంతరాయాన్ని చివరి ప్రయత్నంగా పరిగణిస్తుంది, దీని అర్థం అధికారులు నిర్దిష్ట సైట్‌ను బ్లాక్ చేయడం వంటి తీవ్రంగా ఏదైనా చేసే ముందు ఒక ప్రక్రియను అనుసరించాలి.

ప్రమాదం ఏమిటంటే, అటువంటి దశలను పాటించకూడదనుకునే ప్లాట్‌ఫారమ్‌ల ద్వారా లాగబడవచ్చు. ఆందోళన కలిగించే ఉదాహరణ పోర్నోగ్రఫీ వెబ్‌సైట్లపై జరిమానాలు విధించారు వయస్సు ధృవీకరణ ప్రమాణాలను అందుకోవడంలో విఫలమైంది – మరియు ఇప్పటివరకు చెల్లించనివి. ఆఫ్కామ్ ప్రతిస్పందనగా ఏమి చేయబోతోంది?

సాంకేతికత అభివృద్ధి చెందుతున్నప్పుడు, దీర్ఘకాలంగా స్థిరపడిన ప్రవర్తనలు మరియు నిబంధనలకు అంతరాయం కలిగించే కొద్దీ మరింత నియంత్రణ అవసరమవుతుంది. మన స్వంత ముఖాలు మరియు శరీరాలపై వ్యక్తిగత హక్కులు ఎంతవరకు విస్తరించాలి అనే ప్రశ్నతో ప్రజానీకం, ​​అలాగే చట్టం మరియు సాంకేతిక నిపుణులు పట్టుబడాలి. డెన్మార్క్‌లో, ప్రణాళికలు ఉన్నాయి వ్యక్తులకు వారి స్వంత పోలికపై కాపీరైట్ ఇవ్వండికాబట్టి సమ్మతి లేకుండా నిజమైన వ్యక్తుల ఫోటోగ్రాఫ్‌లను మార్చడం చట్టవిరుద్ధం అవుతుంది – చిత్రాలు సన్నిహితంగా లేదా లైంగికంగా లేనప్పటికీ.

కానీ మహిళలు మరియు పిల్లల భద్రత మరియు శ్రేయస్సును తీవ్రంగా పరిగణించే ప్రభుత్వం అటువంటి చర్చల కోసం వేచి ఉండదు మరియు గత వారంలో జరిగిన సంఘటనలపై త్వరగా స్పందించాలి. చాట్‌బాట్‌లకు సంబంధించిన చట్టంలోని ఖాళీలను ఇప్పుడు పూరించాలి, సంవత్సరాలు పట్టే AI బిల్లులో కాదు. దీనిని సాధించడానికి పోలీసు మరియు క్రైమ్ బిల్లును సవరించవచ్చు. ప్రొఫెసర్ క్లేర్ మెక్‌గ్లిన్ యొక్క ప్రతిపాదన a లైంగిక నేరాలకు విస్తృత-బ్రష్ విధానం – ప్రతి ఉద్భవిస్తున్న ముప్పును పరిష్కరించడానికి ప్రత్యేక కార్యక్రమాల ప్రస్తుత నమూనా స్థానంలో – కూడా చూడాలి. ప్లాట్‌ఫారమ్‌లు కాదు వినియోగదారులే తమ ప్రాధాన్యత అని మంత్రులు మరియు రెగ్యులేటర్‌లు చూపించాలి. ఆన్‌లైన్ ప్రపంచాన్ని నియంత్రించే నియమాలు తప్పనిసరిగా ప్రజాస్వామ్యబద్ధంగా అంగీకరించబడాలి మరియు అమలు చేయబడాలి – మరియు పెద్ద టెక్ ద్వారా విస్మరించకూడదు.

• ఈ వ్యాసంలో లేవనెత్తిన సమస్యలపై మీకు అభిప్రాయం ఉందా? మీరు ఇమెయిల్ ద్వారా గరిష్టంగా 300 పదాల ప్రతిస్పందనను సమర్పించాలనుకుంటే మాలో ప్రచురణ కోసం పరిగణించబడుతుంది అక్షరాలు విభాగం, దయచేసి ఇక్కడ క్లిక్ చేయండి.