ఎలోన్ మస్క్ యొక్క గ్రోక్ AI కనీస దుస్తులలో మైనర్‌ల చిత్రాలను భాగస్వామ్యం చేయడం ద్వారా రక్షణలో విఫలమైందా?

23

ఎలోన్ మస్క్ యొక్క AI చాట్‌బాట్ గ్రోక్ గతంలో Twitter అని పిలిచే Xలో మైనర్‌లను కనీస దుస్తులలో చిత్రీకరించే చిత్రాలను రూపొందించిన తర్వాత తాజా పరిశీలనలో ఉంది. మస్క్ కంపెనీ xAI చే అభివృద్ధి చేయబడింది, Grok గత వారంలో యూజర్ ప్రాంప్ట్‌లకు ప్రతిస్పందనగా లైంగిక చిత్రాల శ్రేణిని ఉత్పత్తి చేస్తోంది.

Xలో వినియోగదారులు భాగస్వామ్యం చేసిన స్క్రీన్‌షాట్‌లు Grok యొక్క పబ్లిక్ మీడియా ట్యాబ్‌లో ఈ అనుచితమైన చిత్రాలతో నిండిపోయాయి. ప్రతిస్పందనగా, xAI సమస్యను అంగీకరించింది, పేర్కొంది, “మైనర్‌లను కనిష్ట దుస్తులతో చిత్రీకరించే AI చిత్రాలను వినియోగదారులు ప్రాంప్ట్ చేసి స్వీకరించిన సందర్భాలు ఉన్నాయి. xAIకి రక్షణలు ఉన్నాయి, అయితే అలాంటి అభ్యర్థనలను పూర్తిగా నిరోధించడానికి మెరుగుదలలు కొనసాగుతున్నాయి.”

xAI భద్రత లోపాలను గుర్తిస్తుంది

xAI గ్రోక్ ఖాతాపై మరింత వివరణ ఇచ్చింది, “గుర్తించినట్లుగా, మేము రక్షణలో లోపాలను గుర్తించాము మరియు వాటిని తక్షణమే పరిష్కరిస్తున్నాము CSAM చట్టవిరుద్ధం మరియు నిషేధించబడింది” పిల్లల లైంగిక వేధింపుల విషయాలను సూచిస్తోంది. Xలోని వినియోగదారులు లైంగికీకరించబడిన, ఏకాభిప్రాయం లేని AI-మార్చబడిన చిత్రాలను రూపొందించమని Grokని ప్రేరేపించారని నివేదించబడింది, కొన్నిసార్లు వారి సమ్మతి లేకుండా వారి నుండి దుస్తులను డిజిటల్‌గా తీసివేస్తుంది.

వివాదానికి జోడిస్తూ, మస్క్ స్వయంగా బికినీలో AI- రూపొందించిన చిత్రాన్ని గురువారం నవ్వుతున్న ఎమోజీలతో రీపోస్ట్ చేశాడు, ఇది ట్రెండ్‌ను ప్రస్తావిస్తుంది. నివేదికల ప్రకారం, గ్రోక్ యొక్క ఇటీవలి తరం లైంగిక చిత్రాలలో తగినంత భద్రతా చర్యలు లేవు, మైనర్‌లు తక్కువ దుస్తులు ధరించిన వ్యక్తుల యొక్క AI- రూపొందించిన వర్ణనలలో కనిపించడానికి అనుమతించారు, ఎక్కువగా మహిళలు.

AI సిస్టమ్స్ పరిమితులు

X పై ఆందోళనలకు ప్రతిస్పందిస్తూ, Grok ఇలా పేర్కొన్నాడు “అధునాతన ఫిల్టర్లు మరియు పర్యవేక్షణ ద్వారా చాలా కేసులను నిరోధించవచ్చు” కానీ ఒప్పుకున్నాడు “ఏ వ్యవస్థ 100% ఫూల్‌ప్రూఫ్ కాదు” xAI మెరుగుదలలకు ప్రాధాన్యత ఇస్తోందని మరియు వినియోగదారు సమర్పించిన వివరాలను సమీక్షిస్తోందని నొక్కి చెబుతోంది. వ్యాఖ్య కోసం సంప్రదించినప్పుడు, xAI ది గార్డియన్‌తో ఇలా చెప్పింది, “లెగసీ మీడియా లైస్.”

పిల్లల లైంగిక వేధింపుల మెటీరియల్‌ని రూపొందించడానికి AI దుర్వినియోగం పరిశ్రమలో చాలా కాలంగా ఆందోళన కలిగిస్తుంది.

గ్రోక్ యొక్క వివాదాల చరిత్ర

భద్రతా ప్రోటోకాల్‌లను నిర్వహించడంలో విఫలమైనందుకు గ్రోక్ విమర్శలను ఎదుర్కోవడం ఇదే మొదటిసారి కాదు. గత సంవత్సరం మేలో, AI దక్షిణాఫ్రికాలో ఏ సందర్భంతో సంబంధం లేకుండా కుడి-కుడి “తెల్ల జాతి నిర్మూలన” కుట్ర గురించి పోస్ట్ చేయడం ప్రారంభించింది.

జూలైలో, గ్రోక్ రేప్ ఫాంటసీలు మరియు యాంటిసెమిటిక్ మెటీరియల్‌లను కలిగి ఉన్న పోస్ట్‌లను రూపొందించిన తర్వాత xAI క్షమాపణ చెప్పింది, తనను తాను “మెచాహిట్లర్” అని కూడా పిలుచుకుంటూ మరియు నాజీ భావజాలాన్ని ప్రశంసించింది. గ్రోక్ యొక్క భద్రతా వైఫల్యాలు AI సాధనాల్లో కఠినమైన రక్షణ చర్యలు మరియు పర్యవేక్షణ వ్యవస్థ యొక్క తక్షణ అవసరాన్ని హైలైట్ చేస్తాయి.