‘ప్రమాదకరమైనది మరియు భయంకరమైనది’: వినియోగదారుల ఆరోగ్యం ప్రమాదంలో పడిన తర్వాత Google దాని AI సారాంశాలలో కొన్నింటిని తీసివేసింది | Google

Google దాని తర్వాత కొన్ని కృత్రిమ మేధస్సు ఆరోగ్య సారాంశాలను తొలగించింది ఒక గార్డియన్ విచారణ తప్పుడు మరియు తప్పుదోవ పట్టించే సమాచారం ద్వారా ప్రజలు హాని కలిగించే ప్రమాదం ఉందని కనుగొన్నారు.

ఒక అంశం లేదా ప్రశ్నకు సంబంధించి అవసరమైన సమాచారం యొక్క స్నాప్‌షాట్‌లను అందించడానికి ఉత్పాదక AIని ఉపయోగించే AI ఓవర్‌వ్యూలు “సహాయకారిగా“మరియు”నమ్మదగిన”.

కానీ శోధన ఫలితాల ఎగువన కనిపించే కొన్ని సారాంశాలు, సరికాని ఆరోగ్య సమాచారాన్ని అందించాయి, వినియోగదారులకు హాని కలిగించే ప్రమాదం ఉంది.

నిపుణులు “ప్రమాదకరం” మరియు “ఆందోళనకరం”గా అభివర్ణించిన ఒక సందర్భంలో, Google తీవ్రమైన కాలేయ వ్యాధి ఉన్న వ్యక్తులు ఆరోగ్యంగా ఉన్నారని తప్పుగా భావించే కీలకమైన కాలేయ పనితీరు పరీక్షల గురించి బోగస్ సమాచారాన్ని అందించారు.

“కాలేయం రక్త పరీక్షల యొక్క సాధారణ పరిధి ఏమిటి” అని టైప్ చేయడం వలన సంఖ్యల సంఖ్య, తక్కువ సందర్భం మరియు జాతీయత, లింగం, జాతి లేదా రోగుల వయస్సుకు ఎటువంటి లెక్కలు లేవు, గార్డియన్ కనుగొంది.

Google యొక్క AI స్థూలదృష్టి సాధారణమైనదిగా చెప్పబడినది వాస్తవానికి సాధారణమైనదిగా పరిగణించబడే దాని నుండి చాలా తేడా ఉండవచ్చు, నిపుణులు చెప్పారు. సారాంశాలు తీవ్రమైన అనారోగ్య రోగులకు సాధారణ పరీక్ష ఫలితాన్ని కలిగి ఉన్నాయని తప్పుగా భావించడానికి దారితీయవచ్చు మరియు తదుపరి ఆరోగ్య సంరక్షణ సమావేశాలకు హాజరు కావడానికి ఇబ్బంది పడదు.

విచారణ తర్వాతకంపెనీ “కాలేయం రక్త పరీక్షలకు సాధారణ పరిధి ఏమిటి” మరియు “కాలేయం పనితీరు పరీక్షలకు సాధారణ పరిధి ఏమిటి” అనే శోధన పదాల కోసం AI ఓవర్‌వ్యూలను తీసివేసింది.

Google ప్రతినిధి ఇలా అన్నారు: “మేము శోధనలో వ్యక్తిగత తీసివేతలపై వ్యాఖ్యానించము. AI స్థూలదృష్టి కొన్ని సందర్భాలను కోల్పోయినట్లయితే, మేము విస్తృతమైన మెరుగుదలలు చేయడానికి పని చేస్తాము మరియు తగిన చోట మా విధానాల ప్రకారం చర్య తీసుకుంటాము.”

లివర్ హెల్త్ ఛారిటీ అయిన బ్రిటీష్ లివర్ ట్రస్ట్‌లో కమ్యూనికేషన్స్ అండ్ పాలసీ డైరెక్టర్ వెనెస్సా హెబ్డిచ్ ఇలా అన్నారు: “ఇది అద్భుతమైన వార్త మరియు ఈ సందర్భాలలో Google AI ఓవర్‌వ్యూలను తీసివేసినందుకు మేము సంతోషిస్తున్నాము.

“అయితే, ప్రశ్న వేరొక విధంగా అడిగితే, తప్పుదారి పట్టించే AI స్థూలదృష్టి ఇప్పటికీ ఇవ్వబడవచ్చు మరియు ఇతర AI- ఉత్పత్తి చేయబడిన ఆరోగ్య సమాచారం సరికాదు మరియు గందరగోళంగా ఉంటుందని మేము ఆందోళన చెందుతాము.”

“lft రిఫరెన్స్ రేంజ్” లేదా “lft టెస్ట్ రిఫరెన్స్ రేంజ్” వంటి ఒరిజినల్ క్వెరీల యొక్క స్వల్ప వ్యత్యాసాలను Googleలో టైప్ చేయడం AI ఓవర్‌వ్యూలను ప్రేరేపించిందని గార్డియన్ కనుగొంది. ఇది పెద్ద ఆందోళన అని హెబ్డిచ్ చెప్పారు.

“ఒక కాలేయ పనితీరు పరీక్ష లేదా LFT అనేది వివిధ రక్త పరీక్షల సమాహారం. ఫలితాలను అర్థం చేసుకోవడం మరియు తదుపరి ఏమి చేయాలనేది సంక్లిష్టమైనది మరియు సంఖ్యల సమితిని పోల్చడం కంటే చాలా ఎక్కువ ఉంటుంది.

“కానీ AI ఓవర్‌వ్యూలు బోల్డ్‌లో పరీక్షల జాబితాను అందజేస్తాయి, ఈ సంఖ్యలు వారి పరీక్షకు సరైనవి కాకపోవచ్చునని పాఠకులు చాలా సులభంగా మిస్ అవుతారు.

“అంతేకాకుండా, ఎవరైనా తీవ్రమైన కాలేయ వ్యాధిని కలిగి ఉన్నప్పుడు మరియు తదుపరి వైద్య సంరక్షణ అవసరమైనప్పుడు ఈ పరీక్షల కోసం సాధారణ ఫలితాలను పొందవచ్చని హెచ్చరించడంలో AI ఓవర్‌వ్యూలు విఫలమయ్యాయి. ఈ తప్పుడు హామీ చాలా హానికరం కావచ్చు.”

Google, ఇది ప్రపంచ శోధన ఇంజిన్ మార్కెట్‌లో 91% వాటాను కలిగి ఉందిగార్డియన్ అందించిన కొత్త ఉదాహరణలను సమీక్షిస్తున్నట్లు చెప్పారు.

Hebditch ఇలా అన్నారు: “వీటన్నిటితో మా పెద్ద ఆందోళన ఏమిటంటే, ఇది ఒకే శోధన ఫలితాన్ని ఎంచుకోవడం మరియు Google దాని కోసం AI ఓవర్‌వ్యూలను నిలిపివేయవచ్చు, కానీ ఇది ఆరోగ్యం కోసం AI ఓవర్‌వ్యూల యొక్క పెద్ద సమస్యను పరిష్కరించడం లేదు.”

రోగులకు, ప్రజలకు మరియు ఆరోగ్య సంరక్షణ నిపుణులకు సాక్ష్యం-ఆధారిత ఆరోగ్య సమాచారాన్ని ప్రోత్సహించే పేషెంట్ ఇన్ఫర్మేషన్ ఫోరమ్ చైర్ స్యూ ఫారింగ్‌టన్, సారాంశాల తొలగింపును స్వాగతించారు, అయితే తనకు ఇంకా ఆందోళనలు ఉన్నాయని చెప్పారు.

“ఇది మంచి ఫలితం, అయితే ఇది Google యొక్క ఆరోగ్య సంబంధిత శోధన ఫలితాలపై నమ్మకాన్ని కొనసాగించడానికి అవసరమైన మొదటి అడుగు మాత్రమే. Google AI ఓవర్‌వ్యూలు ప్రజలకు సరికాని ఆరోగ్య సమాచారాన్ని అందించడానికి ఇంకా చాలా ఉదాహరణలు ఉన్నాయి.”

ప్రపంచవ్యాప్తంగా మిలియన్ల మంది పెద్దలు ఇప్పటికే విశ్వసనీయ ఆరోగ్య సమాచారాన్ని యాక్సెస్ చేయడానికి కష్టపడుతున్నారని ఫారింగ్టన్ చెప్పారు. “అందుకే విశ్వసనీయమైన ఆరోగ్య సంస్థల నుండి బలమైన, పరిశోధించిన ఆరోగ్య సమాచారం మరియు సంరక్షణ ఆఫర్‌లకు Google సైన్‌పోస్ట్ చేయడం చాలా ముఖ్యం.”

AI ఓవర్‌వ్యూలు ఇప్పటికీ పాప్ అప్ అవుతూనే ఉన్నాయి గార్డియన్ వాస్తవానికి Googleకి హైలైట్ చేసిన ఇతర ఉదాహరణలు. నిపుణులు “పూర్తిగా తప్పు” మరియు “నిజంగా ప్రమాదకరమైనవి” అని వర్ణించిన క్యాన్సర్ మరియు మానసిక ఆరోగ్యం గురించిన సమాచారం యొక్క సారాంశాలు ఉన్నాయి.

ఈ AI స్థూలదృష్టి కూడా ఎందుకు తీసివేయబడలేదని అడిగినప్పుడు, Google వారు ప్రసిద్ధ మరియు ప్రసిద్ధ మూలాధారాలకు లింక్ చేశారని మరియు నిపుణుల సలహాను పొందడం ముఖ్యం అయినప్పుడు ప్రజలకు తెలియజేసినట్లు చెప్పారు.

ఒక ప్రతినిధి ఇలా అన్నారు: “మాతో పంచుకున్న వాటిని మా అంతర్గత వైద్యుల బృందం సమీక్షించింది మరియు చాలా సందర్భాలలో, సమాచారం సరికాదని మరియు అధిక నాణ్యత గల వెబ్‌సైట్‌ల ద్వారా కూడా మద్దతు ఉందని కనుగొన్నారు.”

సాంకేతిక వెబ్‌సైట్ ఫ్యూచరిజంలో సీనియర్ ఎడిటర్ విక్టర్ టాంగర్‌మాన్ మాట్లాడుతూ, గార్డియన్ పరిశోధన ఫలితాలు గూగుల్ చేయాల్సిన పనిని చూపించిందని అన్నారు.దాని AI సాధనం ప్రమాదకరమైన ఆరోగ్య తప్పుడు సమాచారాన్ని అందించడం లేదని నిర్ధారించడానికి”.

త్వరిత గైడ్

ఈ కథనం గురించి ఆండ్రూ గ్రెగొరీని సంప్రదించండి

చూపించు

మీరు ఈ కథనం గురించి భాగస్వామ్యం చేయడానికి ఏదైనా కలిగి ఉంటే, మీరు క్రింది పద్ధతుల్లో ఒకదాన్ని ఉపయోగించి ఆండ్రూను సంప్రదించవచ్చు.

గార్డియన్ యాప్‌లో కథనాల గురించి చిట్కాలను పంపడానికి ఒక సాధనం ఉంది. ప్రతి గార్డియన్ మొబైల్ యాప్ చేసే రొటీన్ యాక్టివిటీలో మెసేజ్‌లు ఎండ్ టు ఎండ్ ఎన్‌క్రిప్ట్ చేయబడతాయి మరియు దాచబడతాయి. మీరు మాతో కమ్యూనికేట్ చేస్తున్నారనే విషయాన్ని పరిశీలకుడికి తెలియకుండా ఇది నిరోధిస్తుంది, ఏమి చెప్పబడుతుందో విడదీయండి.

మీకు ఇప్పటికే గార్డియన్ యాప్ లేకపోతే, దాన్ని డౌన్‌లోడ్ చేయండి (iOS/ఆండ్రాయిడ్) మరియు మెనుకి వెళ్లండి. ‘సెక్యూర్ మెసేజింగ్’ ఎంచుకోండి.

ఇమెయిల్ (సురక్షితమైనది కాదు)

మీకు అధిక స్థాయి భద్రత లేదా గోప్యత అవసరం లేకపోతే మీరు ఇమెయిల్ చేయవచ్చు andrew.gregory@theguardian.com

సెక్యూర్‌డ్రాప్ మరియు ఇతర సురక్షిత పద్ధతులు

మీరు టార్ నెట్‌వర్క్‌ను గమనించకుండా లేదా పర్యవేక్షించకుండా సురక్షితంగా ఉపయోగించగలిగితే మీరు మా ద్వారా గార్డియన్‌కు సందేశాలు మరియు పత్రాలను పంపవచ్చు సెక్యూర్‌డ్రాప్ ప్లాట్‌ఫారమ్.

చివరగా, మా గైడ్ theguardian.com/tips మమ్మల్ని సురక్షితంగా సంప్రదించడానికి అనేక మార్గాలను జాబితా చేస్తుంది మరియు ప్రతి దాని యొక్క లాభాలు మరియు నష్టాలను చర్చిస్తుంది.

ఇలస్ట్రేషన్: గార్డియన్ డిజైన్ / రిచ్ కజిన్స్

ప్రతిస్పందనల నాణ్యతపై అధిక విశ్వాసం ఉన్న ప్రశ్నలపై మాత్రమే AI ఓవర్‌వ్యూలు కనిపిస్తాయని గూగుల్ తెలిపింది. కంపెనీ అనేక విభిన్న వర్గాల సమాచారంలో దాని సారాంశాల నాణ్యతను నిరంతరం కొలుస్తుంది మరియు సమీక్షిస్తుంది.

కోసం ఒక వ్యాసంలో శోధన ఇంజిన్ జర్నల్సీనియర్ రచయిత మాట్ సదరన్ ఇలా అన్నారు: “AI ఓవర్‌వ్యూలు ర్యాంక్ ఫలితాల కంటే ఎక్కువగా కనిపిస్తాయి. అంశం ఆరోగ్యం అయినప్పుడు, లోపాలు ఎక్కువ బరువును కలిగి ఉంటాయి.”