మీ తప్పు ఏమిటో చాట్బాట్కు తెలిసి ఉండవచ్చు, కానీ వ్యక్తులు లక్షణాలను అర్థం చేసుకోవడానికి దాన్ని ఉపయోగించడానికి ప్రయత్నించినప్పుడు, వారు సమాధానానికి దగ్గరగా ఉండకపోవచ్చు
వంట చేయడం నుండి పన్ను రిటర్న్ల వరకు ప్రతిదానిపై మార్గదర్శకత్వం కోసం మిలియన్ల మంది ప్రజలు కృత్రిమ మేధస్సు (AI) చాట్బాట్ల వైపు మొగ్గు చూపుతున్నారు. మరియు వారు వారి ఆరోగ్యం గురించి ఎక్కువగా చాట్బాట్లను సంప్రదిస్తున్నారు.
కానీ UK యొక్క చీఫ్ మెడికల్ ఆఫీసర్ ఇటీవల హెచ్చరించినట్లుగా, వైద్యపరమైన నిర్ణయాల విషయానికి వస్తే ఇది సరైనది కాకపోవచ్చు. ఇటీవలి అధ్యయనంలో, నా సహోద్యోగులు మరియు నేను పెద్ద-స్థాయి భాషా నమూనాలతో (LLM) చాట్బాట్లు సాధారణ ఆరోగ్య సమస్యలతో వ్యవహరించడంలో ప్రజలకు ఎంతవరకు సహాయపడతాయో పరీక్షించాము. ఫలితాలు ఆకట్టుకున్నాయి.
మేము పరీక్షించిన చాట్బాట్లు వైద్యులుగా పనిచేయడానికి సిద్ధంగా లేవు. ఇలాంటి అధ్యయనాలకు ఒక సాధారణ ప్రతిస్పందన ఏమిటంటే, AI అకడమిక్ ప్రచురణల కంటే వేగంగా అభివృద్ధి చెందుతుంది. కథనం ప్రచురించబడినప్పుడు, పరీక్షించిన నమూనాలు ఇప్పటికే నవీకరించబడి ఉండవచ్చు. కానీ రోగులను పరీక్షించడానికి ఈ వ్యవస్థల యొక్క కొత్త వెర్షన్లను ఉపయోగించే అధ్యయనాలు అదే సమస్యలు మిగిలి ఉన్నాయని సూచిస్తున్నాయి.
మేము పాల్గొనేవారికి సాధారణ వైద్య పరిస్థితుల సంక్షిప్త వివరణలను అందించాము. వారు విస్తృతంగా అందుబాటులో ఉన్న మూడు చాట్బాట్లలో ఒకదానిని ఉపయోగించడానికి లేదా ఇంట్లో వారు సాధారణంగా ఉపయోగించే మూలాధారాలను ఉపయోగించేందుకు యాదృచ్ఛికంగా కేటాయించబడ్డారు. చాట్బాట్తో పరస్పర చర్య చేసిన తర్వాత, మేము రెండు ప్రశ్నలు అడిగాము: ఏ పరిస్థితి లక్షణాలను వివరించగలదు? మరియు వారు సహాయం కోసం ఎక్కడ వెతకాలి?
చాట్బాట్లను ఉపయోగించిన వ్యక్తులు వాటిని ఉపయోగించని వారి కంటే సరైన స్థితిని గుర్తించే అవకాశం తక్కువ. నియంత్రణ సమూహం కంటే సంరక్షణ కోసం సరైన స్థలాన్ని నిర్ణయించడంలో కూడా వారు మెరుగ్గా లేరు. మరో మాటలో చెప్పాలంటే, చాట్బాట్తో పరస్పర చర్య చేయడం వలన ప్రజలు మెరుగైన ఆరోగ్య నిర్ణయాలు తీసుకోవడంలో సహాయపడలేదు.
దృఢమైన జ్ఞానం, పేలవమైన ఫలితాలు
మోడల్లకు వైద్య పరిజ్ఞానం లేదని దీని అర్థం కాదు, ఎందుకంటే LLMలు మెడికల్ లైసెన్సింగ్ పరీక్షలను సులభంగా పాస్ చేయగలరు. మేము మానవ మూలకాన్ని తీసివేసి, అదే దృశ్యాలను నేరుగా చాట్బాట్లకు అందించినప్పుడు, వాటి పనితీరు నాటకీయంగా మెరుగుపడింది. మానవ ప్రమేయం లేకుండా, నమూనాలు చాలా సందర్భాలలో సంబంధిత పరిస్థితులను గుర్తించాయి మరియు తరచుగా తగిన స్థాయి సంరక్షణను సూచిస్తాయి.
ప్రజలు నిజంగా సిస్టమ్లను ఉపయోగించినప్పుడు ఫలితాలు ఎందుకు క్షీణించాయి? మేము సంభాషణలను విశ్లేషించినప్పుడు, సమస్యలు వెలుగులోకి వచ్చాయి. సంభాషణలో ఏదో ఒక సమయంలో చాట్బాట్లు సంబంధిత రోగనిర్ధారణను తరచుగా ప్రస్తావిస్తుంటాయి, అయితే పాల్గొనేవారు తమ తుది ప్రతిస్పందనను క్లుప్తీకరించేటప్పుడు ఎల్లప్పుడూ గమనించలేదు లేదా గుర్తుంచుకోలేదు.
ఇతర సందర్భాల్లో, వినియోగదారులు అసంపూర్ణ సమాచారాన్ని అందించారు లేదా చాట్బాట్ ముఖ్యమైన వివరాలను తప్పుగా అర్థం చేసుకున్నారు. సమస్య కేవలం వైద్య పరిజ్ఞానం యొక్క వైఫల్యం కాదు – ఇది మానవ మరియు యంత్రాల మధ్య కమ్యూనికేషన్ యొక్క వైఫల్యం.
సాంకేతిక పరిజ్ఞానాన్ని ఫ్రంట్లైన్ హెల్త్కేర్ వంటి అధిక-ప్రమాదకర వాతావరణాలలో ప్రవేశపెట్టడానికి ముందు దాని వాస్తవ-ప్రపంచ పనితీరు గురించి విధాన రూపకర్తలకు సమాచారం అవసరమని అధ్యయనం చూపిస్తుంది. మా పరిశోధనలు వైద్యంలో AI యొక్క అనేక ప్రస్తుత అంచనాల యొక్క ముఖ్యమైన పరిమితిని హైలైట్ చేస్తాయి. భాషా నమూనాలు తరచుగా నిర్మాణాత్మక పరీక్ష ప్రశ్నలలో లేదా అనుకరణ “మోడల్-టు-మోడల్” పరస్పర చర్యలలో చాలా బాగా పని చేస్తాయి.
కానీ వాస్తవ ప్రపంచ వినియోగం చాలా క్లిష్టంగా ఉంటుంది. రోగులు లక్షణాలను అస్పష్టంగా లేదా అసంపూర్ణంగా వివరిస్తారు మరియు వివరణలను తప్పుగా అర్థం చేసుకోవచ్చు. వారు అనూహ్యమైన క్రమంలో ప్రశ్నలు అడుగుతారు. బెంచ్మార్క్ పరీక్షలలో ఆకట్టుకునే విధంగా పనిచేసే సిస్టమ్ నిజమైన వ్యక్తులు దానితో పరస్పర చర్య చేయడం ప్రారంభించినప్పుడు చాలా భిన్నంగా ప్రవర్తించవచ్చు.
ఇది క్లినికల్ కేర్ గురించి విస్తృత సమస్యను కూడా హైలైట్ చేస్తుంది. ఒక సాధారణ అభ్యాసకునిగా, నా ఉద్యోగంలో వాస్తవాలను గుర్తుంచుకోవడం కంటే చాలా ఎక్కువ ఉంటుంది. వైద్యం తరచుగా సైన్స్ కంటే కళగా వర్ణించబడుతుంది. సంప్రదింపు అనేది సరైన రోగ నిర్ధారణను గుర్తించడం మాత్రమే కాదు. ఇది రోగి యొక్క చరిత్రను వివరించడం, అనిశ్చితులను అన్వేషించడం మరియు నిర్ణయాలను చర్చించడం వంటివి కలిగి ఉంటుంది.
వైద్య అధ్యాపకులు చాలా కాలంగా ఈ సంక్లిష్టతను గుర్తించారు. దశాబ్దాలుగా, భవిష్యత్ వైద్యులు కాల్గరీ-కేంబ్రిడ్జ్ నమూనాను ఉపయోగించి బోధించబడ్డారు. దీని అర్థం రోగితో సంబంధాన్ని ఏర్పరచుకోవడం, ఆలోచనాత్మకమైన ప్రశ్నల ద్వారా సమాచారాన్ని సేకరించడం, రోగి యొక్క ఆందోళనలు మరియు అంచనాలను అర్థం చేసుకోవడం, ఫలితాలను స్పష్టంగా వివరించడం మరియు ఉమ్మడి చికిత్స ప్రణాళికను అంగీకరించడం.
ఈ ప్రక్రియలన్నీ మానవ కనెక్షన్, వ్యక్తిగతీకరించిన కమ్యూనికేషన్, జ్ఞానోదయం, సున్నితమైన పరిశోధన, సందర్భ-ఆకారపు తీర్పు మరియు నమ్మకంపై ఆధారపడి ఉంటాయి. ఈ లక్షణాలను సులభంగా నమూనా గుర్తింపుకు తగ్గించలేము.
AIకి భిన్నమైన పాత్ర
అయితే, మా అధ్యయనం నుండి పాఠం ఏమిటంటే, ఆరోగ్య సంరక్షణలో AIకి స్థానం లేదు. దానికి దూరంగా. ఈ వ్యవస్థలు ప్రస్తుతం మంచివి మరియు వాటి పరిమితులు ఎక్కడ ఉన్నాయో అర్థం చేసుకోవడం కీలకం.
నేటి చాట్బాట్ల గురించి ఆలోచించడానికి ఉపయోగకరమైన మార్గం ఏమిటంటే, అవి వైద్యుల కంటే సెక్రటరీల వలె ఎక్కువగా పనిచేస్తాయి. సమాచారాన్ని నిర్వహించడం, వచనాన్ని సంగ్రహించడం మరియు సంక్లిష్టమైన పత్రాలను రూపొందించడంలో అవి చాలా ప్రభావవంతంగా ఉంటాయి. భాషా నమూనాలు ఇప్పటికే తమను తాము నిరూపించుకుంటున్న పనుల రకాలు ఇవి. ఉపయోగకరమైన ఆరోగ్య సంరక్షణ వ్యవస్థలలో, ఉదాహరణకు, క్లినికల్ నోట్స్ తయారు చేయడం, రోగి రికార్డులను సంగ్రహించడం లేదా రిఫరల్ లెటర్లను రూపొందించడం.
వైద్యరంగంలో AI యొక్క వాగ్దానం వాస్తవమైనది, అయితే సమీప కాలంలో దాని పాత్ర విప్లవాత్మకమైన దానికంటే ఎక్కువ మద్దతునిస్తుంది. చాట్బాట్లు ఆరోగ్య సంరక్షణకు గేట్వేగా పనిచేస్తాయని ఆశించకూడదు. వారు పరిస్థితులను నిర్ధారించడానికి లేదా రోగులను తగిన స్థాయి సంరక్షణకు సూచించడానికి సిద్ధంగా లేరు.
కృత్రిమ మేధస్సు వైద్య పరీక్షలలో ఉత్తీర్ణత సాధించగలదు. కానీ థియరీ పరీక్షలో ఉత్తీర్ణత సాధించడం వల్ల మిమ్మల్ని సమర్థ డ్రైవర్గా మార్చనట్లే, మెడిసిన్ ప్రాక్టీస్ ప్రశ్నలకు సరిగ్గా సమాధానం ఇవ్వడం కంటే చాలా ఎక్కువ ఉంటుంది. దీనికి వివేచన, తాదాత్మ్యం మరియు ప్రతి క్లినికల్ ఎన్కౌంటర్ వెనుక ఉన్న సంక్లిష్టతతో వ్యవహరించే సామర్థ్యం అవసరం. కనీసం ఇప్పటికైనా, దీనికి వ్యక్తులు అవసరం, బాట్లు కాదు.
రెబెక్కా పేన్ హెల్త్ అండ్ కేర్ రీసెర్చ్ వేల్స్ ద్వారా నిధులు సమకూరుస్తున్న రెమెడీ ప్రాజెక్ట్లో పని చేస్తుంది మరియు ఆక్స్ఫర్డ్ విశ్వవిద్యాలయం నుండి క్లారెండన్-రూబెన్ ఫెలోషిప్ ద్వారా ఆర్థిక సహాయాన్ని కూడా అందుకుంటుంది. ఆమె రాయల్ కాలేజ్ ఆఫ్ జనరల్ ప్రాక్టీషనర్స్ యొక్క ఫెలో మరియు మెడికల్ లీడర్షిప్ అండ్ మేనేజ్మెంట్ ఫ్యాకల్టీ యొక్క సీనియర్ ఫెలో.
