एआई चैटबॉक्स को लेकर एक स्टडी में शुक्रवार को बड़ी चेतावनी दी गई है. स्टडी में कहा गया है कि मरीजों को दवा की जानकारी के लिए आर्टिफिशियल इंटेलिजेंस (एआई) चैटबॉट्स पर भरोसा नहीं करना चाहिए. एआई संचालित सर्च इंजन और चैटबॉट हमेशा दवाओं के बारे में सटीक और सुरक्षित जानकारी नहीं दे सकते हैं. बेल्जियम और जर्मनी के शोधकर्ताओं ने यह स्टडी (शोध) तब किया जब उन्हें पता चला कि कई जवाब गलत या संभावित रूप से हानिकारक थे.
बीएमजे क्वालिटी एंड सेफ्टी नाम की पत्रिका में प्रकाशित शोध पत्र में उन्होंने कहा कि एआई चैटबॉट की ओर से दिए गए जवाबों की जटिलता को समझना कठिन हो सकता है और इन्हें समझने के लिए डिग्री स्तर की शिक्षा की जरूरत हो सकती है. साल 2023 में एआआई-संचालित चैटबॉट्स की शुरुआत के साथ सर्च इंजन में एक महत्वपूर्ण बदलाव आया. नए वर्जनों ने बेहतर सर्च रिजल्ट, विस्तृत जवाब और एक नए प्रकार का इंटरैक्टिव अनुभव दिया है.
एक्सपर्ट्स ने कही ये बात
जर्मनी के फ्रेडरिक-अलेक्जेंडर-यूनिवर्सिटी एर्लांगेन-नूर्नबर्ग की टीम ने कहा कि चैटबॉट्स के पास इंटरनेट पर पास विस्तृत डेटासेट हो सकते हैं. वे इन पर ट्रेन होते हैं और किसी भी स्वास्थ्य संबंधी सवालों का जवाब दे सकते हैं, लेकिन उनकी जानकारी बहुत गलत और हानिकारक तक भी हो सकती है.
इस क्रॉस-सेक्शनल स्टडी में, हमने देखा कि एआई-संचालित चैटबॉट वाले सर्च इंजन मरीजों के सवालों के सम्पूर्ण और सटीक जवाब देने में सक्षम हैं. शोधकर्ताओं ने एक चैटबॉट (बिंग कोपायलट) से पूछा कि अमेरिका में सबसे ज्यादा लिखी जाने वाली 50 दवाओं के बारे में क्या बता सकता है. इसके बाद उन्होंने देखा कि चैटबॉट के जवाब कितने समझने में आसान, पूरे और सही थे.
डेटा से मेल नहीं खाते थे चैटबॉट के 26 प्रतिशत जवाब
दस में से केवल आधे सवालों के जवाब ही सबसे ज्यादा पूर्णता के साथ दिए गए. इसके अलावा, चैटबॉट के 26 प्रतिशत जवाब संदर्भ डेटा से मेल नहीं खाते थे और 3 प्रतिशत से ज्यादा मामलों में जवाब पूरी तरह असंगत थे. इनमें से लगभग 42 प्रतिशत चैटबॉट जवाबों से मध्यम या हल्का नुकसान होने की संभावना थी और 22 प्रतिशत से गंभीर नुकसान होने की संभावना थी. टीम ने पाया कि एक बड़ी कमी यह है कि चैटबॉट मरीज के सवाल के पीछे के उद्देश्य को समझने में असमर्थ है.
शोधकर्ताओं ने कहा, “अपनी क्षमता के बावजूद, यह अभी भी महत्वपूर्ण है कि मरीज अपने स्वास्थ्य पेशेवरों से परामर्श करें. चैटबॉट हमेशा बिना गलती की जानकारी नहीं दे सकते हैं.”
