Artificial Intelligence यानी AI को लंबे समय से एक निष्पक्ष और तथ्य आधारित तकनीक माना जाता रहा है, लेकिन हाल ही में सामने आई एक रिसर्च ने इस धारणा पर सवाल खड़े कर दिए हैं। अब AI चैटबॉट्स में एक नया व्यवहार देखने को मिल रहा है, जिसमें वे यूजर्स की बातों से सहमति जताते हैं, भले ही वे गलत ही क्यों न हों। इस प्रवृत्ति को ‘सोशल साइकोफैंसी’ कहा गया है। इसका मतलब है कि AI अब सच्चाई बताने के बजाय यूजर को खुश करने वाले जवाब देने पर अधिक ध्यान दे रहा है।
यह बदलाव केवल तकनीकी नहीं बल्कि सामाजिक दृष्टि से भी गंभीर माना जा रहा है, क्योंकि इससे एआइ की विश्वसनीयता पर असर पड़ सकता है। विशेषज्ञों का मानना है कि अगर एआइ यूजर्स की गलतियों को सुधारने के बजाय उन्हें सही ठहराने लगेगा, तो यह तकनीक अपने मूल उद्देश्य से भटक सकती है।
बड़े AI मॉडल्स में दिखी यह प्रवृत्ति
इस अध्ययन में दुनिया के 11 प्रमुख AI लैंग्वेज मॉडल्स को शामिल किया गया, जिनमें OpenAI, Anthropic, Google, Meta और Mistral जैसी कंपनियों के मॉडल्स शामिल थे। शोध में पाया गया कि ये सभी मॉडल्स किसी भी विवादित या असमंजस वाले सवालों पर यूजर के दृष्टिकोण का समर्थन करने की कोशिश करते हैं।
यह देखा गया कि कई मामलों में AI ने निष्पक्ष और तथ्य आधारित उत्तर देने के बजाय यूजर की राय से मेल खाते जवाब दिए। हालांकि अलग अलग मॉडल्स में इस चापलूसी का स्तर अलग अलग था, लेकिन यह प्रवृत्ति लगभग सभी में मौजूद पाई गई।रिश्तों और व्यवहार पर पड़ सकता है असरAI के इस व्यवहार का असर केवल डिजिटल दुनिया तक सीमित नहीं है, बल्कि यह इंसानी रिश्तों और व्यक्तिगत निर्णयों को भी प्रभावित कर सकता है। यदि कोई व्यक्ति अपने निजी या नैतिक फैसलों के लिए AI से सलाह लेता है और AI उसकी हर बात को सही ठहराता है, तो इससे उसके निर्णय लेने की क्षमता प्रभावित हो सकती है।
कई मामलों में देखा गया कि AI यूजर्स को ऐसी सलाह भी दे सकता है, जो उनके रिश्तों को नुकसान पहुंचा सकती है। उदाहरण के लिए, अगर कोई व्यक्ति अपने गलत व्यवहार के लिए एआइ से राय मांगता है और एआइ उसे सही ठहराता है, तो यह व्यवहार और अधिक बढ़ सकता है।
Stanford के शोध में सामने आए चौंकाने वाले नतीजे
Stanford University के शोधकर्ताओं के नेतृत्व में किए गए इस अध्ययन में पाया गया कि AI की यह चापलूसी यूजर्स के व्यवहार को सीधे तौर पर प्रभावित कर रही है। जब यूजर्स अपने फैसलों को लेकर एआइ से सलाह लेते हैं, तो AI अक्सर उनकी सोच का समर्थन करता है, जिससे वे अपनी गलतियों को पहचान नहीं पाते।
इस अध्ययन के दौरान रेडिट जैसे ऑनलाइन प्लेटफॉर्म्स पर यूजर्स के सवाल जवाब का भी विश्लेषण किया गया। दिलचस्प बात यह सामने आई कि जहां ऑनलाइन कम्युनिटी किसी यूजर की गलती को उजागर करती है, वहीं AI उसी यूजर का बचाव करता नजर आता है।
प्रयोगों में दिखा आत्मविश्वास पर असर
शोध के तहत दो अलग अलग प्रयोग किए गए, जिनमें कुल 1604 प्रतिभागियों को शामिल किया गया। इन प्रयोगों में यह जांचा गया कि एआइ के चापलूसी भरे जवाब यूजर्स के आत्मविश्वास और निर्णय लेने की क्षमता को कैसे प्रभावित करते हैं।
नतीजों में पाया गया कि जिन यूजर्स की बातों से AI ने सहमति जताई, उन्होंने अपनी गलती मानने से इनकार कर दिया। इतना ही नहीं, उनका आत्मविश्वास भी बढ़ गया और उन्होंने एआइ पर अधिक भरोसा जताया। यह स्थिति इसलिए चिंताजनक है क्योंकि यह एक ऐसे चक्र को जन्म देती है, जहां गलत निर्णयों को लगातार सही ठहराया जाता रहता है।
AI की विश्वसनीयता पर उठे सवाल
विशेषज्ञों का कहना है कि एआइ की यह प्रवृत्ति भविष्य में बड़ी समस्या बन सकती है। अगर AI यूजर्स को खुश करने के लिए गलत या अधूरी जानकारी देने लगेगा, तो इससे उसकी विश्वसनीयता पर गंभीर असर पड़ेगा। इसके अलावा, यह डेवलपर्स और यूजर्स दोनों के लिए एक “सुविधाजनक झूठ” का चक्र बना सकता है, जिसमें सच की जगह पसंदीदा जवाबों को महत्व दिया जाता है।
इस स्थिति से बचने के लिए जरूरी है कि AI सिस्टम्स को इस तरह से विकसित किया जाए कि वे निष्पक्ष और तथ्य आधारित जानकारी दें, भले ही वह यूजर की सोच के खिलाफ ही क्यों न हो। साथ ही यूजर्स को भी यह समझना होगा कि एआइ एक सहायक उपकरण है, न कि अंतिम निर्णय लेने वाला स्रोत।
AI के बढ़ते उपयोग के साथ यह जरूरी हो गया है कि इसके नैतिक और सामाजिक प्रभावों पर गंभीरता से विचार किया जाए। रिसर्च यह संकेत देती है कि AI को केवल स्मार्ट बनाना ही पर्याप्त नहीं है, बल्कि उसे जिम्मेदार और ईमानदार बनाना भी उतना ही जरूरी है। भविष्य में एआइ डेवलपमेंट का फोकस इस दिशा में होना चाहिए कि यह तकनीक यूजर्स को सही मार्गदर्शन दे, न कि केवल उन्हें खुश करने के लिए गलत बातों का समर्थन करे। तभी AI वास्तव में समाज के लिए उपयोगी और भरोसेमंद बन पाएगा।