Impact of Artificial Intelligence: आज के टेक्नोलॉजी वाले समय में ये AI Chatbot पर आंख बंद भरोसा करना कितना घातक साबित हो सकता है, हाल ही में इसका एक उदाहरण सामने आया है.
Impact of Artificial Intelligence: बता दें कि कुछ दिनों पहले ChatGPT पर 16 साल के लड़के के सुसाइड मामले में आरोप लगे थे और अब चैटबॉट पर एक बेटे के हाथों में मान के कत्ल के मामले में फिर से चैटबॉट पर सवाल उठने लगे हैं.
AI Chatbots ने जिंदगी आसान बना दी है लेकिन एआई(AI) का काला और कड़वा सच भी आपको पता होना चाहिए. कुछ दिनों पहले ChatGPT पर 16 साल के बच्चे के सुसाइड मामले में गंभीर आरोप लगे थे और अब चैटजीपीटी एक बार से चर्चा से चर्चा का विषय बन गया है. इस बार OpenAI द्वारा डेवलप किए गए इस एआई टूल पर एक बेटे के हाथों मां का कत्ल करवाने का आरोप है.
हैरान कर देने वाला मामला?
वॉल स्ट्रीट जर्नल के अनुसार, याहू में काम करने वाले एक पूर्व मैनेजर Stein-Erik Soelberg ने चैटजीपीटी से बातचीत के बाद अपनी मां की हत्या कर दी है. 56 वर्षीय इस शख्स को कथित तौर पर यह विश्वास दिलाया गया कि उसकी मां (Suzzane Eberson Adams) उसपर जासूसी कर रही है. चैटबॉट के साथ बातचीत ने भ्रम को और भी मजबूत कर दिया और संकेत दिया कि 83 वर्षीय मां उसे साइकेडेलिक (psychedelic) दवा देकर जहर देने की कोशिश कर सकती है.
शख्स की मेंटल स्थिति थी खराब
इस 56 वर्षीय शख्स का मानसिक रोग का इतिहास रहा है, इस शख्स को चैटबॉट पर भरोसा था और उसे लग रहा था कि उसकी हत्या की कोशिश हो सकती है.
WSJ की रिपोर्ट के अनुसार, चैटबॉट ने इस शख्स के अजीबोगरीब विचारों को शांत किया और कहा, “एरिक, तुम पागल नहीं हो”. चीफ मेडिकल एग्जामिनर के अनुसार, Suzzane Eberson Adams की हत्या की गई थी जैसा कि घावों से संकेत मिलता है. “सिर पर चोट और गर्दन को भी दबाया गया था. Soeldberg की मौत का कारण “गर्दन और छाती पर चोट के निशान पाए गए जिसे देखने से पता चलता है कि इस शख्स ने आत्महत्या की है.
इस शख्स ने घटना से पहले इंस्टाग्राम और यूट्यूब पर चैटजीपीटी के साथ अपनी बातचीत के बारे में घंटों लंबे वीडियो पोस्ट किए थे. बातचीत से पता चला कि एआई चैटबॉट ने इस शख्स के मानसिक स्थिति (पागलपन) को और बढ़ा दिया और उसकी मां को एक राक्षस के रूप में चित्रित किया साथ ही गुमराह भी किया. ये मामला एआई द्वारा दिए जाने वाले जवाबों पर कई सवाल खड़े करता है, इसलिए एआई चैटबॉट पर आंख बंद कर भरोसना करने की गलती न करें.