आर्टिफिशियल इंटेलिजेंस चैटबॉट का इस्तेमाल लोग पढ़ाई, काम और रोजमर्रा की जानकारी के अलावा अपनी निजी बातें लिखने के लिए भी करने लगे हैं। लेकिन अमेरिका में एक महिला के लिए AI चैटबॉट पर लिखी गई कथित धमकी भारी पड़ गई। महिला अपने विचार और रोज की बातें AI चैटबॉट पर लिखती थी, लेकिन एक बातचीत में उसने कथित तौर पर पुलिस कार्यालय पर हमले की धमकी दे दी। इसके बाद सुरक्षा प्रणाली ने बातचीत को संदिग्ध मानते हुए फ्लैग कर दिया और मामला कानून प्रवर्तन अधिकारियों तक पहुंच गया।
AI चैटबॉट पर लिखती थी निजी बातें
मामला फ्लोरिडा का बताया जा रहा है। 30 वर्षीय महिला AI चैटबॉट Claude का इस्तेमाल अपनी निजी डायरी की तरह करती थी। वह इसमें अपने विचारों और रोजमर्रा की जिंदगी से जुड़ी बातें लिखती थी।
गिरफ्तारी रिपोर्ट के अनुसार, एक बातचीत के दौरान महिला ने स्थानीय शेरिफ कार्यालय पर हमला करने से जुड़ी कथित धमकी लिखी। शुरुआत में यह सिर्फ एक चैट का हिस्सा था, लेकिन इसके बाद सामने आए कुछ और संदेशों ने मामले को गंभीर बना दिया।
अगले दिन फिर भेजा कथित धमकी भरा संदेश
रिपोर्ट के मुताबिक, 27 सितंबर की रात करीब 1 बजकर 7 मिनट पर उसी अकाउंट से एक और संदेश भेजा गया। इसमें महिला ने कथित तौर पर नई बंदूक मिलने की बात कही और खुद को आखिरी मौके पर बताते हुए धमकी भरी भाषा का इस्तेमाल किया।
लगातार सामने आए ऐसे संदेशों के बाद AI सिस्टम के सुरक्षा प्रोटोकॉल ने बातचीत को फ्लैग कर दिया। इसके बाद मामले की अतिरिक्त समीक्षा की गई।
AI सिस्टम ने कैसे पकड़ी संदिग्ध बातचीत
AI चैटबॉट में सुरक्षा से जुड़े सिस्टम मौजूद होते हैं, जो हिंसा, धमकी या किसी व्यक्ति को गंभीर नुकसान पहुंचाने से संबंधित सामग्री की पहचान करने की कोशिश करते हैं।
हालांकि, किसी संवेदनशील या परेशान करने वाली बात के लिखे जाने का मतलब यह नहीं होता कि हर बार पुलिस को इसकी जानकारी दी जाती है। गंभीर खतरे के संकेत मिलने पर कंपनी की सुरक्षा प्रक्रिया के तहत बातचीत की अतिरिक्त समीक्षा की जा सकती है।
इस मामले में कथित धमकी वाले संदेशों को सुरक्षा प्रणाली ने फ्लैग किया। इसके बाद मानव समीक्षा टीम ने बातचीत की जांच की और गिरफ्तारी रिपोर्ट के अनुसार कानून प्रवर्तन अधिकारियों से संपर्क किया गया।
घर पहुंची पुलिस और महिला को हिरासत में लिया
अलर्ट मिलने के बाद पुलिस अधिकारी महिला के घर पहुंचे। रिपोर्ट के अनुसार, उसे बिना किसी बड़ी घटना के हिरासत में ले लिया गया। इसके बाद मामले की जांच शुरू की गई।
महिला पर लिखित रूप से हिंसा की धमकी देने से जुड़ा आरोप लगाया गया है। मामले में आगे की कार्रवाई जांच और कानूनी प्रक्रिया के आधार पर की जा रही है।
क्या AI पर लिखी हर बात पुलिस तक पहुंचती है?
इस घटना के बाद यह सवाल भी उठता है कि AI चैटबॉट पर लिखी गई निजी बातें कितनी गोपनीय रहती हैं। आम तौर पर चैटबॉट का इस्तेमाल निजी बातचीत के लिए किया जाता है, लेकिन इसे ऐसी जगह नहीं माना जाना चाहिए जहां हर परिस्थिति में लिखी गई जानकारी कानून प्रवर्तन से पूरी तरह छिपी रहे।
AI कंपनियों की नीतियों में गंभीर हिंसा या नुकसान से जुड़े मामलों के लिए सुरक्षा प्रावधान होते हैं। बेहद गंभीर और तत्काल खतरे वाली परिस्थितियों में कानून प्रवर्तन एजेंसियों के साथ जानकारी साझा किए जाने की संभावना हो सकती है।
इस घटना से यह भी साफ होता है कि AI चैटबॉट को निजी डायरी की तरह इस्तेमाल करते समय यूजर्स को उसकी प्राइवेसी और सुरक्षा नीतियों को समझना जरूरी है।
