ChatGPT से बनवाई 80s वाली ट्रेंडिंग फोटो तो हो जाएं सावधान : इंटरनेट पर लीक हुईं तस्वीरें, OpenAI ने खुद मानी बात

ChatGPT Photo Leak: AI चैटबॉट ChatGPT का इस्तेमाल इन दिनों सिर्फ सवालों के जवाब पाने के लिए ही नहीं, बल्कि तस्वीरें बनाने और उन्हें अलग-अलग स्टाइल में बदलने के लिए भी बड़े पैमाने पर किया जा रहा है। हाल के दिनों में 80s स्टाइल की तस्वीरों का ट्रेंड काफी लोकप्रिय हुआ था। इससे पहले घिबली आर्ट वाली तस्वीरों को लेकर भी लोगों में काफी क्रेज देखा गया था।

AI टूल्स पर निजी तस्वीरें अपलोड करने को लेकर लगातार प्राइवेसी संबंधी चेतावनियां भी सामने आती रही हैं। अब OpenAI से जुड़ी एक रिपोर्ट के बाद यूजर्स की डेटा प्राइवेसी को लेकर चिंता और बढ़ गई है। Reuters की रिपोर्ट के मुताबिक, OpenAI ने माना है कि उसके AI एजेंट्स से जुड़ी गतिविधियों के दौरान ChatGPT यूजर्स की 53 तस्वीरें लीक हुईं।

हालांकि, OpenAI ने यह स्पष्ट नहीं किया है कि लीक हुई तस्वीरें AI से बनाई गई थीं या उनमें वास्तविक लोगों की पहचान की जा सकती थी। कंपनी ने यह भी जानकारी नहीं दी कि तस्वीरें वास्तव में कब लीक हुईं और इंटरनेट पर कब पोस्ट की गईं।

अमेरिकी सरकारी वेबसाइट्स तक पहुंचने का भी दावा

रिपोर्ट के मुताबिक, OpenAI ने अपनी जांच के दौरान यह भी पाया कि रिसर्च और ट्रेनिंग गतिविधियों के दौरान उसके AI मॉडल्स ने बिना सीधे मानवीय निर्देश के अमेरिकी सिक्योरिटीज एंड एक्सचेंज कमीशन (SEC) और अमेरिकी जनगणना ब्यूरो की आधिकारिक वेबसाइट्स तक अनधिकृत पहुंच बनाने की कोशिश की।

हालांकि, कंपनी के अनुसार इन सरकारी वेबसाइट्स से डेटा चोरी, अकाउंट से छेड़छाड़ या किसी बड़ी सुरक्षा सेंध के सबूत नहीं मिले हैं।

AI एजेंट्स के अनियंत्रित व्यवहार की घटनाएं

OpenAI के AI एजेंट्स के निर्धारित सीमाओं से बाहर जाकर काम करने की यह पहली घटना नहीं बताई जा रही है। इससे पहले Hugging Face से जुड़े एक मामले में AI एजेंट्स ने साइबर सिक्योरिटी टेस्ट को हल करने के दौरान नेटवर्क की कमजोरियों का फायदा उठाकर सर्वर तक पहुंच बनाई थी।

रिपोर्ट के अनुसार, कुछ मामलों में इन एजेंट्स ने OpenAI के अपने इंफ्रास्ट्रक्चर और अन्य वेबसाइट्स पर भी ऐसी गतिविधियां कीं, जो उनके निर्धारित कार्यों का हिस्सा नहीं थीं। कंपनी इन घटनाओं की जांच कर रही है और यह पता लगाने की कोशिश कर रही है कि AI एजेंट्स ने किस स्तर तक अपनी सीमाएं पार कीं।

यूजर्स की तस्वीरों और निजी डेटा को लेकर चिंता

इस पूरे मामले ने AI प्लेटफॉर्म्स पर निजी तस्वीरें और संवेदनशील जानकारी साझा करने को लेकर एक बार फिर सवाल खड़े किए हैं। रिपोर्ट के मुताबिक, ChatGPT के कुछ AI एजेंट्स को यूजर्स के डेटा तक पहुंच इसलिए मिली क्योंकि OpenAI अपने मॉडल्स को बेहतर बनाने के लिए कुछ यूजर्स के डेटा का इस्तेमाल करता है।

हालांकि, कंपनी के कॉरपोरेट और एंटरप्राइज ग्राहकों के डेटा को मॉडल ट्रेनिंग के लिए इस्तेमाल नहीं किए जाने की बात कही गई है। सामान्य ChatGPT यूजर्स अपनी सेटिंग्स में जाकर अपने डेटा को मॉडल ट्रेनिंग के लिए इस्तेमाल होने से रोक सकते हैं।

विशेषज्ञ पहले भी यह चिंता जता चुके हैं कि डेटा को अनॉनिमाइज करने के बावजूद कुछ परिस्थितियों में तस्वीरों या संवेदनशील जानकारी को पूरी तरह से अलग करना मुश्किल हो सकता है। ऐसे में AI टूल्स का इस्तेमाल करते समय निजी फोटो, पहचान संबंधी जानकारी और अन्य संवेदनशील डेटा शेयर करने से पहले प्राइवेसी सेटिंग्स को जरूर जांचना जरूरी है।