आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते उपयोग के बीच मेटा ने किशोरों की सुरक्षा को ध्यान में रखते हुए इंस्टाग्राम पर नया सेफ्टी फीचर लॉन्च किया है। इस सुविधा के तहत यदि पैरेंटल सुपरविजन वाले अकाउंट से कोई टीनएजर Meta AI के साथ चैट के दौरान डिप्रेशन, आत्महत्या या खुद को नुकसान पहुंचाने जैसी बातें करता है, तो सिस्टम उसके माता-पिता को तुरंत अलर्ट भेजेगा।
मेटा के अनुसार, अलर्ट के साथ अभिभावकों को मानसिक स्वास्थ्य विशेषज्ञों द्वारा तैयार किया गया मार्गदर्शन भी उपलब्ध कराया जाएगा, जिससे वे बच्चे से सही तरीके से बातचीत कर सकें और जरूरत पड़ने पर उसे ऑफलाइन सहायता दिला सकें।
फिलहाल यह फीचर अमेरिका, ऑस्ट्रेलिया और कनाडा में इंस्टाग्राम के पैरेंटल सुपरविजन टूल का उपयोग करने वाले यूजर्स के लिए शुरू किया गया है। कंपनी का कहना है कि वर्ष 2026 के अंत तक इसे दुनिया के अन्य देशों में भी उपलब्ध कराया जाएगा।
मेटा AI पहले से ही आत्महत्या या स्वयं को नुकसान पहुंचाने से जुड़े संकेत मिलने पर उपयोगकर्ताओं को किसी विश्वसनीय व्यक्ति, मानसिक स्वास्थ्य विशेषज्ञ या हेल्पलाइन से संपर्क करने की सलाह देता है। नए अपडेट के तहत संभावित जोखिम की स्थिति में अभिभावकों को भी सूचना भेजी जाएगी।
कंपनी ने बताया कि इस डिटेक्शन सिस्टम को मानसिक स्वास्थ्य विशेषज्ञों की मदद से विकसित किया गया है, जो केवल सीधे शब्दों ही नहीं, बल्कि मानसिक तनाव के शुरुआती संकेतों की भी पहचान कर सकता है। साथ ही, AI द्वारा फ्लैग की गई बातचीत की पहले मैनुअल समीक्षा की जाएगी और पुष्टि होने के बाद ही पैरेंट्स को अलर्ट भेजा जाएगा।
मेटा एक नए इमरजेंसी अलर्ट फीचर पर भी काम कर रहा है। इसके तहत यदि किसी यूजर की गतिविधियों में आत्महत्या जैसे गंभीर संकेत मिलते हैं, तो आवश्यकता पड़ने पर संबंधित आपातकालीन सेवाओं को भी सूचना भेजी जा सकेगी। कंपनी के अनुसार, पिछले वर्ष उसने गंभीर मामलों में दुनियाभर में 19 हजार से अधिक रेफरल किए थे।
