सोशल मीडिया के बाद एआई भी युवा पीढ़ी के लिए खतरा

डिफरेंट एंगल • टेक कंपनियों से यह अपेक्षा करना तो मूर्खता होगी कि वे खुद को नियंत्रित करेंगी ...

- पीटर कर्षलैंगर फेडरल इंस्टिट्यूट ऑफ टेक्नोलॉजी, ज्यूरिख में विजिटिंग प्रोफेसर

28 फरवरी 2024 को फ्लोरिडा के एक 14 साल के किशोर सीवेल सेट्जर ने एक लाइफलाइक एआई कैरेक्टर के उकसावे पर आत्महत्या कर ली।

यह एआई किरदार कैरेक्टर.एआई द्वारा निर्मित था। यही कंपनी कथित तौर पर प्रो-एनोरिक्सया एआई चैटबॉट को भी होस्ट करती है, जो युवाओं में अव्यवस्थित खानपान की आदत को बढ़ावा देता है। मतलब साफ है, युवाओं और बच्चों को एआई से बचाने के लिए सख्त कदम उठाने की आवश्यकता अब आन पहुंची है।

यह सच है कि एआई में मानव स्वास्थ्य और उसकी गरिमा को प्रोत्साहित करने से लेकर वंचित वर्ग में शिक्षा और स्थायित्व की बेहतरी के लिए जबरदस्त संभावना है। लेकिन इन लाभों की कीमत पर खतरों को अनदेखा नहीं किया जा सकता। मानवाधिकारों के हर उल्लंघन को नैतिक तौर पर अस्वीकार्य माना जाना चाहिए। यदि कोई एआई चैटबॉट किसी किशोर को आत्महत्या के लिए उकसाता है तो इसकी क्षतिपूर्ति यह कह कर नहीं की जा सकती कि दूसरी तरफ एआई मेडिकल रिसर्च को अत्याधुनिक करने में भी तो भूमिका निभा रहा है।