NBT रिपोर्ट : Anthropic की सेफगार्ड्स रिसर्च टीम के हेड मृणांक शर्मा ने अपना पद छोड़ दिया है। मृणांक ने X पर 9 फरवरी को अपने इस्तीफे की जानकारी साझा की। मृणांक ने अपने विदाई संदेश में एक गंभीर चेतावनी दी है कि एआई और अन्य संकटों के कारण दुनिया खतरे में है। उन्होंने संकेत दिया कि कंपनियों में अक्सर नैतिक मूल्यों के बजाय अन्य दबाव हावी हो जाते हैं। अब वह टेक्नॉलजी की दुनिया छोड़कर कविता और लेखन के क्षेत्र में अपनी नई राह तलाशने जा रहे हैं।
TOI के मुताबिक, एंथ्रोपिक ने फरवरी 2025 में अपनी 'सेफगार्ड्स रिसर्च टीम' बनाने का ऐलान किया था। ऑक्सफोर्ड यूनिवर्सिटी से मशीन लर्निंग में पीएचडी करने वाले मृणांक ने अगस्त 2023 में कंपनी जॉइन की थी। उनकी टीम का काम एआई से होने वाले खतरों को कम करना था। उन्होंने एआई चैटबॉट्स द्वारा यूजर्स की जरूरत से ज्यादा तारीफ करने और एआई के जरिए होने वाले गलत कामों को रोकने पर रिसर्च की।
मृणांक ने पिछले हफ्ते एक स्टडी पब्लिश की, जिसमें उन्होंने पाया कि AI चैटबॉट्स का इस्तेमाल करने से लोगों का हकीकत को देखने का नजरिया बिगड़ सकता है। उन्होंने पाया कि ऐसी हजारों घटनाएं हर रोज हो रही हैं। हालांकि गंभीर मामले कम हैं, लेकिन रिश्तों और सेहत जैसे विषयों पर चैटबॉट्स का प्रभाव ज्यादा है। मृणांक का कहना है कि हमें ऐसे एआई सिस्टम चाहिए जो इंसान की आजादी और उसकी भलाई का साथ दें।
