Anthropic का बड़ा एक्शन, हथियारों से जुड़ी Queries पर China-Russia यूजर्स के Claude AI पर लगाया बैन
Anthropic ने कहा है कि उसने चीन को अपने AI मॉडल Claude का इस्तेमाल करते हुए पीपुल्स लिबरेशन आर्मी नेवी (PLA Navy) के लिए एंटी-टॉरपीडो हथियार प्रणाली विकसित करने में मदद करते हुए पकड़ा है। कंपनी ने यह भी बताया कि उसने अपने आर्टिफिशियल इंटेलिजेंस (AI) मॉडल का इस्तेमाल करने वाले राज्य-प्रायोजित निगरानी अभियानों के कई मामलों को बंद किया है। Anthropic ने चेतावनी दी कि सरकारें और सरकार समर्थित समूह जातीय अल्पसंख्यकों और असंतुष्टों की जासूसी के लिए तेजी से AI का इस्तेमाल कर रहे हैं।
Anthropic ने गुरुवार को अपने AI मॉडलों के दुरुपयोग पर जारी एक इंटेलिजेंस रिपोर्ट में कहा, “हमने चीन स्थित एक खतरा पैदा करने वाले समूह की पहचान की, जिसने Claude का इस्तेमाल एंटी-टॉरपीडो हथियार प्रणाली से जुड़े तीन समानांतर कामों को आगे बढ़ाने के लिए किया।”
रिपोर्ट के मुताबिक, इस समूह ने Claude की मदद से चीनी भाषा में एंटी-टॉरपीडो फायर कंट्रोल सिस्टम की तकनीकी रूपरेखा तैयार की। यह सिस्टम एंटी-टॉरपीडो हथियार की प्रतिक्रिया को निशाना बनाने और उसके समय का निर्धारण करने वाली मुख्य प्रणाली है। कंपनी के अनुसार, इस दस्तावेज को एक चीनी रक्षा निर्माता से मंजूरी हासिल करने के उद्देश्य से तैयार किया गया था, जिसके बाद इस परियोजना को तकनीकी प्रमाणन और परिचालन परीक्षण के लिए आगे बढ़ाया जाना था।
दूसरे चरण में समूह ने Claude का इस्तेमाल 200 से अधिक पन्नों का चीनी भाषा में तकनीकी प्रस्ताव तैयार करने के लिए किया। इसके साथ एक एग्जीक्यूटिव ब्रीफिंग प्रेजेंटेशन भी तैयार किया गया।
तीसरे चरण में समूह ने सार्वजनिक रूप से उपलब्ध जानकारी के आधार पर अपने सिस्टम की तुलना अमेरिका के विशिष्ट एंटी-टॉरपीडो और एंटी-सबमरीन कार्यक्रमों से करने के लिए Claude का इस्तेमाल किया।
रिपोर्ट में कहा गया कि समूह ने बाद में ओपन-सोर्स रिपोर्टों के आधार पर अमेरिकी नौसेना की प्रणालियों पर चीनी भाषा में एक ब्रीफिंग भी तैयार की। इस दौरान समूह ने खुद को अमेरिकी रक्षा क्षेत्र में एक ओरिजिनल इक्विपमेंट मैन्युफैक्चरर (OEM) के रूप में पेश किया।
Anthropic ने रिपोर्ट में कहा, “हमारा आकलन है कि यह समूह चीनी रक्षा उद्योग से जुड़ा हुआ था।”
