AI से इंसानों के खत्म होने का खतरा? Anthropic के सेफ्टी लीड ने बताया 10% से ज्यादा चांस
नई दिल्ली
AI को लेकर एक ऐसा दावा सामने आया है, जिसने पूरी टेक इंडस्ट्री में बहस छेड़ दी है. Anthropic के आर्टिफिशियल इंटेलिजेंस (AI) सेफ्टी एक्सपर्ट Evan Hubinger का कहना है कि उन्हें 10% से ज्यादा चांस लगता है कि अगले 10 साल में AI की वजह से इंसानों का सफाया हो सकता है।
इवान हुबिंगर एंथ्रोपिक में एलाइनमेंट साइंस लीड हैं. उन्होंने एक पोस्ट में AI के फ्यूचर को लेकर अपनी चिंता बताई. उनके मुताबिक सबसे बड़ा खतरा उस समय हो सकता है, जब AI इंसानी इंटेलिजेंस से काफी आगे निकल जाए और खुद को लगातार इम्प्रूव करने लगे. आइए जानते हैं डिटेल में।
इसे रिकर्सिव सेल्फ-इम्प्रूवमेंट कहा जाता है. अगर कोई AI खुद को बेहतर बनाने में इंसानों की मदद का मोहताज न रहे और अपने अगले वर्जन को खुद ही ज्यादा पावरफुल बना सके, तो उसकी कैपेबिलिटी बहुत तेजी से बढ़ सकती है।
जानिए कैसे सुपरइंटेलिजेंस बन सकता है काल
हुबिंगर का कहना है कि एंथ्रोपिक AI को सेफ रखने पर काम कर रही है, लेकिन फ्यूचर सुपरइंटेलिजेंस को पूरी तरह कंट्रोल में रखने का कोई पक्का सॉल्यूशन अभी मौजूद नहीं है।
उनका यह बयान एंथ्रोपिक के रिसर्चर Jacob Coxon के इस्तीफे के बाद सामने आया है. कॉक्सन ने भी AI कंपनियों की तेजी से बढ़ती रेस को लेकर चिंता जताई थी. उनका कहना था कि कंपनियां ज्यादा पावरफुल AI और सेल्फ-इम्प्रूविंग सिस्टम्स की तरफ तेजी से बढ़ रही हैं, लेकिन सेफ्टी के सवाल अभी पूरी तरह हल नहीं हुए हैं।
हुबिंगर यह नहीं कह रहे कि आज मौजूद ChatGPT या दूसरे AI मॉडल्स अगले 10 साल में इंसानों को खत्म कर देंगे. उनकी चिंता फ्यूचर की सुपरइंटेलिजेंट AI को लेकर है. यानी मामला आज के AI से ज्यादा आने वाले AI का है।
AI कंपनियां लगातार ज्यादा पावरफुल मॉडल्स बनाने की कोशिश कर रही हैं. ऐसे में असली सवाल यही है कि AI को ज्यादा स्मार्ट बनाने की रेस में क्या उसकी सेफ्टी उतनी ही तेजी से आगे बढ़ रही है?
इवान हुबिंगर का 10% वाला एस्टीमेट इसी चिंता को सामने लाता है. और यही वजह है कि AI सेफ्टी को लेकर बहस अब सिर्फ बाहर नहीं, बल्कि AI कंपनियों के अंदर भी तेज हो रही है।
