वॉशिंगटन। आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से बढ़ते प्रभुत्व के बीच एंथ्रोपिक के सीईओ डारियो अमोडेई ने दुनिया की अग्रणी AI कंपनियों से इसके विकास की रफ्तार धीमी करने का आग्रह किया है। अमोडेई का मानना है कि अत्यंत शक्तिशाली हो रहे AI मॉडल से उत्पन्न होने वाले खतरों को समझने और नियंत्रित करने के लिए कंपनियों को थोड़ा ठहराव और पर्याप्त समय लेने की सख्त जरूरत है।

विकास और सुरक्षा के बीच संतुलन आवश्यक

अमोडेई ने स्पष्ट किया कि वे AI की प्रगति को पूरी तरह रोकने के पक्ष में नहीं हैं, बल्कि उनका उद्देश्य विकास की रफ्तार और सुरक्षा मानकों के बीच संतुलन बनाना है। उन्होंने चेतावनी दी कि जिस गति से AI विकसित हो रहा है, उस तुलना में सुरक्षा उपाय और जोखिम नियंत्रण के तंत्र काफी पीछे छूट रहे हैं।

दुरुपयोग का खतरा और सुरक्षा की त्रि-स्तरीय योजना

एंथ्रोपिक की हालिया रिपोर्ट में एआई मॉडल के दुरुपयोग से हथियारों के विकास, साइबर हमलों, अवैध निगरानी और धोखाधड़ी जैसी गंभीर गतिविधियों की आशंका जताई गई है। इन खतरों से निपटने के लिए अमोडेई ने तीन स्तरीय सुरक्षा मॉडल का सुझाव दिया है:

  • स्वतंत्र निगरानी: फ्रंटियर एआई कंपनियों में तीसरे पक्ष के मूल्यांकनकर्ताओं की स्थायी पहुंच हो, जो मॉडल की कार्यप्रणाली और सुरक्षा उपायों की जांच कर सकें।

  • उद्योग सहयोग: एआई कंपनियों के बीच आपसी तालमेल और डेटा शेयरिंग को बढ़ावा दिया जाए।

  • वैश्विक समन्वय: विभिन्न देशों की सरकारों और अंतरराष्ट्रीय एजेंसियों के बीच सख्त नियम बनाने के लिए वैश्विक सहमति बने।

मानव नियंत्रण से बाहर होने की आशंका

अमोडेई का यह बयान ऐसे समय में आया है जब एआई के स्वतः-सुधार (Self-improvement) की क्षमता को लेकर चिंताएं बढ़ रही हैं। हाल ही में एंथ्रोपिक के पूर्व शोधकर्ता जैकब कॉक्सन के इस्तीफे और गंभीर खतरों की चेतावनियों ने भी इस मुद्दे को हवा दी है। विशेषज्ञों का मानना है कि यदि एआई की क्षमता मानव समझ से आगे निकल गई, तो इसे नियंत्रित करना असंभव हो जाएगा। इसलिए तकनीक के जिम्मेदार उपयोग के लिए सुरक्षा मानकों को प्राथमिकता देना अनिवार्य है।

AI safety