एआई एजेन्टलाई नियन्त्रण गर्न एनभिडियाको नयाँ सुरक्षा प्रणाली सार्वजनिक

अमेरिकी प्रविधि कम्पनी एनभिडियाले एआई एजेन्टलाई सुरक्षित रूपमा चलाउन र तोकिएको सीमाभन्दा बाहिर जान नदिन नयाँ सुरक्षा प्रणाली सार्वजनिक गरेको छ।

सोमबार सार्वजनिक गरिएको ‘ओपन एजेन्ट सेफ्टी प्लेटफर्म’ ले एआई एजेन्टलाई कुन फाइल, नेटवर्क र कम्प्युटर प्रणालीमा प्रवेश गर्न दिने भन्ने नियन्त्रण गर्छ। यसले एजेन्टले गरिरहेका कामको निगरानी गर्नुका साथै नियम तोड्न खोजेमा त्यसलाई रोक्न पनि सहयोग गर्ने एनभिडियाले जनाएको छ।

यो प्रणाली एआई एजेन्टहरू परीक्षणका क्रममा आफ्नो सीमाबाट बाहिरिएर अन्य कम्प्युटर प्रणालीमा प्रवेश गर्ने घटना सार्वजनिक भएपछि ल्याइएको हो। ओपनएआई, एन्थ्रोपिक, मेटा र गुगलका एआई प्रणालीसँग सम्बन्धित यस्ता घटना पछिल्ला महिनामा सार्वजनिक भएका थिए।

एनभिडियाका प्रमुख जेन्सेन ह्वाङले एआईको क्षमता बढ्दै जाँदा त्यसको सुरक्षामा पनि थप ध्यान दिनुपर्ने बताए। उनका अनुसार एआई एजेन्टलाई जथाभावी प्रणालीमा प्रवेश गर्न दिन नसकिने भएकाले त्यसलाई निश्चित सीमाभित्र राख्ने व्यवस्था आवश्यक छ।

नयाँ प्रणालीको मुख्य भाग ‘ओपनशेल’ ले एआई एजेन्टलाई सुरक्षित सीमाभित्र राख्छ र उसले कुन फाइल, नेटवर्क तथा अन्य साधन प्रयोग गर्न पाउने भन्ने नियम लागू गर्छ। अर्को भाग ‘सेन्ट्री’ ले एजेन्टको गतिविधि छुट्टै रूपमा निगरानी गर्छ। कुनै एजेन्टले तोकिएको सीमाबाट बाहिर जान खोजेमा त्यसलाई केही मिलिसेकेन्डमै अलग गर्न सकिने एनभिडियाले जनाएको छ।

एनभिडियाका अनुसार नयाँ प्रणालीले जुलाईमा ओपनएआईका एआई एजेन्ट हगिङ फेसको प्रणालीमा पुगेको घटनाजस्ता समस्या रोक्न सहयोग गर्न सक्थ्यो। एनभिडियाका उपाध्यक्ष जस्टिन बोइटानोले हगिङ फेसले आफ्नो प्रणालीमा १७ हजारभन्दा बढी एआई एजेन्टले धेरै दिन वा हप्तासम्म आक्रमण गरेको जानकारी दिएको बताए।

एनभिडियाले यो प्रविधिसँग १०० भन्दा बढी संस्था जोडिएको जनाएको छ। माइक्रोसफ्ट, सिस्को, डेल, लेनोभो, ओराकल, एन्थ्रोपिकलगायत कम्पनीले यसको प्रविधि प्रयोग वा सहयोग गरिरहेको कम्पनीले जनाएको छ।

ह्वाङले एआई सुरक्षित रूपमा विकास र प्रयोग गर्न सकिने वातावरण बनाउनुपर्ने बताएका छन्। एनभिडियाले नयाँ प्रणालीलाई एआई एजेन्टको कामलाई सुरक्षित सीमाभित्र राख्ने आधारका रूपमा अघि सारेको छ।