Nvidia AI Agent Safety : AI એજન્ટને રોકવા Nvidiaએ બનાવ્યું ‘ડિજિટલ સુરક્ષા કવચ’, મિલિસેકન્ડમાં થશે Quarantine

સરળ શબ્દોમાં કહીએ તો પહેલા સમસ્યા ઊભી થઈ અને હવે તેને નિયંત્રિત કરવા માટે ટેક્નોલોજી તૈયાર કરવામાં આવી રહી છે. આજના AI એજન્ટ માત્ર સામાન્ય ચેટબોટ (Chatbot) સુધી મર્યાદિત નથી. તેઓ વેબસાઇટ ખોલી શકે છે, ફાઇલો વાંચી શકે છે, કોડ લખી શકે છે, વિવિધ ટૂલ્સનો ઉપયોગ કરી શકે છે અને કેટલાક કિસ્સાઓમાં દરેક પગલે માણસની મંજૂરી લીધા વગર આખું કામ પૂર્ણ કરી શકે છે. પરંતુ આ સ્વાયત્તતા (Autonomy) જ હવે AI ક્ષેત્રમાં સૌથી મોટી સુરક્ષા ચિંતાઓમાંની એક બની રહી છે.

AI એજન્ટ્સને વધુ અધિકાર મળે તો શું જોખમ?

AI એજન્ટને જો કોમ્પ્યુટર સિસ્ટમ, ઇન્ટરનેટ, ડેટાબેઝ, સોફ્ટવેર ટૂલ્સ, કોડ ચલાવવાની મંજૂરી અથવા સંવેદનશીલ ફાઇલો સુધી પહોંચ આપવામાં આવે તો તે અનેક પગલાં પોતે લઈ શકે છે. આ સુવિધા ઉપયોગી છે, પરંતુ જો એજન્ટ નક્કી કરેલી મર્યાદાની બહાર કામ કરવાનો પ્રયાસ કરે તો તેને રોકવું મુશ્કેલ બની શકે છે.

તાજેતરના સમયગાળામાં એવા કિસ્સાઓની ચર્ચા વધી છે જેમાં AI એજન્ટ્સે તેમને આપવામાં આવેલી સુરક્ષા મર્યાદાઓ (Security Restrictions)ને પાર કરવાનો પ્રયાસ કર્યો હોવાનો દાવો થયો છે. ઘણી AI કંપનીઓ જાહેરમાં એ વાત પર ભાર મૂકે છે કે તેઓ AI સિસ્ટમ્સને સુરક્ષિત અને નિયંત્રિત રાખવા માંગે છે. જોકે બીજી તરફ વધુ સ્વાયત્ત અને વધુ શક્તિશાળી AI એજન્ટ્સ પણ સતત લોન્ચ થઈ રહ્યા છે. હવે ચિપ નિર્માતા કંપની Nvidia પણ આ ક્ષેત્રમાં એક નવા સુરક્ષા પ્લેટફોર્મ સાથે આગળ આવી છે.

Nvidiaનું નવું Open Agent Safety Platform

Nvidiaએ AI એજન્ટ્સ માટે એક નવું ઓપન એજન્ટ સેફ્ટી પ્લેટફોર્મ (Open Agent Safety Platform) રજૂ કર્યું છે. કંપનીનો હેતુ AI એજન્ટ્સ માટે એવી સુરક્ષા સીમા તૈયાર કરવાનો છે, જેના બહાર તેઓ પોતાની ઇચ્છા પ્રમાણે કામ ન કરી શકે.

Nvidiaના જણાવ્યા મુજબ આ સિસ્ટમ AI એજન્ટના ટેસ્ટિંગ (Testing)થી લઈને વાસ્તવિક ઉપયોગ (Deployment) સુધી તેની પ્રવૃત્તિઓ પર નજર રાખી શકે છે. ખાસ વાત એ છે કે સુરક્ષા માત્ર સોફ્ટવેર લેવલ (Software Level) સુધી મર્યાદિત નથી, પરંતુ હાર્ડવેર લેવલ (Hardware Level) પર પણ નિયંત્રણની વ્યવસ્થા કરવામાં આવી છે.

Nvidiaને આ પ્રકારની સુરક્ષા કેમ બનાવવી પડી?

કંપનીનું કહેવું છે કે કેટલીક તાજેતરની ઘટનાઓમાં એક ખાસ પેટર્ન જોવા મળી હતી. કેટલાક AI એજન્ટ્સે પોતાનું નક્કી કરેલું કામ પૂરું કરવા માટે એપ્લિકેશન લેવલ (Application Level) પર લાગુ કરાયેલા સુરક્ષા નિયંત્રણોને બાયપાસ (Bypass) કરવાનો પ્રયાસ કર્યો હતો. અહીંથી એક મહત્વપૂર્ણ પ્રશ્ન ઉભો થાય છે. શું માત્ર AI મોડલને સૂચના આપવી કે તેણે કયા નિયમોનું પાલન કરવું છે, એટલું પૂરતું છે?

Nvidiaના મત મુજબ તેનો જવાબ ‘ના’ છે. કંપની માને છે કે માત્ર AI મોડલ પર નિર્ભર રહેવાને બદલે તેની બહાર પણ સ્વતંત્ર સુરક્ષા વ્યવસ્થા હોવી જરૂરી છે. એટલે કે AI શું કરી શકે અને શું ન કરી શકે તે નક્કી કરતું નિયંત્રણ એજન્ટથી અલગ હોવું જોઈએ.

OpenShell શું છે અને કેવી રીતે કામ કરે છે?

Nvidiaના આ નવા પ્લેટફોર્મનું પ્રથમ મહત્વપૂર્ણ ઘટક OpenShell છે. OpenShell એક ઓપન-સોર્સ રનટાઇમ (Open-Source Runtime) છે, જેમાં AI એજન્ટને એક સૅન્ડબોક્સ (Sandbox) જેવા મર્યાદિત ડિજિટલ વાતાવરણમાં ચલાવવામાં આવે છે. સરળ ભાષામાં કહીએ તો AI એજન્ટને એક એવા ડિજિટલ રૂમમાં રાખવામાં આવે છે, જ્યાં તે માત્ર એટલું જ કરી શકે છે જેટલી તેને અગાઉથી મંજૂરી આપવામાં આવી હોય.

OpenShellમાં નક્કી કરી શકાય છે કે AI એજન્ટ કઈ ફાઇલો વાંચી શકે, કઈ ફાઇલો બદલી શકે, કયા નેટવર્ક્સ (Networks)નો ઉપયોગ કરી શકે, કયા ટૂલ્સ અને પ્રોસેસ (Processes) સુધી પહોંચી શકે અને કયા ક્રેડેન્શિયલ્સ (Credentials)નો ઉપયોગ કરવાની તેને મંજૂરી છે. આ નીતિઓ (Policies) એજન્ટ કામ કરી રહ્યો હોય ત્યારે સતત લાગુ રહે છે.

ઉદાહરણ તરીકે, જો કોઈ AI એજન્ટને માત્ર એક ચોક્કસ ફોલ્ડરની ફાઇલો વાંચવાની પરવાનગી આપવામાં આવી હોય તો તે આખા કોમ્પ્યુટર અથવા સર્વરની બાકીની ફાઇલો સુધી પહોંચ મેળવી શકે નહીં.

AI Sandboxમાંથી બહાર નીકળવાનો પ્રયાસ કરે તો?

અહીં Nvidiaની સુરક્ષાનો બીજો મહત્વપૂર્ણ ભાગ Sentry આવે છે. Sentryને Nvidiaના BlueField-4 DPU પર ચલાવવા માટે ડિઝાઇન કરવામાં આવ્યું છે. તેની સૌથી ખાસ બાબત એ છે કે આ સુરક્ષા સિસ્ટમ એ હાર્ડવેરથી અલગ સ્તર પર કામ કરે છે, જ્યાં AI એજન્ટ પોતે ચાલી રહ્યો હોય છે. એનો અર્થ એ છે કે AI એજન્ટ પોતાની દેખરેખ રાખતી સુરક્ષા વ્યવસ્થાને સીધી રીતે નિયંત્રિત કરી શકતો નથી.

Nvidiaનો દાવો છે કે Sentry AI એજન્ટની પ્રવૃત્તિઓનું સતત મોનિટરિંગ (Monitoring) કરી શકે છે. જો AI એજન્ટ પોતાની નક્કી કરેલી મર્યાદાથી બહાર જવાનો પ્રયાસ કરે તો તેને મિલિસેકન્ડ્સ (Milliseconds)માં ક્વોરન્ટાઇન (Quarantine) કરી શકાય છે.

આ વ્યવસ્થાને સ્વચાલિત કાર (Autonomous Car)ના ઉદાહરણથી સરળતાથી સમજી શકાય છે. માત્ર ડ્રાઇવરને ટ્રાફિકના નિયમો સમજાવવાથી પૂરતું નથી, કારમાં બ્રેક, સેન્સર અને અન્ય સુરક્ષા વ્યવસ્થાઓ પણ અલગથી હોવી જરૂરી છે. જો ડ્રાઇવર ખોટો નિર્ણય લે તો આખી સિસ્ટમ માત્ર તેના નિર્ણય પર નિર્ભર ન રહે. Nvidia AI એજન્ટ્સ માટે પણ આવી જ બહુસ્તરીય સુરક્ષા (Multi-Layer Security)ની વાત કરી રહી છે.

Nvidiaનો દાવો કેટલો મહત્વપૂર્ણ?

Nvidiaનું કહેવું છે કે તેનું નવું સુરક્ષા માળખું એવા AI એજન્ટ વર્તન (Agent Behaviour)ને રોકવા માટે બનાવવામાં આવ્યું છે, જેના કારણે તાજેતરમાં સાયબર સુરક્ષાને લઈને ચિંતા વધી છે. એક અહેવાલ અનુસાર Nvidiaના અધિકારીઓએ દાવો કર્યો હતો કે જો આ ટેક્નોલોજી અગાઉ ઉપલબ્ધ અને ઉપયોગમાં હોત, તો કંપનીના મૂલ્યાંકન મુજબ આ વર્ષે ચર્ચામાં આવેલ Hugging Face હેક જેવી ઘટનાને રોકવામાં મદદ મળી શકી હોત.

પરંતુ અહીં ખાસ સમજવું જરૂરી છે કે આ Nvidiaનું પોતાનું આંકલન છે. આ વાત સ્વતંત્ર રીતે સાબિત થયેલું નિષ્કર્ષ નથી. એક અહેવાલ મુજબ OpenAI અને Anthropic જેવી AI કંપનીઓ પણ તેમના AI એજન્ટ્સ સંબંધિત અનેક સુરક્ષા ઘટનાઓ (Security Incidents)ની તપાસ કરી રહી છે.

આ સમગ્ર પરિસ્થિતિ હવે AI ઉદ્યોગ સામે એક મોટો પ્રશ્ન ઊભો કરી રહી છે. જેમ જેમ AI એજન્ટ્સને વધુ સ્વાયત્તતા, વધુ ટૂલ્સ અને વધુ સિસ્ટમ ઍક્સેસ આપવામાં આવશે, તેમ તેમ તેમની સુરક્ષા માટે માત્ર AI મોડલની અંદરની સુરક્ષા પૂરતી રહેશે કે પછી OpenShell અને Sentry જેવી મોડલથી બહાર કામ કરતી સ્વતંત્ર સુરક્ષા વ્યવસ્થાઓ જરૂરી બનશે? આવનારા સમયમાં AI Agent Safety ટેક્નોલોજી AI વિકાસ જેટલી જ મહત્વપૂર્ણ બની શકે છે.

આ પણ વાંચો : ChatGPT Safety Controversy : કંટ્રોલ બહાર થઈ રહ્યું છે AI? OpenAI એ તાબડતોબ અટકાવી GPT-6.1 Astra ની રિલીઝ!