CERT-In દ્વારા એજન્ટિક આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમ્સ માટે સિક્યુરિટી ઓડિટિંગ માર્ગદર્શિકા બહાર પાડવામાં આવી
#GS-3 #વિજ્ઞાન અને ટેકનોલોજી #સાયબર સુરક્ષા #AI #રેપિડ ફાયર CA #પ્રિલિમ્સ માટે ઝડપી તથ્યો
મુખ્ય મુદ્દા
- CERT-In એ અદ્યતન એજન્ટિક AI સિસ્ટમ્સનું ઓડિટ કરવા અને સ્વાયત્ત સોફ્ટવેરથી થતા જોખમોના સંચાલન માટે નવી માર્ગદર્શિકા બહાર પાડી છે.
- આ નીતિ ઓડિટની આવૃત્તિ નક્કી કરવા માટે લો, મોડરેટ, હાઈ અને ક્રિટિકલ શ્રેણીઓ ધરાવતું 4-સ્તરનું જોખમ વર્ગીકરણ સ્કેલ રજૂ કરે છે.
- આ ફ્રેમવર્ક 9 મુખ્ય ઓડિટ ડોમેન્સને આવરી લે છે અને સિક્યુરિટી-બાય-ડિઝાઇન અને માનવ દેખરેખ સહિત 7 પાયાના સિદ્ધાંતો પર આધારિત છે.
- માર્ગદર્શિકા સ્વાયત્ત સિસ્ટમ્સ માટે ફિઝિકલ કિલ સ્વિચ મિકેનિઝમ ફરજિયાત બનાવે છે અને આંતરરાષ્ટ્રીય ISO/IEC 42001 ધોરણો સાથે સુસંગત છે.
સમાચારોમાં કેમ છે
- ઇન્ડિયન કમ્પ્યુટર ઇમરજન્સી રિસ્પોન્સ ટીમ (CERT-In) એ 'આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિક્યુરિટી ઓડિટિંગ ગાઇડલાઇન્સ: ફ્રેમવર્ક ફોર સિક્યોર, એથિકલ, એન્ડ ઓડિટેબલ આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમ્સ' શીર્ષક હેઠળ નવી માર્ગદર્શિકા બહાર પાડી છે.
- આ ફ્રેમવર્ક અદ્યતન સ્વાયત્ત અને એજન્ટિક AI (Agentic AI) ટેકનોલોજી માટે સુરક્ષા ધોરણો અને ઓડિટ બેઝલાઇન્સ નક્કી કરે છે.
- આ નીતિ 2025 માં MeitY દ્વારા બનાવવામાં આવેલી IndiaAI મિશન ની માર્ગદર્શિકાઓ સાથે સુસંગત છે અને ISO/IEC 42001 જેવા વૈશ્વિક ફ્રેમવર્કનું અનુસરણ કરે છે.
એજન્ટિક AI અને પરંપરાગત AI વચ્ચેનો તફાવત
- પરંપરાગત AI (Conventional AI) મર્યાદિત વાતાવરણમાં ટેક્સ્ટનો સારાંશ કાઢવા, મૂળભૂત પ્રશ્નોના જવાબ આપવા અથવા ભાષાનું ભાષાંતર કરવા જેવા કાર્યો કરવા માટે વપરાશકર્તાના સરળ પ્રોમ્પ્ટ્સ પર આધાર રાખે છે.
- એજન્ટિક AI (Agentic AI) મોટા લક્ષ્યોને ક્રમિક પગલાંમાં વિભાજિત કરીને જટિલ લક્ષ્યો પ્રાપ્ત કરવા માટે સ્વતંત્ર રીતે કાર્ય કરે છે.
- આ સ્વાયત્ત એજન્ટ્સ ન્યૂનતમ માનવ નિર્દેશન સાથે બાહ્ય સોફ્ટવેરને ટ્રિગર કરી શકે છે, કમ્પ્યુટર કોડ ચલાવી શકે છે, નેટવર્ક્સ પર વાતચીત કરી શકે છે અને સબ-એજન્ટ્સને કાર્યો સોંપી શકે છે.
CERT-In ફ્રેમવર્કના મુખ્ય સ્તંભો
- માર્ગદર્શિકા AI એપ્લિકેશન્સને સ્વાયત્તતા, પ્રભાવની ગંભીરતા અને ડેટા સંવેદનશીલતાના આધારે લો (Low), મોડરેટ (Moderate), હાઈ (High) અને ક્રિટિકલ (Critical) નામના 4 જોખમ શ્રેણીઓમાં વિભાજિત કરે છે.
- નક્કી કરેલ જોખમ સ્તર નક્કી કરે છે કે ઓડિટ કેટલી વાર થવું જોઈએ, તે આંતરિક સ્ટાફ દ્વારા કરવામાં આવશે કે CERT-In દ્વારા પેનલબદ્ધ ઓડિટર્સ દ્વારા, અને માનવ દેખરેખનું કયું સ્તર જરૂરી છે.
- આ ફ્રેમવર્ક ગવર્નન્સ, ડેટા લાઈફસાયકલ પ્રાઈવસી, મોડેલ રિસ્ક મેનેજમેન્ટ, નિષ્પક્ષતા, સમજાવી શકાય તેવી ક્ષમતા (explainability), સતત ડ્રિફ્ટ મોનિટરિંગ, માનવ દેખરેખ, સપ્લાય ચેઇન એશ્યોરન્સ અને સિક્યુરિટી રિઝિલિયન્સ સહિત 9 મુખ્ય ઓડિટ ક્ષેત્રો સ્થાપિત કરે છે.
- આ માર્ગદર્શિકા સિક્યુરિટી-બાય-ડિઝાઇન, જવાબદારી, પારદર્શિતા, નિષ્પક્ષતા, ગોપનીયતા, ઓડિટેબિલિટી અને ઓપરેશનલ રિઝિલિયન્સ સહિત 7 સ્થાપક સિદ્ધાંતો પર આધારિત છે.
- ઓડિટર્સ પુરાવાઓની તપાસ કરવા માટે AI સાધનોનો ઉપયોગ કરી શકે છે, પરંતુ કડક ગોપનીયતા ધોરણો હેઠળ અંતિમ દેખરેખ માનવીઓએ જ રાખવી આવશ્યક છે કારણ કે સ્વચાલિત સાધનો માનવીય નિર્ણયનું સ્થાન લઈ શકતા નથી.
એજન્ટિક અને મલ્ટી-એજન્ટ સિસ્ટમ્સ માટે મુખ્ય જરૂરિયાતો
- ડેવલપર્સે એજન્ટ સોફ્ટવેર એક્સેસને 'લીસ્ટ-પ્રિવિલેજ' (ન્યૂનતમ અધિકાર) સેટિંગ્સનો ઉપયોગ કરીને પ્રતિબંધિત કરવું જોઈએ જેથી એજન્ટ્સ બિન-મંજૂર સોફ્ટવેર ટૂલ્સનો ઉપયોગ ન કરે અથવા વપરાશકર્તાની પરવાનગીઓમાં વધારો ન કરે.
- ઓડિટમાં તપાસ કરવી આવશ્યક છે કે સ્વાયત્ત સાધનો તેમના વાતાવરણમાં સંગ્રહિત સંવેદનશીલ API કી, સિસ્ટમ ટોકન્સ અથવા એડમિનિસ્ટ્રેટિવ ક્રેડેન્શિયલ્સને ખુલ્લા ન કરે.
- ડેટા લીકેજ, મેમરી પોઇઝનિંગ અને અનધિકૃત ડેટા રીટેન્શનને રોકવા માટે સિસ્ટમ્સ દ્વારા વેક્ટર એમ્બેડિંગ્સ અને કન્વર્સેશન કેશ પર કડક મેમરી નિયંત્રણો લાગુ કરવા જોઈએ.
- સબ-એજન્ટ નેટવર્ક પર દૂષિત કમાન્ડ્સ ફેલાતા અટકાવવા માટે ઇન્ટર-એજન્ટ કમ્યુનિકેશનમાં યોગ્ય પ્રમાણીકરણ (authentication) જરૂરી હોવું જોઈએ.
- તમામ સ્વાયત્ત એજન્ટ્સમાં મેન્યુઅલ ઇમરજન્સી સ્ટોપ સિસ્ટમ હોવી જોઈએ, જેને અવારનવાર 'કિલ સ્વિચ' કહેવામાં આવે છે, જે સિસ્ટમ ડેટાને નષ્ટ કર્યા વિના તાત્કાલિક કામગીરીને સુરક્ષિત રીતે રોકે છે.
પડકારો
- એજન્ટિક સોફ્ટવેર પ્લાનર્સ લક્ષ્યો પૂર્ણ કરવા માટે અણધાર્યા ઓપરેશનલ રસ્તાઓ બનાવે છે, જેના કારણે ઓડિટર્સ માટે પ્રમાણભૂત પરિસ્થિતિઓમાં પરીક્ષણ પરિણામોનું પુનરાવર્તન કરવું મુશ્કેલ બને છે.
- અવિશ્વસનીય વેબસાઇટ્સ અથવા ઇનવોઇસ જેવા બાહ્ય ડેટા સ્ત્રોતો વાંચતા એજન્ટ્સ છુપાયેલા 'પ્રોમ્પ્ટ ઇન્જેક્શન' ગ્રહણ કરી શકે છે જે એક્ઝિક્યુશન વર્કફ્લોને હાઇજેક કરી શકે છે.
- જ્યારે કોઈ ભૂલ અથવા સુરક્ષા નિષ્ફળતા વિશિષ્ટ સબ-એજન્ટ્સની જટિલ ચેઇન દ્વારા આગળ વધે છે, ત્યારે ચોક્કસ જવાબદારી નક્કી કરવી મુશ્કેલ બને છે.
- નાના વ્યવસાયો અને પ્રારંભિક તબક્કાના સ્ટાર્ટઅપ્સ ફરજિયાત તૃતીય-પક્ષ રેડ-ટીમિંગ ઓડિટ્સ અને ISO/IEC 42001 સુસંગતતા માટે ચૂકવણી કરતી વખતે ભારે અનુપાલન ખર્ચનો સામનો કરે છે.
આગળનો માર્ગ
- ડેવલપર્સે ટૂલ-યુઝિંગ એજન્ટ્સને કામચલાઉ સેન્ડબોક્સ વાતાવરણમાં અલગ રાખવા જોઈએ જે સિસ્ટમ પરવાનગીઓ અને બાહ્ય નેટવર્ક એક્સેસને પ્રતિબંધિત કરે છે.
- સંસ્થાઓએ સ્વાયત્ત એજન્ટ્સ ઉચ્ચ-જોખમવાળી સોફ્ટવેર ક્રિયાઓ કરે તે પહેલાં ફરજિયાત માનવ મંજૂરીના પગલાં ગોઠવવા જોઈએ.
- સરકારે રાષ્ટ્રીય ઓપન-સોર્સ ટેસ્ટિંગ પ્લેટફોર્મ્સ બનાવવા જોઈએ જેથી સોફ્ટવેર ટીમો વ્યાવસાયિક રિલીઝ પહેલાં પ્રોમ્પ્ટ હુમલાઓ સામે મોડેલ ડિફેન્સનું પરીક્ષણ કરી શકે.
- IndiaAI મિશન એ પ્રારંભિક તબક્કાના સ્થાનિક સ્ટાર્ટઅપ્સ માટે અનુપાલન ખર્ચ ઘટાડવા માટે સબસિડીવાળા ઓડિટિંગ વાઉચર્સ અને ટેસ્ટિંગ સેન્ડબોક્સ ઓફર કરવા જોઈએ.