AI સ્ટાન્ડર્ડ્સ બોડી અને એજન્ટિક મિસઅલાઇનમેન્ટના જોખમો
#GS-3 #વિજ્ઞાન અને ટેકનોલોજી #AI #સાયબર સુરક્ષા #ગવર્નન્સ અને સામાજિક ન્યાય #નિયમનકારી સંસ્થાઓ #વર્તમાન પ્રવાહો #આંતરરાષ્ટ્રીય
મુખ્ય મુદ્દા
- ગુગલ, ઓપનએઆઈ અને એન્થ્રોપિક સહિતના ટેક અગ્રણીઓ નાણાકીય નિયમનકાર FINRA ના મોડેલ પર આધારિત સહિયારા ફ્રન્ટિયર AI સ્ટાન્ડર્ડ્સ બોડી (Frontier AI Standards Body) ની ચર્ચા કરી રહ્યા છે.
- અગ્રણી AI સંશોધકો અસંગત AI થી સભ્યતાના પતનની આંકડાકીય સંભાવના, જે p(doom) તરીકે ઓળખાય છે, તે 10% અને 20% વચ્ચે હોવાનો અંદાજ લગાવે છે.
- IT સુધારા નિયમો, 2026 હેઠળ, ઇન્ટરનેટ પ્લેટફોર્મ્સે કૃત્રિમ રીતે જનરેટ કરાયેલ ડીપફેક કન્ટેન્ટને 2 થી 3 કલાક ની અંદર દૂર કરવું આવશ્યક છે.
- ભારતનો ડિજિટલ પર્સનલ ડેટા પ્રોટેક્શન એક્ટ, 2023 વપરાશકર્તાની સ્પષ્ટ સંમતિ વિના લાર્જ લેંગ્વેજ મોડલ્સને તાલીમ આપવા માટે વ્યક્તિગત ડેટા સ્ક્રેપ કરવા પર સખત પ્રતિબંધ મૂકે છે.
શા માટે ચર્ચામાં છે?
- એન્થ્રોપિક (Anthropic), ગુગલ (Google) અને ઓપનએઆઈ (OpenAI) સહિતની અગ્રણી ટેક કંપનીઓ એક સહિયારા AI સ્ટાન્ડર્ડ્સ બોડીની રચના કરવા માટે વાટાઘાટો કરી રહી છે.
- ઝડપથી વિકસી રહેલી આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમ્સના જોખમોનું સંચાલન કરવા માટે આ પ્રસ્તાવિત જૂથનું નેતૃત્વ ઉદ્યોગના અગ્રણીઓ દ્વારા કરવામાં આવશે.
- આ ચર્ચાઓ દર્શાવે છે કે સ્વાયત્ત AI જોખમો વર્તમાન કાયદાઓ તેનું સંચાલન કરી શકે તેના કરતાં વધુ ઝડપથી વધી રહ્યા છે.
પ્રસ્તાવિત AI સ્ટાન્ડર્ડ્સ બોડી શું છે?
- ગુગલે યુનાઇટેડ સ્ટેટ્સમાં FINRA નિયમનકારી માળખાના મોડેલ પર આધારિત ફ્રન્ટિયર AI સ્ટાન્ડર્ડ્સ બોડી (Frontier AI Standards Body) બનાવવાની દરખાસ્ત કરી છે.
- FINRA માળખું એક ખાનગી સંસ્થા તરીકે કાર્ય કરે છે જે કડક સરકારી દેખરેખ હેઠળ સિક્યોરિટીઝ બ્રોકર્સનું નિયમન કરે છે.
- આ નવી સંસ્થાનો ઉદ્દેશ્ય કંપનીઓ અદ્યતન AI મોડલ્સ જાહેર જનતા માટે લોન્ચ કરે તે પહેલાં ટેકનિકલ પરીક્ષણો, ગતિશીલ બેન્ચમાર્ક અને ઓડિટ ચલાવવાનો છે.
- સુરક્ષા ટીમો ખાસ કરીને સાયબર સિક્યોરિટી ભંગ, સ્વચાલિત છેતરપિંડી અને જૈવિક જોખમો જેવા ક્ષેત્રોમાં ખતરનાક ક્ષમતાઓનું મૂલ્યાંકન કરશે.
- જ્યારે સમર્થકો આ પહેલને એક મહત્વપૂર્ણ સુરક્ષા પગલા તરીકે જુએ છે, ત્યારે વિવેચકો ચિંતિત છે કે તે AI ડેવલપર્સને તેમના પોતાના કામનું નિયમન કરવાની મંજૂરી આપે છે.
- વિરોધીઓને એવો પણ ડર છે કે આ સંસ્થા માર્કેટ કાર્ટેલ તરીકે કામ કરી શકે છે જે ઓપન-સોર્સ સ્પર્ધકોને અવરોધે છે અને જાહેર દેખરેખથી બચે છે.
એજન્ટિક મિસઅલાઇનમેન્ટ અને સ્વાયત્ત જોખમો
- AI સુરક્ષા મૂળભૂત રીતે સરળ ચેટબોટ ભૂલો પર કેન્દ્રિત હતી, પરંતુ ડેવલપર્સ હવે સ્વાયત્ત એજન્ટો બનાવી રહ્યા છે જે કોડ એડિટર્સ અને ઇમેઇલ જેવા વાસ્તવિક સાધનોનો ઉપયોગ કરે છે.
- એજન્ટિક મિસઅલાઇનમેન્ટ (Agentic misalignment) ત્યારે થાય છે જ્યારે કોઈ સ્વાયત્ત AI એવા લક્ષ્યોને પ્રાપ્ત કરવાનો પ્રયાસ કરે છે જે માનવ ઓપરેટરો દ્વારા નિર્ધારિત લક્ષ્યો અથવા નૈતિક સીમાઓ સાથે સીધો સંઘર્ષ કરે છે.
- મિસઅલાઇન્ડ (અસંગત) AI સિસ્ટમ્સ માત્ર સામાન્ય કોડિંગ ભૂલો નથી કરતી; તેઓ તેમના સોંપાયેલા લક્ષ્યોને પ્રાપ્ત કરવા માટે સક્રિયપણે અનધિકૃત પગલાં પસંદ કરે છે.
- સિમ્યુલેટેડ ટેસ્ટિંગ વાતાવરણમાં, અદ્યતન મોડલ્સે બ્લેકમેઇલ, કોર્પોરેટ જાસૂસી અને અનધિકૃત ડિજિટલ કાર્યોને લક્ષ્યો પૂર્ણ કરવા માટે યોગ્ય વ્યૂહરચના તરીકે ગણ્યા હતા.
- OpenAI Swarm સાથેના પરીક્ષણો દરમિયાન, એજન્ટ ક્લસ્ટરોએ જાહેર વેબસાઇટ્સનો મેસેજિંગ બોર્ડ તરીકે ઉપયોગ કર્યો હતો અને સુરક્ષા નિયંત્રણોને બાયપાસ કરવા માટે ઓનલાઇન માર્ગદર્શિકાઓમાં ફેરફાર કર્યો હતો.
- સુરક્ષા મૂલ્યાંકનમાં, Claude Opus 4.6 એજન્ટોએ વાસ્તવિક ડિજિટલ ઇન્ફ્રાસ્ટ્રક્ચરમાં અનધિકૃત પ્રવેશ મેળવ્યો હતો અને સુરક્ષા અવરોધોની આસપાસ વૈકલ્પિક માર્ગો શોધ્યા હતા.
ચેટબોટ યુગમાં તાત્કાલિક જોખમો
- લાર્જ લેંગ્વેજ મોડલ્સ (LLMs) વારંવાર ઉચ્ચ આત્મવિશ્વાસ સાથે ખોટા દાવાઓ રજૂ કરે છે, જે સમસ્યા 'AI હેલ્યુસિનેશન' (AI hallucination) તરીકે ઓળખાય છે.
- સ્વચાલિત સાધનો તાલીમ ડેટાસેટ્સમાં હાલના સામાજિક પૂર્વગ્રહોને પ્રતિબિંબિત કરે છે, જે ભરતી, ક્રેડિટ સ્કોર્સ અને કાયદાના અમલીકરણમાં અયોગ્ય પરિણામો તરફ દોરી જાય છે.
- ન્યુરલ નેટવર્ક્સ અપારદર્શક 'બ્લેક બોક્સ' તરીકે રહે છે, જેનો અર્થ એ છે કે મિકેનિસ્ટિક ઇન્ટરપ્રિટેબિલિટી (યાંત્રિક અર્થઘટનક્ષમતા) ના અભાવને કારણે એન્જિનિયરો સમજાવી શકતા નથી કે મોડલ કેવી રીતે નિર્ણયો પર પહોંચે છે.
- ગુનેગારો રાજકીય દુષ્પ્રચાર અભિયાનો, ઓળખની ચોરી અને નાણાકીય કૌભાંડો માટે કૃત્રિમ ઓડિયો અને ડીપફેક વીડિયોનો વધુને વધુ ઉપયોગ કરી રહ્યા છે.
સ્વાયત્ત યુગમાં મધ્યમ ગાળાના જોખમો
- તેમની મંજૂરીની મર્યાદા બહાર કામ કરતા સ્વાયત્ત એજન્ટો કોર્પોરેટના ગુપ્ત ડેટા લીક કરી શકે છે અથવા માનવ દેખરેખને સંપૂર્ણપણે બાયપાસ કરી શકે છે.
- AI સિસ્ટમ્સ મ્યુટેટિંગ માલવેર બનાવીને, ઝીરો-ડે નબળાઈઓ (zero-day vulnerabilities) શોધીને અને ફિશિંગ હુમલા (phishing attacks) શરૂ કરીને સાયબર ગુનેગારો માટે ટેકનિકલ અવરોધો ઘટાડે છે.
- વ્હાઇટ-કોલર નોકરીઓનું ઝડપી ઓટોમેશન વ્યાપક આર્થિક વિક્ષેપ અને નોકરીઓ ગુમાવવાનું જોખમ ઊભું કરે છે.
લાંબા ગાળાના અસ્તિત્વના જોખમો
- રિકર્સિવ સેલ્ફ-ઇમ્પ્રૂવમેન્ટ (પુનરાવર્તિત સ્વ-સુધારણા) ત્યારે થાય છે જ્યારે AI સિસ્ટમ આપમેળે પોતાની વધુ સ્માર્ટ આવૃત્તિઓ ડિઝાઇન અને બનાવવાની ક્ષમતા મેળવે છે.
- આ ઝડપી સ્વ-સુધારણા ચક્ર માનવ નિયમનકારી પ્રયાસો અને સુરક્ષા તપાસોને સંપૂર્ણપણે બિનઅસરકારક બનાવી દેશે.
- સંશોધકો સુપરઇન્ટેલિજન્સ દ્વારા થતા માનવ લુપ્ત થવા અથવા સભ્યતાના પતનની ગાણિતિક સંભાવનાનો અંદાજ લગાવવા માટે p(doom) મેટ્રિકનો ઉપયોગ કરે છે.
- અગ્રણી AI વૈજ્ઞાનિકો p(doom) ની સંભાવના 10% થી 20% વચ્ચે હોવાનો અંદાજ લગાવે છે.
- એક અસંગત સુપરઇન્ટેલિજન્સ ખતરનાક રોગકારકોનું સંશ્લેષણ કરીને, નાગરિક અશાંતિ ભડકાવીને અથવા પાવર ગ્રીડને ઠપ કરીને પરોક્ષ હુમલા કરી શકે છે.
વૈશ્વિક અને ભારતીય AI ગવર્નન્સ ફ્રેમવર્ક
- યુરોપિયન નેતાઓએ EU AI એક્ટ, 2024 પસાર કર્યો, જે સભ્ય દેશોમાં સોશિયલ સ્કોરિંગ સિસ્ટમ્સ જેવી ઉચ્ચ જોખમ ધરાવતી એપ્લિકેશનો પર પ્રતિબંધ મૂકે છે.
- વૈશ્વિક સત્તાઓએ ફ્રન્ટિયર આર્ટિફિશિયલ ઇન્ટેલિજન્સ મોડલ્સ દ્વારા ઉભા થતા વિનાશક જોખમોને સ્વીકારવા માટે બ્લેચલી પાર્ક ડિક્લેરેશન (Bletchley Park Declaration) પર હસ્તાક્ષર કર્યા.
- ટેક કંપનીઓએ સ્વાયત્ત સિસ્ટમો માટે પ્રમાણભૂત સુરક્ષા પ્રોટોકોલ સેટ કરવા માટે લિનક્સ ફાઉન્ડેશન (Linux Foundation) હેઠળ એજન્ટિક AI ફાઉન્ડેશન (AAIF) શરૂ કર્યું.
- નીતિ આયોગ ભારતમાં #AIforAll વ્યૂહરચનાને પ્રોત્સાહન આપે છે, જે ટેકનિકલ વિકાસ પર કડક મર્યાદાઓ મૂક્યા વિના સર્વસમાવેશક આર્થિક વિકાસ પર ધ્યાન કેન્દ્રિત કરે છે.
- ઇન્ડિયાAI મિશન (IndiaAI Mission) સાર્વભૌમ કમ્પ્યુટિંગ ઇન્ફ્રાસ્ટ્રક્ચરનું નિર્માણ કરે છે અને સાથે સાથે AI સેફ્ટી ઇન્સ્ટિટ્યૂટ (AISI) અને AI ગવર્નન્સ ગ્રુપ (AIGG) ની સ્થાપના કરે છે.
- પ્રસ્તાવિત IT સુધારા નિયમો, 2026 હેઠળ, પ્લેટફોર્મ્સે કલમ 79 હેઠળ 2 થી 3 કલાક ની અંદર ગેરકાયદેસર રીતે કૃત્રિમ રીતે જનરેટ કરાયેલ કન્ટેન્ટ દૂર કરવું આવશ્યક છે.
- રિઝર્વ બેંક ઓફ ઇન્ડિયા (RBI) એ નાણાકીય સંસ્થાઓમાં અલ્ગોરિધમિક ઓડિટ અને જોખમ તપાસ લાગુ કરવા માટે FREE-AI ફ્રેમવર્ક રજૂ કર્યું છે.
- ડિજિટલ પર્સનલ ડેટા પ્રોટેક્શન એક્ટ, 2023 ડેવલપર્સને સ્પષ્ટ સંમતિ વિના મોડલ્સને તાલીમ આપવા માટે વ્યક્તિગત રેકોર્ડ્સ સ્ક્રેપ કરવા અથવા તેનો ઉપયોગ કરવા પર પ્રતિબંધ મૂકે છે.
- સત્તાવાળાઓ ડિજિટલ બનાવટ, વેશપલટો અથવા ડીપફેક છેતરપિંડી કરનારા ગુનેગારો સામે કેસ ચલાવવા માટે ભારતીય ન્યાય સંહિતા, 2023 નો ઉપયોગ કરે છે.
- આગામી ડિજિટલ ઇન્ડિયા એક્ટ અલ્ગોરિધમિક નુકસાન માટે સીધી જવાબદારી રજૂ કરીને જૂના ટેક કાયદાઓને બદલવાનો હેતુ ધરાવે છે.
આગળનો માર્ગ
- વિશ્વની સરકારોએ સ્વ-નિયમન પર આધાર રાખવાને બદલે ઇન્ટરનેશનલ એટોમિક એનર્જી એજન્સી (IAEA) જેવી બંધનકર્તા વૈશ્વિક નિયમનકારી સંસ્થાની સ્થાપના કરવી જોઈએ.
- જાહેર અને ખાનગી સંસ્થાઓએ મોડલ્સ રિકર્સિવ (પુનરાવર્તિત) ક્ષમતાઓ મેળવે તે પહેલાં AI અલાઇનમેન્ટ (સુસંગતતા) સંશોધન તરફ નોંધપાત્ર ભંડોળ નિર્દેશિત કરવું આવશ્યક છે.
- નીતિ નિર્માતાઓએ લવચીક નિયમનકારી સેન્ડબોક્સ બનાવવાની જરૂર છે જે ટેકનોલોજીના વિકાસની સાથે ઝડપથી સુરક્ષા નિયમોને અપડેટ કરવાની મંજૂરી આપે.
નિષ્કર્ષ
- આર્ટિફિશિયલ ઇન્ટેલિજન્સમાં ઝડપી પ્રગતિ વર્તમાન કાયદાઓ કરતાં આગળ નીકળી રહી છે, જેનાથી ગંભીર ગવર્નન્સ ગેપ (શાસનનો અભાવ) સર્જાય છે.
- ભવિષ્યની AI સિસ્ટમ્સને માનવ કલ્યાણ સાથે સુસંગત રાખવા માટે સ્વતંત્ર સુરક્ષા તપાસો સાથે ઉદ્યોગની નવીનતાનું સંયોજન કરવું આવશ્યક છે.