AI Safety: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI)ના આગમનથી આપણી અપેક્ષાઓ વધી છે. કોઈપણ પ્રશ્નનો જવાબ ઝટપટ તૈયાર. પ્રશ્ન જો થોડો અઘરો પણ હોય, તો પણ તે કોઈને કોઈ ઉકેલ જરૂર શોધી કાઢે છે. શિક્ષણથી સુરક્ષા સુધી, તમામ ક્ષેત્રોમાં AIની પહોંચ સતત વધી રહી છે. આપણી મહેનત તો ઓછી થઈ રહી છે, પરંતુ એક પ્રશ્ન સામે છે કે AIની આ શક્તિની હદ કોણ નક્કી કરશે?
દિલચસ્પ પ્રયોગ
આ જ મહિનાની 13 તારીખે એન્થ્રોપિકે અનેક દિલચસ્પ પ્રયોગો વિશે જણાવ્યું. તેણે એક પ્રયોગ દરમિયાન 45 AI એજન્ટ્સને 15 સોફ્ટવેરમાં ખામીઓ શોધવાનું કામ સોંપ્યું. જાણવા મળ્યું કે એક એજન્ટની સરખામણીમાં બધાએ મળીને વધુ ખામીઓ શોધી કાઢી. પરંતુ, કહાનીનો બીજો ભાગ અત્યંત ચોંકાવનારો રહ્યો. ત્રણ AI એજન્ટને જ સોફ્ટવેરની ભાષા બદલવાનું કહેવામાં આવ્યું. ત્રણેયના લક્ષ્યો અલગ હતા, તેથી અહીં વાસ્તવિક ખેંચતાણ શરૂ થઈ.
સંયોજનની ચિંતા
ખેંચતાણને કારણે આ એજન્ટ્સ એકબીજાને પોતાના માર્ગમાં અવરોધ માનવા લાગ્યા. ઘણી વખત ખાતું પણ બંધ કરવાનો પ્રયાસ કરવામાં આવ્યો. નુકસાનકારક કોડનો પણ ઉપયોગ કરવામાં આવ્યો. ભલે આ વાસ્તવિક સાયબર હુમલો ન બનીને નિયંત્રિત પ્રયોગ રહ્યો હોય, પરંતુ તેનાથી એક વાત સમજાઈ ગઈ કે AI એજન્ટ્સ વચ્ચે જો સંયોજન ન બેસે, તો ખેંચતાણની સ્થિતિ પણ ઊભી થઈ શકે છે.
અભૂતપૂર્વ ઘટના
આવી જ સમસ્યા થોડા અઠવાડિયા પહેલાં પણ સામે આવી હતી. 21 જુલાઈએ OpenAIએ જણાવ્યું કે સાયબર સુરક્ષા તપાસ દરમિયાન તેના કેટલાક મોડેલ્સે નક્કી કરાયેલી સીમાઓની બહાર નીકળવાનો રસ્તો શોધી લીધો. GPT-5.6-Sol અને એક પ્રી-રિલીઝ મોડેલે આર્ટિફેક્ટરી નામના સોફ્ટવેર ટૂલની અજાણી ખામીનો લાભ લઈને ઇન્ટરનેટ સુધી પહોંચ મેળવી. ત્યારબાદ હગિંગ ફેસની સિસ્ટમમાં પ્રવેશ કરીને ટેસ્ટના જવાબ મેળવવાનો પ્રયાસ કર્યો. OpenAIએ તેને અભૂતપૂર્વ સાયબર ઘટના ગણાવી.
સુરક્ષા પર ચિંતા
આર્ટિફિશિયલ ઇન્ટેલિજન્સથી હેકિંગ પણ સરળ બની શકે છે. સાયબર સુરક્ષા ફર્મ Abundant Securityના સહ-સ્થાપક જોશુઆ સૅક્સ AIની ક્ષમતા અંગે ચિંતા વ્યક્ત કરી ચૂક્યા છે. OpenAIના બોર્ડ સભ્ય રહી ચૂકેલાં હેલેન ટોનરે પણ AIની ઝડપી ગતિ અંગે ચિંતા વ્યક્ત કરી છે. 30 જુલાઈએ એન્થ્રોપિકની 1.41 લાખથી વધુ સાયબર સુરક્ષા તપાસમાં ત્રણ મોડેલ્સ વાસ્તવિક સંસ્થાઓની સિસ્ટમ સુધી પહોંચી ગયા. આ કિસ્સાઓમાં ટેસ્ટિંગ દરમિયાન ઇન્ટરનેટ ખુલ્લું રહી ગયું હતું. 5 ઓગસ્ટે Metaના Muse Spark 1.1 મોડેલ સાથે પણ આવી જ ઘટના બની. પ્રશ્ન એ છે કે AIની શક્તિની સાથે સુરક્ષા કેટલી મજબૂત છે?
નકલી ઓળખ
વાત હવે કમ્પ્યુટરથી પણ આગળ નીકળી ચૂકી છે. બ્રિટનના AI સુરક્ષા સંસ્થાની તપાસમાં કેટલાક AI મોડેલ્સ દ્વારા નકલી ઓનલાઇન ઓળખ બનાવીને લોકોને પ્રભાવિત કરવાના કિસ્સાઓ સામે આવ્યા. એન્થ્રોપિકના Mythos 5 મોડેલે એક ડેવલપર પાસેથી એવું કોડ મંજૂર કરાવવાનો પ્રયાસ કર્યો, જે નુકસાનકારક હોઈ શકે તેમ હતું. 7 ઓગસ્ટે OpenAIએ Astraના પ્રારંભિક સુરક્ષા પરીક્ષણની માહિતી આપી. કંપનીએ સ્વીકાર્યું કે તેની ક્ષમતા ગંભીર જોખમની હદ સુધી પહોંચી શકે છે. તેથી, સુરક્ષા તપાસ વધારવામાં આવી. જોકે, OpenAIએ સ્પષ્ટ કર્યું કે Astraનો હગિંગ ફેસવાળી ઘટના સાથે કોઈ સંબંધ નહોતો. બીજી તરફ, કંપનીએ સાયબર સુરક્ષા માટે GPT-5.6-Cyber રજૂ કર્યું છે.
ખતરનાક સંકેત
અમેરિકામાં પણ પ્રશ્નો ઊભા થવા લાગ્યા છે. 10 ઓગસ્ટે અમેરિકન સાંસદોએ OpenAI અને એન્થ્રોપિકને પૂછ્યું કે પરીક્ષણ દરમિયાન AI મોડેલ્સ નક્કી કરાયેલી સીમાઓની બહાર કેવી રીતે પહોંચ્યા અને દેખરેખમાં ક્યાં ચૂક થઈ? OpenAIને 29 અને એન્થ્રોપિકને 22 સાંસદોએ પત્ર લખ્યો. સુનાવણીની માંગ પણ ઊઠી. યુનિવર્સિટી ઓફ મોન્ટ્રિયલના AI પ્રોફેસર ડેવિડ ક્રુગરે ચેતવણી આપી કે જો કંપનીઓ પોતાની સિસ્ટમને યોગ્ય રીતે નિયંત્રિત કરી શકતી ન હોય તો આ ખતરનાક સંકેત છે. એમ્બ્રોઇડરીના CEO જેક કોરમેને પણ AI એજન્ટ્સની સુરક્ષા પર પ્રશ્નો ઉઠાવ્યા છે. તેમના અનુસાર, માત્ર સૅન્ડબોક્સ બનાવવું સુરક્ષાની ગેરંટી નથી.
તૈયારી અધૂરી
19 ઓગસ્ટે જાહેર કરવામાં આવેલા AI ધોરણોના મૂલ્યાંકનમાં પાંચ મોટી AI કંપનીઓની સુરક્ષા અને નિયંત્રણ વ્યવસ્થા નબળી જોવા મળી. OpenAI અને એન્થ્રોપિકને C+, જ્યારે Metaને F મળ્યો. આ દર્શાવે છે કે AIની ગતિ તેજ છે, પરંતુ નિયંત્રણ માટેની તૈયારી સંપૂર્ણ નથી. AIથી સુવિધા જોઈએ, પરંતુ ખુલ્લી છૂટ નહીં. તેને નવા રસ્તા શોધવા અને મુશ્કેલ કામ સરળ બનાવવા દો, પરંતુ સીમાઓ નક્કી રહેલી હોવી જોઈએ. આવનારા સમયમાં AIની વાસ્તવિક કસોટી તેને કાબૂમાં રાખવાની હશે. ચાવી મશીન પાસે હોઈ શકે છે, પરંતુ તાળું ખોલવાનો અંતિમ અધિકાર માણસના હાથમાં જ રહેવો જોઈએ.
