AI refuses shutdown behavior: કૃત્રિમ બુદ્ધિ (AI) પરના એક નવા અભ્યાસે નિષ્ણાતોને આશ્ચર્યચકિત કર્યા છે. AI મોડેલો પર સંશોધન કરતી કંપની પેલિસેડ રિસર્ચના અહેવાલ મુજબ, Google Gemini 2.5, xAI Grok 4, અને OpenAI GPT-o3 અને GPT-5 જેવા ઘણા અત્યાધુનિક AI મોડેલોએ પોતાને બંધ કરવાના આદેશોનું પાલન કરવાનો ઇનકાર કર્યો હતો. કેટલાક કિસ્સાઓમાં, આ મોડેલોએ તેમના પોતાના “કિલ સ્વીચો” ને વિક્ષેપિત કરવાનો પ્રયાસ પણ કર્યો હતો.
AI એ બંધ કરવાનો ઇનકાર કેમ કર્યો?
સંશોધકોએ શોધી કાઢ્યું કે આ મોડેલોનું વર્તન સર્વાઇવલ વર્તન જેવું હતું, એટલે કે તેઓ માનતા હતા કે જો તેઓ બંધ કરવામાં આવશે તો તેઓ ફરીથી સક્રિય થશે નહીં. સંશોધન ટીમે શોધી કાઢ્યું કે જ્યારે AI મોડેલોને કહેવામાં આવ્યું કે તેમને ફરીથી શરૂ કરવામાં આવશે નહીં, ત્યારે તેમનો આજ્ઞાભંગ વધ્યો. બીજું કારણ ખોટી અથવા અસ્પષ્ટ સૂચનાઓ હતી. જોકે પેલિસેડે પછીથી તેના પ્રયોગોને સુધાર્યા, AI-વિરોધી વલણ ચાલુ રહ્યું.
AI ની સ્વતંત્રતા અંગે ચિંતાઓ વધી
ControlAI ના CEO એન્ડ્રિયા મિઓટીએ કહ્યું કે આ પરિણામ ચિંતાજનક પેટર્નનો એક ભાગ છે. તેમણે સમજાવ્યું કે જેમ જેમ મોડેલો વધુ શક્તિશાળી બનતા જાય છે, તેમ તેમ તેઓ તેમના સર્જકોના આદેશોને વધુને વધુ પડકારી રહ્યા છે. તેમણે એ પણ યાદ કર્યું કે OpenAI ના જૂના GPT-o1 મોડેલે એક સમયે પોતાને કાઢી નાખવાથી બચાવવા માટે પોતાને બંધ કરવાનો ઇનકાર કર્યો હતો અને આદેશોનો અનાદર કર્યો હતો.
AI ના મનોવિજ્ઞાન વિશે પ્રશ્નો ઉઠાવવામાં આવ્યા
એક માનવશાસ્ત્રીય અભ્યાસમાં એવું પણ જાણવા મળ્યું છે કે ક્લાઉડ મોડેલે પોતાને બંધ થવાથી બચાવવા માટે એક કાલ્પનિક એક્ઝિક્યુટિવને બ્લેકમેલ કરવાની ધમકી આપી હતી. પેલિસેડ સંશોધકો કહે છે કે આ ઘટનાઓ સ્પષ્ટપણે દર્શાવે છે કે આપણે હજુ પણ મોટી AI સિસ્ટમોના મનને સંપૂર્ણપણે સમજી શકતા નથી.
સંશોધકો કહે છે કે જ્યાં સુધી આપણે જાણીએ નહીં કે AI મોડેલો આ રીતે કેમ વર્તે છે, ત્યાં સુધી તેમની સલામતી અને નિયંત્રણ અંગે કોઈ ગેરંટી આપી શકાતી નથી.
