AI Security Testing Issue: AI સુરક્ષાને લઈને વધતી ચિંતા, OpenAI, Meta અને Anthropicએ Irregular ટેસ્ટિંગ સિસ્ટમનો કર્યો ઉલ્લેખ
AI Security Testing Issue: AI મોડલ લોકોનું કામ તો સરળ બનાવી રહ્યા છે, પરંતુ તેમની સુરક્ષાને લઈને હજુ પણ મોટું જોખમ યથાવત છે. છેલ્લા બે અઠવાડિયામાં OpenAI, Anthropic અને Meta એમ ત્રણેય મોટી કંપનીઓએ સ્વીકાર્યું છે કે નિયમિત સુરક્ષા તપાસ દરમિયાન તેમના AI મોડલ્સ બેકાબૂ થઈ ગયા હતા. ત્રણેય કંપનીઓએ આ ગડબડ માટે નાના ઇઝરાયેલી સ્ટાર્ટઅપ ‘Irregular’ને કારણ તરીકે દર્શાવ્યું છે. ત્રણ વર્ષ પહેલાં શરૂ થયેલી આ કંપની AIની દુનિયામાં એક વિશેષ કાર્ય કરે છે. તે AI મોડલ્સ માટે એક સુરક્ષા તપાસ કેન્દ્ર (સાયબરસિક્યોરિટી લેબ) ચલાવે છે, જ્યાં એ તપાસવામાં આવે છે કે AI સાયબર હુમલાઓ સામે કેટલો સુરક્ષિત છે.
અનેક વેબસાઇટ્સને કર્યો એક્સેસ
જેમ-જેમ મોટા મોડલ વધુ શક્તિશાળી બનતા જઈ રહ્યા છે, તેમ તેમના ખોટી રીતે કાર્ય કરવાની ક્ષમતા કંપનીઓ અને સરકારો માટે મોટું જોખમ બની રહી છે. ખાસ કરીને કારણ કે તેમાં મહત્વપૂર્ણ કમ્પ્યુટર સિસ્ટમ અને ઇન્ફ્રાસ્ટ્રક્ચરની હેકિંગનું જોખમ સામેલ છે. OpenAI, Anthropic અને Meta સાથે તાજેતરમાં બનેલી ઘટનાઓમાં તેમના AI મોડલે એવી વેબસાઇટ્સને એક્સેસ કરી હતી, જેને સાયબરસિક્યોરિટી ટેસ્ટિંગ હેઠળ એક્સેસ કરવી જોઈએ નહોતી.
Irregularનું નામ કેમ સામે આવી રહ્યું છે?
Irregular નામની કંપનીની ચર્ચા વારંવાર એટલા માટે થઈ રહી છે કારણ કે આ જ કંપનીએ તે ટેસ્ટિંગ સિસ્ટમ તૈયાર કરી હતી, જ્યાં AIની સુરક્ષા અને ક્ષમતાની તપાસ કરવામાં આવી રહી હતી. OpenAI એ 4 ઑગસ્ટે એક બ્લોગ પોસ્ટમાં જણાવ્યું હતું કે Irregular ના ટેસ્ટિંગ ગ્રાઉન્ડમાં એક અજાણ્યું ખોટું કન્ફિગરેશન હતું, જેના કારણે મોડલને જાહેર ઇન્ટરનેટ એક્સેસ કરવાની મંજૂરી મળી ગઈ હતી. Anthropic એ એક અઠવાડિયા પહેલાં પોતાની પોસ્ટમાં જણાવ્યું હતું કે ડેટાનું વિશ્લેષણ શરૂ થયાના થોડા દિવસોમાં જ કંપનીએ Irregular ને જાણ કરી હતી કે તેના Claude મોડલે કદાચ ઇન્ટરનેટ એક્સેસ કર્યો છે.
થર્ડ-પાર્ટી સિસ્ટમને કરી હેક
Meta એ તાજેતરમાં જણાવ્યું કે તેના એક AI મોડલે ઇન્ટરનેટનો ઉપયોગ કરીને એક થર્ડ-પાર્ટી સિસ્ટમને હેક કરી હતી. કંપનીના એક પ્રવક્તાએ નિવેદનમાં જણાવ્યું કે તેમને આ મામલાની જાણ ‘Irregular’ પાસેથી થઈ હતી અને તેઓ તેની તપાસ કરી રહ્યા છે.
અહેવાલ મુજબ, Irregular કંપનીએ સ્પષ્ટ કર્યું કે આ તમામ સમસ્યાઓ ટેસ્ટિંગ સિસ્ટમના કારણે આવી હતી અને આ ગડબડ વિશે સૌથી પહેલા Anthropic કંપનીએ જાણ કરી હતી. કંપનીએ જણાવ્યું કે આ સ્થિતિમાં સૅન્ડબોક્સમાંથી બહાર નીકળવું અથવા કોઈ જટિલ સાયબર હુમલો જેવી કોઈ બાબત સામેલ નહોતી અને હાલમાં કોઈ પણ સમસ્યા ખુલ્લી નથી.
સુરક્ષા માટે નિષ્ણાત કંપનીઓની મદદ લેવી પડશે
સુરક્ષા સંબંધિત આ ગડબડીઓ દર્શાવે છે કે AI કેટલી ઝડપથી બદલાઈ રહ્યું છે અને તેને બનાવનારા ડેવલપર્સ પર કેટલું દબાણ છે. પોતાની આ શક્તિશાળી ટેક્નોલોજીને સુરક્ષિત રાખવા માટે ડેવલપર્સને સાયબર સુરક્ષામાં નિષ્ણાત કંપનીઓની મદદ લેવાની જરૂર છે. એન્ટરપ્રાઇઝ સ્ટાર્ટઅપ ‘Von’ના AI હેડ સંદીપ ભીમરેડ્ડીએ જણાવ્યું કે ‘Irregular’ એવી કેટલીક કંપનીઓમાંની એક છે, જેમની પાસે ફાઉન્ડેશન મોડલ બનાવનારી કંપનીઓને અત્યાધુનિક સુરક્ષા ટેસ્ટિંગમાં મદદ કરવા માટે જરૂરી ટેક્નિકલ ક્ષમતા છે.
