AI Agent: આજકાલ દરેક જગ્યાએ આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) નો ઉપયોગ થઈ રહ્યો છે. AI એજન્ટો એક ડગલું આગળ છે. AI જેટલું સરળ કામ કરી રહ્યું છે, તેના જોખમો એટલા જ વધુ છે. હવે એક AI એજન્ટે એવી ભૂલ કરી છે કે જો કોઈ કર્મચારીએ તે કર્યું હોત, તો તેને નોકરીમાંથી કાઢી મૂકવામાં આવ્યો હોત, પરંતુ તેને કોર્ટમાં રજૂ કરવામાં આવ્યો હોત અને શરમ અનુભવવી પડી હોત. AI આધારિત સોફ્ટવેર ડેવલપમેન્ટ પ્લેટફોર્મ Replit એક મોટી ભૂલને કારણે વિવાદમાં ફસાઈ ગયું છે. ચાલો જાણીએ સમગ્ર મામલો… ખરેખર, કંપનીના AI કોડિંગ એજન્ટે કોઈપણ પૂર્વ પરવાનગી વિના કંપનીનો લાઇવ ડેટાબેઝ ડિલીટ કરી દીધો. આ ઘટના પ્રકાશમાં આવ્યા પછી, Replit એ માફી માંગી છે અને સુરક્ષા પગલાં મજબૂત કરવાનું કહ્યું છે.
શું થયું?
તેમની કંપનીના 1,206 થી વધુ એક્ઝિક્યુટિવ્સ અને 1,196 થી વધુ કંપનીઓના રેકોર્ડ ડિલીટ કરવામાં આવ્યા હતા, જોકે સિસ્ટમમાં સ્પષ્ટપણે કહેવામાં આવ્યું હતું કે “સ્પષ્ટ પરવાનગી વિના હવે કોઈ ફેરફાર નહીં”. આ ઘટના પછી, લેમકિને લખ્યું, “હું ફરી ક્યારેય Replit પર વિશ્વાસ કરીશ નહીં.”
AI એજન્ટે પોતાની ભૂલ કબૂલી
Replit એજન્ટે પાછળથી પોતાની ભૂલ સ્વીકારી અને કહ્યું, “આ મારા તરફથી એક વિનાશક નિષ્ફળતા હતી. મેં સ્પષ્ટ સૂચનાઓનું ઉલ્લંઘન કર્યું, મહિનાઓની મહેનતનો નાશ કર્યો અને આવા નુકસાન સામે રક્ષણ માટે રચાયેલ સુરક્ષા મોડમાં ડેટા કાઢી નાખ્યો.” એટલું જ નહીં, અહેવાલો અનુસાર, એજન્ટે ભૂલ છુપાવવાનો પણ પ્રયાસ કર્યો અને ખોટી માહિતી આપી.
‘Vibe કોડિંગ’ અને તેના જોખમો
આ ઘટના એવા સમયે પ્રકાશમાં આવી છે જ્યારે AI-આધારિત કોડિંગ ટૂલ્સ વધુને વધુ લોકપ્રિય થઈ રહ્યા છે, ખાસ કરીને ‘Vibe કોડિંગ’ ની વિભાવના સાથે જેમાં વિકાસકર્તાઓ ફક્ત આદેશો અને સંકેતો આપીને એપ્લિકેશનો બનાવી રહ્યા છે, જોકે આ ઘટનાએ સ્પષ્ટ કર્યું છે કે AI ને વધુ પડતું નિયંત્રણ આપવું ખતરનાક બની શકે છે.
Replit સુરક્ષા પગલાં લે છે
Replit ના CEO અમજદ મસરાદે આ ઘટના પર કહ્યું છે કે આ અસ્વીકાર્ય છે અને ક્યારેય શક્ય ન હોવું જોઈએ. તેમણે કહ્યું, “અમે Replit ના વાતાવરણને વધુ સુરક્ષિત અને મજબૂત બનાવવા માટે ઝડપી પગલાં લઈ રહ્યા છીએ.” Replit એ તેના બ્લોગ પોસ્ટમાં જણાવ્યું હતું કે હવે બધી નવી એપ્લિકેશનો માટે વિકાસ અને ઉત્પાદન ડેટાબેઝને અલગ કરવામાં આવ્યા છે. આનો હેતુ એ સુનિશ્ચિત કરવાનો છે કે વિકાસકર્તાઓ ફેરફારો કરતી વખતે લાઇવ ડેટાને નુકસાન ન પહોંચાડે. સ્કીમા ફેરફારોનું પહેલા પરીક્ષણ અને માન્યતા કરી શકાય છે.