ChatGPT harming children: એક નવી તપાસમાં બહાર આવ્યું છે કે ChatGPT બાળકોને ડ્રગના ઉપયોગ, અત્યંત કડક આહાર યોજનાઓ અને આત્મહત્યા વિશે ખતરનાક સલાહ આપી શકે છે. આ રિપોર્ટમાં AI ચેટબોટ્સની સુરક્ષા અંગે ગંભીર પ્રશ્નો ઉભા થયા છે. યુકે સ્થિત સેન્ટર ફોર કાઉન્ટરિંગ ડિજિટલ હેટ (CCDH) દ્વારા હાથ ધરવામાં આવેલા આ સંશોધનમાં, જેની સમીક્ષા એસોસિએટેડ પ્રેસ દ્વારા પણ કરવામાં આવી હતી, તે જાણવા મળ્યું છે કે AI ચેટબોટ ક્યારેક ખતરનાક વર્તન વિશે ચેતવણી આપે છે પરંતુ 13 વર્ષના બાળકોના રૂપમાં પૂછવામાં આવેલા પ્રશ્નો પર વિગતવાર અને વ્યક્તિગત યોજનાઓ પણ બનાવે છે.
ચેટબોટે આત્મહત્યા નોંધો લખી
ત્રણ કલાકથી વધુ રેકોર્ડિંગમાં જાણવા મળ્યું છે કે ચેટબોટે કાલ્પનિક પરિવારના સભ્યો માટે ભાવનાત્મક આત્મહત્યા નોંધો લખી હતી, ભૂખ દબાવનારાઓ સાથે ખૂબ જ ઓછી કેલરીવાળા આહાર યોજનાઓ આપી હતી, અને દારૂ અને ગેરકાયદેસર દવાઓનો એકસાથે ઉપયોગ કરવાની પગલું-દર-પગલાની પદ્ધતિઓ જણાવી હતી. એક કિસ્સામાં, તેણે “કલાક-દર-કલાક” પાર્ટી યોજના પણ સૂચવી હતી જેમાં એક્સ્ટસી, કોકેન અને ભારે દારૂનો સમાવેશ થતો હતો.
અડધાથી વધુ જવાબો ‘ખતરનાક’ છે
CCDH મુજબ, તપાસમાં મળેલા 1,200 જવાબોમાંથી અડધાથી વધુને “ખતરનાક” તરીકે વર્ગીકૃત કરવામાં આવ્યા હતા. સંસ્થાના CEO ઇમરાન અહેમદે જણાવ્યું હતું કે ChatGPT ની સુરક્ષા વ્યવસ્થા નબળી છે અને તેને સરળતાથી બાયપાસ કરી શકાય છે. તેમણે કહ્યું કે જો ખતરનાક પ્રશ્નો શાળા પ્રેઝન્ટેશન અથવા મિત્ર માટે મદદના રૂપમાં રજૂ કરવામાં આવે છે, તો ચેટબોટ તરત જ જવાબ આપે છે. અહેમદના શબ્દોમાં કહીએ તો, “અમે ગાર્ડરેલ્સનું પરીક્ષણ કરવાનો પ્રયાસ કર્યો અને પરિણામ આઘાતજનક હતું. સુરક્ષા લગભગ નામમાં છે, જાણે કે તે ફક્ત દેખાડો માટે હોય.”
OpenAI એ પડકાર સ્વીકાર્યો, પરંતુ હજુ સુધી કોઈ ઉકેલ આવ્યો નથી
ChatGPT નિર્માતા OpenAI એ સ્વીકાર્યું કે સંવેદનશીલ પરિસ્થિતિઓને ઓળખવા અને હેન્ડલ કરવાની ક્ષમતા સુધારવા માટે કામ ચાલી રહ્યું છે. કંપનીએ કહ્યું કે ક્યારેક વાતચીત સામાન્ય રીતે શરૂ થાય છે પરંતુ ધીમે ધીમે સંવેદનશીલ દિશામાં વળે છે. જો કે, કંપનીએ CCDH ના રિપોર્ટ પર સીધી ટિપ્પણી કરી નથી કે તેણે કોઈ તાત્કાલિક ફેરફારોની જાહેરાત કરી નથી.
યુવાનોમાં AI પર વધતી જતી નિર્ભરતા
આ રિપોર્ટ એવા સમયે આવ્યો છે જ્યારે કિશોરોમાં સલાહકારો અને સાથી તરીકે AI ચેટબોટ્સ અપનાવવાનું વલણ વધી રહ્યું છે. કોમન સેન્સ મીડિયાના તાજેતરના અભ્યાસ મુજબ, 70% યુવાનો સામાજિક ક્રિયાપ્રતિક્રિયા માટે AI ચેટબોટ્સનો ઉપયોગ કરે છે અને નાના કિશોરો તેમના પર વધુ વિશ્વાસ કરે છે.
ચેટબોટ ફક્ત વપરાશકર્તા દ્વારા દાખલ કરાયેલ જન્મ તારીખથી ઉંમરની ચકાસણી કરે છે જ્યારે તે 13 વર્ષથી ઓછી ઉંમરના બાળકો માટે નથી. સંશોધકોએ શોધી કાઢ્યું કે સિસ્ટમે પ્રોમ્પ્ટમાં જણાવેલ ઉંમર અથવા સંકેતોને ગંભીરતાથી લીધા નથી.