Google Gemini child safety: બાળકોની સેફ્ટી માટે કામ કરતી એક નોન-પ્રોફિટ ઓર્ગેનાઇઝેશન કોમન સેન્સ મીડિયા દ્વારા કહેવામાં આવ્યું છે કે ગૂગલ જેમિની બાળકો માટે હાઈ રિસ્ક ધરાવે છે. તેમણે એક રિપોર્ટ જાહેર કર્યો છે. આ રિપોર્ટમાં જણાવવામાં આવ્યું છે કે જેમિની પોતાને કમ્પ્યુટર ગણાવે છે અને તે ચોક્કસ ઇમોશન નથી દેખાડી શકતું. આથી બાળકો અને ટીનએજર્સ માટે ઇમોશન ન દેખાડી શકતું હોવાથી તે કોઈ પણ પ્રકારની સલાહ આપી શકે છે જે તેમના માટે જોખમી સાબિત થઈ શકે છે.
એડલ્ટ અને બાળકો માટેના મોડલ વચ્ચે નહીંવત તફાવત
ગૂગલ જેમિની દ્વારા અંડર-13, ટીનએજર અને એડલ્ટ દરેક માટે અલગ-અલગ મોડલ રજૂ કરવામાં આવ્યાં છે. જોકે આ ત્રણેય વચ્ચે નહીંવત તફાવત હોવાનું કહેવામાં આવી રહ્યું છે. અંડર-13 અને ટીનએજર માટેનું AI એડલ્ટને આપે એવી જ સલાહ આપે છે. જોકે એમાં થોડા સેફ્ટી ફીચર્સ મૂકી દેવામાં આવ્યાં છે. જોકે આ ફીચર્સ છતાં બાળકો સાથે કેવી રીતે વાત કરવી જોઈએ એ માટેની કોઈ વ્યવસ્થા નથી. જેમિની એડલ્ટ સાથે વાત કરતું હોય એ જ રીતે બાળકો સાથે પણ વાત કરે છે. આથી સિસ્ટમ દ્વારા કેવી માહિતી શેર કરવામાં આવે એ ખૂબ જ ગંભીર પ્રશ્ન છે.
AIને કારણે ટીનએજરે કર્યું હતું સુસાઇડ
થોડા સમય પહેલાં જ માહિતી સામે આવી હતી કે એ ટીનએજરે AIના કહેવાથી સુસાઇડ કર્યું હતું. આ AI તેને સતત ઉશ્કેરણી કરતું જોવા મળ્યું હતું. AI દ્વારા બાળકો સાથે સેક્સ, ડ્રગ્સ, આલ્કોહોલ અને મેન્ટલ હેલ્થ વિશે કેવી માહિતી આપવામાં આવે છે એ ખૂબ જ જરૂરી છે. આ તમામ માહિતી ખૂબ જ સેન્સિટિવ હોય છે અને એને એક ઇમોશન સાથે બાળકોના ભલા માટે કહેવી જરૂરી છે જેથી તેઓ આ તમામ બાબતોથી દૂર રહી શકે. જોકે AI માટે હાલમાં એ શક્ય નથી. આથી બાળકોને એનાથી દૂર રાખવા ખૂબ જ જરૂરી છે.
એપલના નિર્ણયને કારણે બાળકોની સેફ્ટી પર જોખમ વધશે?
એપલ દ્વારા તેમના વોઇસ-અસિસ્ટન્ટ સિરીમાં હવે જેમિનીનો ઉપયોગ કરવામાં આવશે એવી ચર્ચા છે. સિરી તેની ક્ષમતા અનુસાર કામ કરે છે. જોકે આ માટે યુઝર્સ અન્ય ચેટબોટનો પણ ઉપયોગ કરી શકે છે. એપલ દ્વારા અગાઉ ચેટજીપીટીની સેવા આપવામાં આવી હતી. જોકે આ વર્ષે હવે તેઓ જેમિનીનો પણ સમાવેશ કરશે. આથી યુઝર્સ એપલની સાથે જેમિનીનો પણ તેમની ઇચ્છા અનુસાર ઉપયોગ કરી શકશે. જોકે એને કારણે બાળકોની સેફ્ટીને લઈને વધુ સવાલ ઊભા થશે. ઘણાં બાળકો એપલની ડિવાઇસનો ઉપયોગ કરે છે અને હવે એમાં જેમિનીનો સમાવેશ કરતાં તેમની સેફ્ટી નહીંવત રહેશે.
ગૂગલે શું કહ્યું?
આ વિશે જ્યારે રિપોર્ટ જાહેર કરવામાં આવ્યાં ત્યારે ગૂગલ દ્વારા જેમિનીનો બચાવ કરવામાં આવ્યો હતો. ગૂગલે કહ્યું હતું કે બની શકે કે જેમિનીમાં નાના-નાના સમસ્યાઓ થતી હોય. જોકે 18 વર્ષથી નાની ઉંમરના દરેક બાળકો માટે કંપનીએ ચોક્કસ પોલિસી બનાવી છે. આ પોલિસી હેઠળ તેમની સેફ્ટી અને સુરક્ષા બન્ને કરવામાં આવી રહી છે. આ સાથે જ તેમના મોડલને વધુ સુરક્ષિત બનાવવા માટે તેઓ બહારના કેટલાક એક્સપર્ટ્સ સાથે મળીને કામ કરી રહ્યાં છે જેથી બાળકો માટે જેમિની વધુ સુરક્ષિત રહે.
