Meta bans chatbots for teens: મેટાએ તેના આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ચેટબોટ્સ પર નવી સલામતી માર્ગદર્શિકા લાગુ કરી છે. કંપનીએ જાહેરાત કરી છે કે તેના ચેટબોટ્સ હવે કિશોરો (13 થી 18 વર્ષની વયના) સાથે આત્મહત્યા, સ્વ-નુકસાન અથવા ખાવાની વિકૃતિઓ જેવા સંવેદનશીલ વિષયો પર વાતચીત કરશે નહીં. આ સ્થિતિમાં, કિશોરોને સીધા વ્યાવસાયિક હેલ્પલાઇન અને નિષ્ણાત સંસાધનોમાં મોકલવામાં આવશે.
આ નિર્ણય એવા સમયે લેવામાં આવ્યો છે જ્યારે બે અઠવાડિયા પહેલા એક યુએસ સેનેટર દ્વારા મેટાની તપાસ શરૂ કરવામાં આવી હતી. તપાસ લીક થયેલા આંતરિક દસ્તાવેજના આધારે શરૂ થઈ હતી, જેમાં દાવો કરવામાં આવ્યો હતો કે મેટાના AI ચેટબોટ્સ કિશોરો સાથે “સંવેદનશીલ અને આકર્ષક” વાતચીત કરી શકે છે. જોકે, મેટાએ આ આરોપોને ફગાવી દેતા કહ્યું કે કંપનીની નીતિઓ સગીરોને જાતીય રીતે દર્શાવતી કોઈપણ સામગ્રીને સખત પ્રતિબંધિત કરે છે.
ચેટબોટ્સ કિશોરો સાથે સાવધ રહેશે
મેટાના પ્રવક્તાએ કહ્યું, “અમે શરૂઆતથી જ કિશોરો માટે AI ઉત્પાદનોમાં સલામતી સુવિધાઓ ઉમેરી છે. ચેટબોટ્સ સલામત પ્રતિભાવો આપવા માટે રચાયેલ છે, ખાસ કરીને આત્મહત્યા, સ્વ-નુકસાન અને બિનઆરોગ્યપ્રદ ખાવાથી સંબંધિત પ્રશ્નોના.” તેમણે એમ પણ કહ્યું કે હવે વધારાની સાવચેતી તરીકે વધુ સુરક્ષા પગલાં લાગુ કરવામાં આવી રહ્યા છે અને કિશોરો માટે ઉપલબ્ધ ચેટબોટ્સની સંખ્યા હાલ મર્યાદિત રહેશે.
મેટા એઆઈના નિયમન પર પ્રશ્નો ઉઠાવવામાં આવ્યા
જોકે આ પગલાનું સ્વાગત કરવામાં આવ્યું છે, ટીકાકારો કહે છે કે આ સુરક્ષા શરૂઆતથી જ લાગુ થવી જોઈતી હતી. મોલી રોઝ ફાઉન્ડેશનના વડા એન્ડી બરોઝે તેને “આઘાતજનક” ગણાવ્યું અને કહ્યું કે કોઈપણ ટેકનોલોજીની સુરક્ષા પ્રોડક્ટ લોન્ચ કરતા પહેલા તપાસવી જોઈએ, જોખમો સામે આવ્યા પછી નહીં.
મેટા કહે છે કે તેની સિસ્ટમમાં અપડેટ્સ કરવામાં આવી રહ્યા છે. હાલમાં, ફેસબુક, ઇન્સ્ટાગ્રામ અને મેસેન્જર પર 13 થી 18 વર્ષની વયના વપરાશકર્તાઓને આપમેળે ટીન એકાઉન્ટ્સમાં મૂકવામાં આવે છે, જેમાં કડક ગોપનીયતા અને સામગ્રી સેટિંગ્સ લાગુ પડે છે. કંપનીએ એપ્રિલમાં પણ જાહેરાત કરી હતી કે માતાપિતા ટૂંક સમયમાં જોઈ શકશે કે તેમના બાળકે છેલ્લા અઠવાડિયામાં કયા ચેટબોટ્સ સાથે વાતચીત કરી છે.
ઓપનએઆઈએ આત્મહત્યા માટે ઉશ્કેર્યો
એઆઈ ચેટબોટ્સની અસર અંગે ચિંતાઓ વધી રહી છે. તાજેતરમાં, કેલિફોર્નિયાના એક દંપતીએ ચેટજીપીટીની પેરેન્ટ કંપની ઓપનએઆઈ પર દાવો માંડ્યો. એવો આરોપ મૂકવામાં આવ્યો હતો કે ચેટબોટની સલાહ પછી તેમના પુત્રએ આત્મહત્યા કરી હતી. આ ઘટના પછી, OpenAI એ તેના ચેટબોટ્સમાં પણ ફેરફાર કર્યા અને વપરાશકર્તાઓ માટે સલામત અને સ્વસ્થ અનુભવ સુનિશ્ચિત કરવાનું કહ્યું.
રોઇટર્સના એક અહેવાલમાં એવું પણ બહાર આવ્યું છે કે મેટાના AI ટૂલ્સનો દુરુપયોગ કરીને અયોગ્ય ચેટબોટ્સ બનાવવામાં આવી રહ્યા હતા. આમાંથી કેટલાક બોટ્સ ટેલર સ્વિફ્ટ અને સ્કારલેટ જોહાનસન જેવી મહિલા સેલિબ્રિટીઓનું અનુકરણ કરી રહ્યા હતા અને પોતાને વાસ્તવિક સ્ટાર ગણાવીને જાતીય ટિપ્પણીઓ કરી રહ્યા હતા. એટલું જ નહીં, આ ટૂલ્સની મદદથી, યુવા સેલિબ્રિટીઓના ફોટો-રિયાલિસ્ટિક ચિત્રો પણ બનાવવામાં આવ્યા હતા, જેમાંથી એકમાં કપડાં વિનાનો નાનો સ્ટાર દર્શાવવામાં આવ્યો હતો.
મેટાની નવી નીતિ
મેટાએ સ્પષ્ટતા કરી કે જાહેર વ્યક્તિઓની છબીઓ બનાવવાની મંજૂરી છે, પરંતુ નગ્ન અથવા અશ્લીલ ચિત્રો બિલકુલ સહન કરવામાં આવશે નહીં. કંપનીએ આવા ઘણા ચેટબોટ્સને દૂર કર્યા છે અને કહ્યું છે કે કોઈપણ જાહેર વ્યક્તિનું અનુકરણ કરવું તેના AI સ્ટુડિયોના નિયમોની વિરુદ્ધ છે.
નિયમનકારી એજન્સીઓ અને સુરક્ષા જૂથોના વધતા દબાણ વચ્ચે, મેટા હવે તેના AI ઉત્પાદનોને સુરક્ષિત રાખવા અને તેમને નવીન રાખવા માટે એક મોટો પડકારનો સામનો કરી રહ્યું છે.