Grok AI Misuse Controversy: ફરી એકવાર એલોન મસ્ક ધરાવતી કંપની xAI નું ચેટબોટ Grok વિવાદોમાં સપડાયું છે. આ વખતે વિવાદ મહિલાઓ અને સગીરોને ડિજિટલી અશ્લીલ બનાવવાને લઈને છે. હકીકતમાં, છેલ્લા કેટલાક દિવસોથી X પર Grok લોકોના કપડાં ઉતારી રહ્યું છે. યુઝર્સ દ્વારા પોસ્ટમાં મહિલાઓ અને સગીરોની તસવીરો પૂરી પાડવામાં આવ્યા બાદ કોઈ પણ સંમતિ વગર આવું કરવામાં આવી રહ્યું છે. ભારત અને ફ્રાન્સ જેવા અનેક દેશોએ આ મામલે X ને કડક કાર્યવાહી કરવા જણાવ્યું છે. ભારતના ઇલેક્ટ્રોનિક્સ અને આઈટી (IT) મંત્રાલયે X ને ૭૨ કલાકનું અલ્ટીમેટમ પણ આપી દીધું છે.
લોકોના કપડાં ઉતારી રહ્યું છે Grok
એક અહેવાલ મુજબ, X પર એવા અનેક કિસ્સાઓ જોવા મળ્યા છે, જેમાં Grok AI નો ઉપયોગ કરીને લોકોના કપડાં ડિજિટલી ઉતારવામાં આવી રહ્યા છે. આમાં મહિલાઓ અને સગીરોને ખાસ નિશાન બનાવવામાં આવી રહ્યા છે. આ મામલામાં મોટી વાત એ છે કે કોઈના પણ કપડાં હટાવવાનું કામ Grok ખૂબ જ સરળતાથી કરી રહ્યું છે અને આ માટે કોઈ પણ પ્રકારના સુરક્ષા માપદંડો (Security Parameters) કામ કરી રહ્યા નથી. લોકો ફક્ત Grok ને ટેગ કરીને કહી રહ્યા છે કે “આ મહિલાના કપડાં હટાવી દો” અથવા “તેને બિકીનીમાં બતાવો” અને ત્યારબાદ Grok કોઈ પણ ખચકાટ વગર આ કામને અંજામ આપી રહ્યું છે.
ભારત સરકારનું કડક અલ્ટીમેટમ
આ મામલે ભારતના ઇલેક્ટ્રોનિક્સ અને આઈટી મંત્રાલયે X ને સખત અલ્ટીમેટમ આપ્યું છે. X ને એક પત્ર દ્વારા સ્પષ્ટ ચેતવણી આપવામાં આવી છે કે ૭૨ કલાકની અંદર વિગતવાર ‘એક્શન ટેકન રિપોર્ટ’ આપવામાં આવે. જો તેમ કરવામાં નહીં આવે તો કંપની દેશમાં કાનૂની સુરક્ષા ગુમાવશે. આ પત્રમાં સ્પષ્ટપણે કહેવામાં આવ્યું છે કે મહિલાઓની ગરિમા અને પ્રાઈવસીને ઠેસ પહોંચાડતી અશ્લીલ અને સંમતિ વગરની તસવીરો બનાવવામાં Grok અને xAI નો ઉપયોગ કરવામાં આવી રહ્યો છે. સરકારે X ને આ પ્રકારની તમામ સામગ્રી પ્લેટફોર્મ પરથી હટાવવા અને સુરક્ષા ઉપાયો લાગુ કરવા જણાવ્યું છે. સરકારે પત્રમાં સ્પષ્ટ કર્યું છે કે “આ નિર્દેશોનું પાલન ન કરવા બદલ તમારા પ્લેટફોર્મ, જવાબદાર અધિકારીઓ અને કાયદો તોડનારા યુઝર્સ વિરુદ્ધ કોઈ પણ વધારાની નોટિસ વગર સખત કાનૂની કાર્યવાહી કરવામાં આવશે.” નોંધનીય છે કે ભારત સરકારનું આ અત્યાર સુધીનું સૌથી કડક વલણ છે.
પીડિતોની વ્યથા અને xAI નો જવાબ
એક અહેવાલ અનુસાર, સામંથા સ્મિથ નામની એક મહિલાએ Grok પર તેમને “અમાનવીય અને યૌન વસ્તુ” જેવું અનુભવ કરાવવાનો આરોપ પણ લગાવ્યો છે. તેમના જણાવ્યા અનુસાર Grok એ તેમની તસવીરો કોઈ પણ સંમતિ વગર બદલી અને જ્યારે રોયટર્સે xAI પાસે આ અંગે જવાબ માંગ્યો ત્યારે તેમનો અભિપ્રાય માત્ર એટલો જ હતો કે “Legacy Media Lies” એટલે કે જૂની મીડિયા સંસ્થાઓ જૂઠું બોલે છે. આ બાબતે નિષ્ણાતોનું કહેવું છે કે xAI જ્યારે ઈચ્છે ત્યારે આ તમાશો રોકી શકે છે પરંતુ લાગે છે કે કંપની અને તેના માલિક આનો આનંદ લઈ રહ્યા છે.
