Fake AI Video Identification: આજકાલ સોશિયલ મીડિયા પર કેટલાક ડરામણા નકલી AI વીડિયો વાયરલ થઈ રહ્યા છે. એક વીડિયો જે ખૂબ જ ટ્રેન્ડ થઈ રહ્યો છે તે છે એક મહિલાને સિંહ દ્વારા ઉપાડી જતી દર્શાવવામાં આવી છે. સોશિયલ મીડિયા યુઝર્સ કદાચ આ વીડિયોથી પરિચિત હશે. વીડિયોમાં એક વૃદ્ધ મહિલા પોતાની સામે ઉભેલી સિંહનો વીડિયો રેકોર્ડ કરતી જોવા મળે છે, જે તેને કૂતરો સમજીને લઈ જાય છે. અચાનક, સિંહ તેના પર હુમલો કરે છે અને તેને ખેંચીને લઈ જાય છે.
આવા જ વિડીઓ ભૂતને લઈને પણ બનાવવામાં આવે છે.આ વીડિયોનો ઉપયોગ આમ તો એન્ટરટેનમેન્ટ માટે કે લોકોને ડરાવવા, ગેરમાર્ગે દોરવા અથવા મજાક ઉડાવવા માટે કરવામાં આવે છે. પરંતુ પ્રશ્ન એ છે કે તે કેવી રીતે બનાવવામાં આવે છે? તેમને કેવી રીતે ઓળખી શકાય? અને જો કોઈ આવો વીડિયો બનાવે છે અથવા શેર કરે છે તો શું કાનૂની કાર્યવાહી કરી શકાય છે?
નકલી AI વીડિયો શું છે?
નકલી AI વીડિયો, જેને ડીપફેક તરીકે પણ ઓળખવામાં આવે છે, તે કમ્પ્યુટર પ્રોગ્રામનો ઉપયોગ કરીને બનાવવામાં આવેલા વીડિયો છે. આ વીડિયોમાં, વ્યક્તિનો ચહેરો, અવાજ અથવા ક્રિયાઓ વાસ્તવિક દેખાય તે માટે બદલવામાં આવે છે. ઉદાહરણ તરીકે, “સિંહ એક મહિલાને લઈ જાય છે” જેવા વીડિયો વાસ્તવિક ફૂટેજને સંપાદિત કરવા માટે AIનો ઉપયોગ કરે છે જેથી તે સિંહના હુમલા તરીકે દેખાય. આ વાયરલ થાય છે કારણ કે લોકો તેને ચકાસણી વિના શેર કરે છે.
ઉદાહરણ: 2016 માં, એક જૂનો સ્ટેજ્ડ વીડિયો વાયરલ થયો હતો, જેમાં સિંહ શિકારી દંપતી પર હુમલો કરતો દર્શાવવામાં આવ્યો હતો. આ વાસ્તવિક નહોતું; તે ઓસ્ટ્રેલિયન પ્રોડક્શન કંપની દ્વારા વાયરલ સામગ્રી સાથે પ્રયોગ કરવા માટે બનાવવામાં આવ્યો હતો. તેવી જ રીતે, તાજેતરમાં ભારતમાં એક વીડિયો વાયરલ થયો હતો જેમાં સુપરમાર્કેટમાં સિંહ માંસ ખાતો દર્શાવવામાં આવ્યો હતો, પરંતુ તે AI દ્વારા જનરેટ કરવામાં આવ્યો હતો. આ વીડિયો ભય ફેલાવે છે અને ક્યારેક નકલી સમાચારનું સ્વરૂપ લે છે.
આ વીડિયો કઈ એપ્સથી બનાવવામાં આવે છે?
ડીપફેક વીડિયો બનાવવા માટે ઘણી સરળ એપ્સ અને ટૂલ્સ ઉપલબ્ધ છે. મેમ ઘણા પેઇડ છે, જ્યારે અન્ય મફત અથવા સસ્તા છે અને મોબાઇલ અથવા કમ્પ્યુટર પર ચાલે છે. કેટલીક લોકપ્રિય એપ્સમાં શામેલ છે:
રીફેસ અથવા ફેસએપ: આનો ઉપયોગ ફેસ સ્વેપિંગ માટે થાય છે. તમે વિડિઓમાં તમારા પોતાના અથવા બીજા કોઈના ચહેરાને બદલી શકો છો. ઉદાહરણ તરીકે, સિંહના દ્રશ્યમાં સ્ત્રીનો ચહેરો ઉમેરવો સરળ છે.
ડીપફેસલેબ અથવા ફેસસ્વેપ: આ મફત સોફ્ટવેર છે જે કમ્પ્યુટર પર ચાલે છે. તેઓ અદ્યતન ડીપફેક બનાવે છે, જેમ કે વૉઇસ મેનિપ્યુલેશન.
લેન્સા અથવા વોમ્બો: આ છબીઓ અને ટૂંકા વિડિઓઝ માટે છે, AI નો ઉપયોગ કરીને એનિમેશન બનાવે છે. આ એપ્લિકેશનો જનરેટિવ એડવર્સેરિયલ નેટવર્ક્સ (GANs) અથવા ડિફ્યુઝન મોડેલ્સનો ઉપયોગ કરે છે, જે વાસ્તવિક અને નકલી સામગ્રીને જોડીને વધુ સારી નકલી બનાવે છે. પરંતુ યાદ રાખો, તેમનો દુરુપયોગ ગેરકાયદેસર હોઈ શકે છે.
નકલી AI વિડિઓઝ કેવી રીતે ઓળખવા?
હવે AI વિડિઓઝ એટલી બારીકી અને સ્માર્ટ રીતે બનાવવામાં આવે છે કે તેમને તરત જ ઓળખવા મુશ્કેલ છે. પરંતુ સારા સમાચાર એ છે કે દરેક નકલી વિડિઓથોડું દિમાગ લગાવીને ઓળખી શકાય છે.
ત્યારે તેને ઓળખવા સૌ પહલેયા વિચાર કરો કે શું આવી વસ્તુ ખરેખર થઈ શકે છે ? ઉદાહરણ તરીકે, જે વિડિઓમાં મહિલાને સિંહ ઉપાડી ગયો હતો, ત્યાં ફોનની ટેક્નિકલ સુવિધાઓ વૃદ્ધ મહિલા માટે નવી હોઈ શકે છે, પરંતુ સિંહ નવો ન હોઈ શકે. તેથી, વિડિઓના આધારે તરત જ કંઈપણ પર વિશ્વાસ કરવો યોગ્ય નથી.
ચહેરો અને શરીર તપાસો: નકલી વિડિઓમાં, ચહેરો વાસ્તવિક શરીર સાથે મેળ ખાતો નથી. આંખો ઝબકતી ન હોય, અથવા હોઠનો રંગ ઓછો હોઈ શકે છે. ઉદાહરણ તરીકે, જો સિંહ હુમલો કરી રહ્યો હોય, તો સ્ત્રીના શરીરની ગતિવિધિઓ પડકાર રૂપ હશે , તે આસાનીથી સિંહના તાબે નહીં થાય.
લાઇટિંગ અને પડછાયા તપાસો: જો ચહેરા પરની લાઇટિંગ પૃષ્ઠભૂમિ સાથે મેળ ખાતી નથી, અથવા પડછાયા ખોટી દિશામાં છે, તો તે નકલી છે. ત્વચાના સ્વર પણ અસ્પષ્ટ દેખાઈ શકે છે.
ઓડિયો સાંભળો: અવાજમાં કુદરતી શ્વાસ અથવા લાગણીનો અભાવ હોઈ શકે છે. કૃત્રિમ અવાજ પણ સંભળાઈ શકે છે.
ઉપયોગ કરવા માટેના સાધનો:
ડીપવેર સ્કેનર: વિડિઓ અપલોડ કરો, અને તે તમને જણાવશે કે તે કૃત્રિમ છે કે નહીં.
MIT ડિટેક્ટ ફેક્સ: વેબસાઇટ પર પ્રેક્ટિસ કરો, નાની વિગતો શીખો.
ડીપફેક ડિટેક્ટર: ઓડિયો અને વિડિયો તપાસે છે.
સોર્સ ચકાસો: વિડિયો ક્યાંથી આવ્યો? રિવર્સ ઇમેજ સર્ચ (ગુગલ પર) કરો. જો તે જૂનો અથવા સ્ટેજ્ડ લાગે, તો તેને શેર કરશો નહીં.
આ પદ્ધતિઓનો ઉપયોગ કરીને, તમે 80% નકલી વિડિઓઝ પકડી શકો છો. પ્રેક્ટિસથી ક્લેરિટી આવશે.
કાનૂની કાર્યવાહી: શું થાય છે?
ભારતમાં ડીપફેક્સ સામે અલગ કાયદો નથી, પરંતુ હાલના કાયદાઓ કડક કાર્યવાહી કરે છે. કોઈને બદનામ કરે, છેતરે અથવા નુકસાન પહોંચાડે તેવો નકલી વિડિઓ બનાવવો અથવા શેર કરવો એ ગુનો છે.
ભારતીય દંડ સંહિતા (IPC):
કલમ 499-500: બદનક્ષી માટે 2 વર્ષની કેદ અથવા દંડ. જો કોઈપણ વિડિયોઝ કોઈની ઈજ્જત પર કલંક લગાડે તેવા હોય કે પ્રતિષ્ઠાને કલંકિત કરે છે, તો કેસ દાખલ કરી શકાય છે.
કલમ 465, 469: બનાવટી માટે સજા.
માહિતી ટેકનોલોજી અધિનિયમ (IT એક્ટ), 2000:
કલમ 66D: કમ્પ્યુટર છેતરપિંડી માટે 3 વર્ષ સુધીની જેલ અને દંડ થઈ શકે છે. જો ડીપફેકનો ઉપયોગ નાણાકીય છેતરપિંડી અથવા નકલી સમાચાર માટે કરવામાં આવે તો આ લાગુ પડે છે.
IT નિયમો 2021: સોશિયલ મીડિયા પ્લેટફોર્મ્સે નકલી સામગ્રીની જાણ કરવી જરૂરી છે. સરકારે 2023 માં ડીપફેક પર કાર્યવાહી કરવા માટે એક સલાહકાર જારી કર્યો હતો.
કેટલાક વાસ્તવિક જીવનના કેસો:
રશ્મિકા મંદન્નાનો ડીપફેક વીડિયો: દિલ્હી પોલીસે FIR દાખલ કરી.
અનિલ કપૂરનો કેસ: કોર્ટે તેમની છબી અને અવાજના દુરુપયોગને રોકવાનો આદેશ આપ્યો.
ઐશ્વર્યા રાય બચ્ચન: ડીપફેક માટે YouTube સામે 4 કરોડ રૂપિયાનો દાવો.
જો તમે પીડિત છો, તો સાયબર સેલમાં ફરિયાદ દાખલ કરો. સરકાર નવા AI નિયમો રજૂ કરી રહી છે, જેમાં લેબલિંગ અને ટ્રેસેબિલિટીની જરૂર પડશે.
નિષ્કર્ષ: સાવચેત રહો, શેર કરતા પહેલા વિચારો.
“સિંહે મહિલાને છીનવી લીધી” જેવા નકલી AI વીડિયો રમુજી લાગી શકે છે, પરંતુ તે સમાજને વિભાજીત કરે છે અને નુકસાન પહોંચાડે છે. રિફેસ જેવી એપ્સનો ઉપયોગ કરીને તેમને બનાવવા સરળ છે, પરંતુ જો તમે ચહેરો, લાઇટિંગ અને ટૂલ્સ તપાસો તો તેમને ઓળખવામાં પણ સરળતા રહે છે. કાયદેસર રીતે, તેમને ભારતીય દંડ સંહિતા અને માહિતી ટેકનોલોજી અધિનિયમ હેઠળ સજા થઈ શકે છે, જેમ કે ઘણા સેલિબ્રિટી કેસોમાં બન્યું છે.વિડીયો જુઓ, પણ તેના પર વિશ્વાસ ન કરો. તેને ચકાસો, તેને શેર કરશો નહીં. જો તમને લાગે કે તે નકલી છે, તો તેની જાણ કરો. આ આપણને ડિજિટલ વિશ્વને વધુ સુરક્ષિત બનાવવામાં મદદ કરી શકે છે. વધુ માહિતી માટે, MIT Detect Fakes જેવી સાઇટ્સની મુલાકાત લો.
