AIથી બનાવેલી CSAM સામગ્રીમાં 26,385 ટકાનો ઉછાળો, અસલી અને નકલી તસવીરો વચ્ચે ભેદ કરવો મુશ્કેલ
Childrens Fake Ai Phots Video: AIએ લોકોનું કામ સરળ બનાવ્યું છે, પરંતુ તેની સાથે નવા પ્રકારના જોખમો પણ ઝડપથી વધી રહ્યા છે. અત્યાર સુધી AIને લઈને સૌથી વધુ ચિંતા હેકિંગ, ડેટા ચોરી, ડીપફેક અને ઓનલાઈન છેતરપિંડીને લઈને હતી. પરંતુ હવે નિષ્ણાતો ચેતવણી આપી રહ્યા છે કે AIનો ઉપયોગ બાળકોના યૌન શોષણ સાથે જોડાયેલી નકલી તસવીરો અને વિડિયો (CSAM) બનાવવા માટે પણ ઝડપથી થઈ રહ્યો છે. બ્રિટનની સંસ્થા ઈન્ટરનેટ વોચ ફાઉન્ડેશન (IWF) દ્વારા સોમવારે જાહેર કરવામાં આવેલા અહેવાલમાં જણાવાયું છે કે 2026ના પ્રથમ છ મહિનામાં જ 6,310 AI જનરેટેડ તસવીરો મળી આવી, જે કાયદાકીય રીતે બાળકોના યૌન શોષણવાળી સામગ્રીની શ્રેણીમાં આવે છે. 2024ની સરખામણીએ તેમાં 26,385%નો વધારો થયો છે. 2024માં સમગ્ર વિશ્વમાં આવી માત્ર 13 વિડિયો હતા, જ્યારે 2026ના પ્રથમ છ મહિનામાં આવા વિડિયોની સંખ્યા વધીને 6310 થઈ ગઈ.
અસલી અને નકલી વચ્ચેનો ભેદ કરવો મુશ્કેલ બન્યો
અહેવાલ મુજબ, જે 6,221 તસવીરોમાં ઉંમર અને લિંગની ઓળખ થઈ શકી, તેમાં 98%માં છોકરીઓ દર્શાવવામાં આવી હતી. તેમાં સૌથી વધુ 7થી 13 વર્ષની ઉંમરના બાળકોને નિશાન બનાવવામાં આવ્યા હતા. સંસ્થાનું કહેવું છે કે નવી પેઢીના AI મોડલ એટલી વાસ્તવિક તસવીરો બનાવી રહ્યા છે કે ઘણા કિસ્સાઓમાં તેમને અસલી અને નકલી વચ્ચે અલગ પાડવું અત્યંત મુશ્કેલ બની ગયું છે. અહેવાલ અનુસાર, 2025માં 8,029 AI જનિત તસવીરો અને વિડિયોને બાળકોના યૌન શોષણવાળી સામગ્રી માનવામાં આવી હતી. તેમાં 3,443 વિડિયો હતા. સૌથી ચોંકાવનારી બાબત એ રહી કે AIથી બનાવવામાં આવેલા આવા વિડિયોની સંખ્યામાં 2024ની સરખામણીએ 26,385%નો વધારો થયો. આ ઉપરાંત, આ સામગ્રીનો 65% હિસ્સો સૌથી ગંભીર કેટેગરી Aમાં મૂકવામાં આવ્યો હતો, જેમાં બાળકો સાથેના સૌથી ગંભીર પ્રકારના યૌન શોષણને દર્શાવવામાં આવે છે.
અસલી બાળકોની પણ આપત્તિજનક તસવીરો AIથી બનાવી રહ્યા
અહેવાલમાં એવું પણ કહેવામાં આવ્યું છે કે ગુનેગારો માત્ર સંપૂર્ણપણે નકલી તસવીરો જ બનાવી રહ્યા નથી, પરંતુ અસલી બાળકોની તસવીરોને AIની મદદથી બદલીને નવી આપત્તિજનક તસવીરો પણ તૈયાર કરી રહ્યા છે. વધુ એક ચિંતાજનક આંકડો રિપોર્ટ રિમૂવ સેવામાંથી સામે આવ્યો છે. આ સેવા બાળકોને તેમની આપત્તિજનક તસવીરો ઈન્ટરનેટ પરથી દૂર કરવામાં મદદ કરે છે. 2026માં અત્યાર સુધી 420 બાળકોએ ફરિયાદ કરી છે કે તેમની તસવીરોને AIની મદદથી બદલીને અશ્લીલ બનાવવામાં આવી. આ સંખ્યા સમગ્ર 2025ના 397 કિસ્સાઓ કરતાં પણ વધુ છે.
નિષ્ણાતોએ આપી જરૂરી સલાહ
- નિષ્ણાતોનું કહેવું છે કે AIના સમયમાં બાળકોની ઓનલાઈન સુરક્ષાને અગાઉ કરતાં વધુ ગંભીરતાથી લેવાની જરૂર છે.
- માતા-પિતાએ બાળકોની તસવીરો અને વિડિયો સોશિયલ મીડિયા પર વિચારીને શેર કરવા જોઈએ અને એકાઉન્ટને જાહેર રાખવાને બદલે ખાનગી રાખવું જોઈએ.
- બાળકોને એ પણ સમજાવવું જોઈએ કે તેઓ પોતાની ખાનગી તસવીરો કોઈ અજાણ્યા વ્યક્તિ અથવા શંકાસ્પદ એપ પર અપલોડ ન કરે.
- જો કોઈ તસવીર અથવા વિડિયાના ખોટા ઉપયોગની આશંકા હોય તો તરત સંબંધિત સોશિયલ મીડિયા પ્લેટફોર્મ પર ફરિયાદ કરવી જોઈએ અને જરૂર પડે ત્યારે સાયબર ક્રાઈમ પોર્ટલ અથવા પોલીસનો સંપર્ક કરવો જોઈએ.
