OpenAI fake news China ChatGPT ban: OpenAI એ એક ચોંકાવનારો ખુલાસો કર્યો છે કે ChatGPT જેવા AI ટૂલ્સનો ઉપયોગ ચીની સરકાર સાથે જોડાયેલા જૂથો દ્વારા વિશ્વભરમાં ખોટી માહિતી અને છુપાયેલા પ્રભાવ અભિયાનો ફેલાવવા માટે કરવામાં આવી રહ્યો છે. એક અહેવાલમાં, કંપનીએ જણાવ્યું હતું કે તેણે છેલ્લા ત્રણ મહિનામાં આવા ઘણા અભિયાનોને વિક્ષેપિત કર્યા છે અને તેની સાથે સંકળાયેલા ઘણા નકલી એકાઉન્ટ્સ પર પણ પ્રતિબંધ મૂક્યો છે.
OpenAI ની ગુપ્તચર ટીમના મુખ્ય તપાસકર્તા બેન નિમ્મોએ જણાવ્યું હતું કે, “અમે ચીન તરફથી આવતા ગુપ્ત કામગીરીમાં સતત વિવિધતા અને નવી વ્યૂહરચના જોઈ રહ્યા છીએ.” અહેવાલમાં કહેવામાં આવ્યું છે કે ચાર અલગ અલગ ઝુંબેશ ઓળખવામાં આવી છે, જે સંભવતઃ ચીન સમર્થિત હતા અને તેમના ઉદ્દેશ્યો અલગ અલગ હતા, પરંતુ બધાએ કંપનીની નીતિઓ વિરુદ્ધ ChatGPT નો ઉપયોગ કર્યો હતો.
‘સ્નીયર રિવ્યૂ’ ઝુંબેશનો પર્દાફાશ
‘સ્નીયર રિવ્યૂ’ નામની ઝુંબેશ TikTok, X (અગાઉ ટ્વિટર), Reddit અને Facebook જેવા પ્લેટફોર્મ પર નકલી ટિપ્પણીઓ અને ચર્ચાઓ બનાવવા માટે ChatGPT નો ઉપયોગ કરતી હતી. તેમનો ઉદ્દેશ્ય નકલી “ઓર્ગેનિક” ચર્ચાઓ પેદા કરવાનો હતો, જેમ કે તાઇવાન સ્થિત વિડિઓ ગેમની ટીકા કરવી અથવા અમેરિકાની USAID એજન્સી બંધ કરવા પર મિશ્ર મંતવ્યો વ્યક્ત કરવા. આ ઝુંબેશ દ્વારા મુખ્ય પોસ્ટ તેમજ પ્રતિક્રિયાઓ બનાવવામાં આવી હતી, જેથી એવું લાગતું હતું કે વાસ્તવિક લોકો ચર્ચા કરી રહ્યા હતા.
આંતરિક મૂલ્યાંકન પણ ChatGPT દ્વારા કરવામાં આવ્યું હતું
બીજી એક ચોંકાવનારી બાબત જે પ્રકાશમાં આવી તે એ હતી કે આ ઝુંબેશોના આંતરિક અહેવાલો અને પ્રદર્શન સમીક્ષાઓ પણ ChatGPT દ્વારા તૈયાર કરવામાં આવી હતી, એટલે કે, ઝુંબેશ કેવી રીતે ચલાવવામાં આવી હતી તેનું દસ્તાવેજીકરણ AI દ્વારા જ કરવામાં આવ્યું હતું. OpenAI એ જણાવ્યું હતું કે આ ઝુંબેશોમાં, ભૂતપૂર્વ રાષ્ટ્રપતિ ડોનાલ્ડ ટ્રમ્પની વેપાર ટેરિફ નીતિઓ જેવા અમેરિકન રાજકીય વિષયોની ટીકા કરતી ટિપ્પણીઓ પણ AI દ્વારા તૈયાર કરવામાં આવી હતી.
સાયબર પ્રવૃત્તિઓમાં AI ની ભૂમિકા
AI નો ઉપયોગ ફક્ત સોશિયલ મીડિયા પૂરતો મર્યાદિત નહોતો. અહેવાલ મુજબ, ChatGPT નો ઉપયોગ સ્ક્રિપ્ટો બદલવા, સિસ્ટમો ગોઠવવા અને બ્રુટ-ફોર્સિંગ ટૂલ્સ બનાવવા જેવા સાયબર ઝુંબેશોમાં પણ થતો હતો. આ ઉપરાંત, નકલી પત્રકારો અથવા વિશ્લેષકો તરીકે તેમની ઓળખ છુપાવીને વાસ્તવિક વપરાશકર્તાઓ સાથે વાતચીત કરીને માહિતી એકત્રિત કરવાનો પ્રયાસ પણ કરવામાં આવ્યો હતો.
એક કિસ્સામાં, યુએસ સેનેટરની વાતચીત સંબંધિત સંદેશાવ્યવહારમાં AI-જનરેટેડ સામગ્રીનો ઉપયોગ કરવામાં આવ્યો હતો, જોકે OpenAI પુષ્ટિ કરી શક્યું નથી કે સંદેશ ખરેખર મોકલવામાં આવ્યો હતો કે નહીં. OpenAI એ સ્પષ્ટતા કરી છે કે તે આવા અભિયાનો સામે કડક પગલાં લઈ રહ્યું છે અને તેના સાધનોના દુરુપયોગને રોકવા માટે સુરક્ષા પગલાંનું સતત નિરીક્ષણ અને સુધારણા કરી રહ્યું છે.
