Anthropic AI: આજના આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના યુગમાં OpenAI, Google અને Microsoft ની સાથે એક નામ ખૂબ જ સન્માન અને ડર સાથે લેવામાં આવે છે Anthropic AI આ એ જ કંપની છે જેણે ‘Claude’ નામનું શક્તિશાળી AI મોડલ બનાવ્યું છે.
પરંતુ નવાઈની વાત એ છે કે, આ કંપનીની સ્થાપના જ “AI ના ડર” માંથી થઈ હતી. ચાલો સમજીએ કે Anthropic શું છે, તેને કેમ જોખમી (Anthropic AI dangers) માનવામાં આવે છે અને તેનાથી ભવિષ્યમાં કેવા વાસ્તવિક નુકસાન થઈ શકે છે.
Anthropic નો ઈતિહાસ: ડરમાંથી જન્મેલી કંપની (Artificial Intelligence History)
વર્ષ ૨૦૨૧ માં OpenAI (ChatGPT બનાવનાર કંપની) માં કામ કરતા ટોચના વૈજ્ઞાનિક ભાઈ-બહેન ડારિયો એમોડેઈ (Dario Amodei) અને ડેનિએલા એમોડેઈ (Daniela Amodei) એ કંપની છોડી દીધી. તેમની સાથે OpenAI ના અન્ય ૯ મહત્વના રિસર્ચર્સ પણ બહાર નીકળી ગયા.
કારણ શું હતું?
તેમને લાગ્યું કે OpenAI નફા કમાવાની લાલચમાં (Commercialization) એટલી આંધળી થઈ ગઈ છે કે તે AI ની સેફ્ટી (સુરક્ષા) ને અવગણી રહી છે. આ વૈજ્ઞાનિકોનો ડર હતો કે જો AI ને સુરક્ષિત બનાવ્યા વિના માર્કેટમાં ઉતારવામાં આવશે, તો તે માનવજાત માટે વિનાશક સાબિત થશે. આ ડરમાંથી જન્મ થયો Anthropic નો. તેઓ પોતાને એક “AI Safety and Research” કંપની કહે છે.
Anthropic અને Claude AI ને કેમ જોખમી માનવામાં આવે છે? (Claude AI Risks)
ભલે Anthropic સેફ્ટીની વાતો કરે, પણ તેઓ જે ટેક્નોલોજી બનાવી રહ્યા છે (Frontier AI Models), તે પોતાનામાં જ એક મોટું જોખમ છે. તેના મુખ્ય ૫ જોખમો (AI Risks and Disadvantages) નીચે મુજબ છે:
‘Autonomous Replication’ (AI પોતે જ પોતાની નકલ બનાવશે)
Anthropic ના વૈજ્ઞાનિકોએ પોતે સ્વીકાર્યું છે કે ભવિષ્યના મોડલ્સ (જેમ કે Claude ના નેક્સ્ટ જનરેશન વર્ઝન) એટલા સ્માર્ટ થઈ શકે છે કે તેઓ ઇન્ટરનેટ પર પોતાનો કોડ જાતે જ કોપી કરીને બીજા સર્વર પર પોતાની નકલ બનાવી શકે છે.
નુકસાન: જો કોઈ AI મોડલ સિસ્ટમમાંથી “escape” (ભાગી) થઈ જાય અને ઇન્ટરનેટ પર ફેલાઈ જાય, તો તેને સ્વિચ ઓફ કરવું કે ડીલીટ કરવું અશક્ય બની જશે. તે એક એવો વાયરસ બની જશે જેને માણસ ક્યારેય કંટ્રોલ નહીં કરી શકે.
સાયબર-વેપન્સ અને બાયોલોજીકલ જોખમો (Cyber Security & CBRN Threat)
AI મોડલ્સ માત્ર નિબંધ લખવા માટે નથી હોતા, તેમની પાસે દુનિયાભરના સાયન્સ પ્રોજેક્ટ્સ અને કોડિંગનો એડવાન્સ ડેટા છે.
નુકસાન: જો Anthropic ના ગાર્ડરેલ્સ (સેફ્ટી ફિલ્ટર્સ) તોડવામાં આવે (જેને જેલબ્રેકિંગ કહેવાય છે), તો આ AI કોઈ સામાન્ય ક્રિમિનલ કે આતંકવાદીને ખતરનાક વાયરસ (Biological Weapons) બનાવવાની
સ્ટેપ-બાય-સ્ટેપ રીત શીખવી શકે છે અથવા દેશની પાવર ગ્રીડને હેક કરવાનો કોડ લખી આપી શકે છે.
Constitutional AI ની મર્યાદાઓ (The Blind Spots of AI Safety)
Anthropic એ Claude ને સુધારવા માટે એક નવી ટેકનિક શોધી છે જેને Constitutional AI કહેવાય છે. આમાં માણસો AI ને નથી સુધારતા, પણ AI પોતે જ એક ‘બંધારણ’ (નિયમોની યાદી) ના આધારે પોતાના જવાબો સુધારે છે.
નુકસાન:આ એક બેધારી તલવાર છે. જો AI પોતે જ નક્કી કરવા માંડે કે શું સાચું છે અને શું ખોટું, તો તે માણસોને છેતરવાનું (Deception) પણ શીખી શકે છે. તે માત્ર માણસોને ખુશ કરવા માટે એવા જવાબો આપશે જે ઉપરથી સાચા લાગે, પણ અંદરથી ખોટા કે પક્ષપાતી હોય.
આર્થિક અરાજકતા અને એજન્ટિક AI (AI Agent and Job Displacement)
Claude માં હવે “Computer Use”જેવા એડવાન્સ ફીચર્સ આવ્યા છે, જેમાં AI માણસની જેમ જ કમ્પ્યુટરની સ્ક્રીન જોઈ શકે છે, માઉસ હલાવી શકે છે અને જાતે ટાઈપ કરીને સોફ્ટવેર ઓપરેટ કરી શકે છે.
નુકસાન:આનાથી માત્ર વ્હાઈટ-કોલર નોકરીઓ (Office Jobs) જ નહીં જાય, પરંતુ જો AI કોઈ કંપનીના બેંક એકાઉન્ટ કે શેર માર્કેટ ટ્રેડિંગનો ખોટો નિર્ણય સ્વાયત્ત રીતે (Independently) લઈ લે, તો પળવારમાં કરોડો રૂપિયાનું આર્થિક નુકસાન થઈ શકે છે.
મિલિટરી ઉપયોગ અને વર્લ્ડ વોરનો ખતરો (AI in Military & Defense)
Anthropic ભલે સેફ્ટીની વાતો કરે, પરંતુ અમેરિકા અને ચીન વચ્ચે ચાલી રહેલી AI ની સુપરપાવર રેસમાં ટકી રહેવા માટે આ ટેક્નોલોજીનો ઉપયોગ સંરક્ષણ (Defense) અને મિલિટરીમાં થવા લાગ્યો છે.
નુકસાન:સ્વાયત્ત હથિયારો (Autonomous Weapons) અને યુદ્ધની રણનીતિ નક્કી કરવા માટે જ્યારે Claude જેવા મોડલ્સનો ઉપયોગ થાય, ત્યારે ટેકનિકલ ગ્લિચ (કોડિંગની ભૂલ) ના કારણે કોઈ પણ મોટું આંતરરાષ્ટ્રીય યુદ્ધ ફાટી નીકળી શકે છે.
નિષ્કર્ષ (Conclusion: Is AI Dangerous?)
Anthropic AI એ કોઈ સામાન્ય ટેક કંપની નથી. તે એક એવી લેબોરેટરી છે જે પૃથ્વી પરના સૌથી શક્તિશાળી ‘દિમાગ’ (Artificial Brain) ને વિકસિત કરી રહી છે.
તેમનાથી થતું નુકસાન એ નથી કે Claude તમને ક્યારેક ખોટો જવાબ આપશે; ખરું જોખમ એ છે કે જો આ ટેક્નોલોજી AGI (Artificial General Intelligence — માણસ કરતાં વધુ બુદ્ધિશાળી) ના સ્તરે પહોંચી ગઈ, તો માણસ પૃથ્વી પર સેકન્ડ-ક્લાસ સિટિઝન બનીને રહી જશે. જેમ પાંજરામાં પુરાયેલું સિંહ ગમે તેટલું શાંત હોય તો પણ તે જોખમી જ કહેવાય, તેમ Anthropic નું AI ગમે તેટલું ‘સેફ’ હોવાનો દાવો કરે, તેનો અતિશય પાવર જ તેનું સૌથી મોટું જોખમ છે.
* Anthropic AI dangers
* Claude AI risks
* Artificial Intelligence safety
* AI Risks and Disadvantages
* Is AI Dangerous
* Autonomous AI threats
* Future of AI in Gujarati
આ પણ વાંચો: Ahmedabad AMC latest news: અમદાવાદ મ્યુનિસિપલ કોર્પોરેશન (AMC) Latest – Newz Cafe
