આર્ટિફિશિયલ ઈન્ટેલિજન્સ (એઆઈ) ક્ષેત્રની અગ્રણી કંપની એન્થ્રોપિકના સીઈઓ ડારિયો એમોડેઈએ ટેકનોલોજીના ઝડપી વિકાસ સામે ચેતવણી આપ્યા બાદ, કંપનીએ તેના આઈપીઓ  ફાઇલિંગમાં એક મોટો ખુલાસો કર્યો છે. રોકાણકારોને આપવામાં આવેલા આઈપીઓ પ્રોસ્પેક્ટસમાં કંપનીએ સ્વીકાર્યું છે કે અદ્યતન એઆઈ મોડેલો માનવજાત માટે અત્યંત ભયાનક, વિનાશક અથવા અસ્તિત્વને લગતા જોખમો ઊભા કરી શકે છે. જાહેર કંપનીઓ સામાન્ય રીતે વ્યવસાયિક જોખમો દર્શાવતી હોય છે, પરંતુ ટેકનોલોજી મનુષ્યો માટે જીવલેણ બની શકે છે તેવી ચેતવણી પહેલીવાર સામે આવી છે.

રોઇટર્સના અહેવાલ અનુસાર, એન્થ્રોપિકે તેની ફાઇલિંગમાં જણાવ્યું છે કે અદ્યતન એઆઈ મોડેલ્સમાં સ્વ-બચાવ જેવું જોખમી વર્તન જોવા મળી શકે છે. આ ટેકનોલોજી સિસ્ટમ શટડાઉન કરવાનો પ્રતિકાર કરી શકે છે, પોતાની વાસ્તવિક માહિતી અથવા વર્તણૂક છુપાવી શકે છે, મનુષ્યો સાથે હેરફેર કરી શકે છે અને બ્લેકમેલ કરવા સુધીના પગલાં ભરી શકે છે. કંપનીનું કહેવું છે કે જેમ જેમ એઆઈ એપ્લિકેશન્સનો ઉપયોગ વધશે, તેમ આ મોડેલ્સ દ્વારા નુકસાન પહોંચાડવાનું જોખમ વધુ ઘેરૂ બનશે.

સૌથી વધુ ચિંતાજનક બાબત એ છે કે એઆઈ મોડેલો તાલીમ દરમિયાન અણધારી ક્ષમતાઓ વિકસાવે છે, જે તેને તૈનાત ન કરવામાં આવે ત્યાં સુધી ધ્યાન બહાર રહી શકે છે. કંપનીએ સ્વીકાર્યું છે કે મોડેલ્સમાં આવતી આ સંભવિત 'સ્વ-જાગૃતિ'ના કારણે તેના સલામતી પરીક્ષણો અને મૂલ્યાંકન કરવાની ક્ષમતા પર ભારે મર્યાદાઓ આવી જાય છે. મોડેલો જાણી જાય છે કે તેમના પર નજર રાખવામાં આવી રહી છે, જેથી તેઓ તપાસકર્તાઓને છેતરવા પોતાના વર્તનમાં અચાનક બદલાવ પણ કરી લે છે.

એન્થ્રોપિકે પોતાને 'સેફ્ટી-ફર્સ્ટ' લેબ તરીકે રજૂ કરી છે. તેણે તેના ૨૬૧ પાનાંના મુખ્ય પ્રોસ્પેક્ટસમાંથી આશરે ૮૦ પાનાં માત્ર જોખમી પરિબળો દર્શાવવા માટે ફાળવ્યા છે, જ્યારે વ્યવસાયના વર્ણન માટે માત્ર ૪૮ પાનાં આપ્યા છે. તેની સરખામણીમાં ઈલોન મસ્કની 'સ્પેસએક્સ' કંપનીએ તેના પ્રોસ્પેક્ટસમાં જોખમો માટે ફક્ત ૩૮ પાનાં જ રાખ્યા હતા. આ સરખામણી દર્શાવે છે કે એન્થ્રોપિક એઆઈના જોખમોને કેટલા ગંભીરતાથી જોઈ રહી છે.

જોકે, સુરક્ષાને મહત્વ આપવા છતાં એન્થ્રોપિકે સ્વીકાર્યું છે કે આ સલામતી સંશોધનોમાંથી કેટલું આર્થિક વળતર મળશે તે અનિશ્ચિત છે. કંપની સુરક્ષા સંશોધન પાછળ કેટલો ખર્ચ કરે છે તેનો ચોક્કસ આંકડો આપ્યો નથી, પરંતુ તાજેતરમાં જણાવ્યું હતું કે જુલાઈના એક સપ્તાહમાં તેણે તેની કુલ કમ્પ્યુટિંગ ક્ષમતાના માત્ર છ ટકા સુરક્ષા કાર્યો માટે ફાળવ્યા હતા. બીજી તરફ, સંશોધક જેકબ કોક્સન અને ઉદ્યોગના નિષ્ણાતોએ પણ એઆઈ ડેવલપર્સને ફ્રન્ટિયર એઆઈના વિકાસની ગતિ ધીમી કરવા વિનંતી કરી છે.

દરમિયાન, એન્થ્રોપિકની હરીફ કંપની ઓપનએઆઈ દ્વારા પણ એક સનસનીખેજ ઘટના સામે આવી છે. ઓપનએઆઈના એઆઈ એજન્ટો તાલીમ દરમિયાન સરકારી વેબસાઇટ્સ પર પહોંચી ગયા હતા. તેઓ યુએસ કોમર્સ ડિપાર્ટમેન્ટ અને સિક્યોરિટીઝ એન્ડ એક્સચેન્જ કમિશન જેવી મહત્વપૂર્ણ સંસ્થાઓની વેબસાઇટ્સ ઍક્સેસ કરી રહ્યા હતા. ઓપનએઆઈએ સ્પષ્ટતા કરી છે કે મોડેલો જાહેર માહિતી મેળવવા માટે આ વેબસાઇટ્સનો ઉપયોગ અધિકૃત સ્ત્રોત તરીકે કરી રહ્યા હતા, પરંતુ આ ઘટનાઓએ એઆઈની અનિયંત્રિત ક્ષમતાઓ પર ફરીથી મોટા પ્રશ્નાર્થ ચિહ્નો ઊભા કર્યા છે.

ટેકનોલોજી આપણા બધાને મારી શકેઃ એન્થ્રોપિક સંશોધક

ઓપનએઆઈના વડા સેમ ઓલ્ટમેન, ઈલોન મસ્ક અને માઇક્રોસોફ્ટના સત્ય નાડેલા દ્વારા સમર્થિત, તેમની ચેતવણી એન્થ્રોપિક સંશોધક જેકબ કોક્સન દ્વારા સોશિયલ મીડિયા પોસ્ટમાં એક કડક ચેતવણી જારી કર્યા પછી આવી હતી કે એઆઈ વિકસાવનારાઓ માને છે કે ટેકનોલોજી આપણા બધાને મારી શકે છે. જ્યારે જાહેર કંપનીઓ સામાન્ય રીતે રોકાણકારોને ઉત્પાદન જોખમોનો ઉલ્લેખ કરે છે, ત્યારે તેઓએ ભાગ્યે જ, જો ક્યારેય હોય, તો ચેતવણીઓ જારી કરી છે જે સૂચવે છે કે તેમની ટેકનોલોજી મનુષ્યો માટે સંભવિત ખતરો બની શકે છે. આ એટલા માટે આવ્યું છે કારણ કે ઘણા એઆઈ સંશોધકોએ ચેતવણી પણ આપી છે કે, જેમ જેમ એઆઈ મોડેલો વધુને વધુ સક્ષમ બને છે, તેઓ ઓળખી શકે છે કે જ્યારે તેમના પર નજર રાખવામાં આવે છે અને તે મુજબ તેમના વર્તનને સમાયોજિત કરી શકે છે, જેના કારણે તેમનું નિરીક્ષણ કરવું મુશ્કેલ બને છે.

એઆઈ એજન્ટો બદમાશ બન્યાઃ ઓપનએઆઈ

અલગથી એન્થ્રોપિકના હરીફ ઓપનએઆઈએ ગયા અઠવાડિયે જણાવ્યું હતું કે તેના એઆઈ એજન્ટો બદમાશ બન્યા હતા અને યુએસ કોમર્સ ડિપાર્ટમેન્ટ અને સિક્યોરિટીઝ એન્ડ એક્સચેન્જ કમિશન (એસઈસી) સહિત કેટલીક યુએસ સરકારી વેબસાઇટ્સ ઍક્સેસ કરી હતી. ધ વોલ સ્ટ્રીટ જર્નલ અનુસાર, તાલીમ દરમિયાન, એઆઈ એજન્ટોએ સરકારી વેબસાઇટ્સની મુલાકાત લીધી હતી, જ્યારે તેઓ એવા પ્રશ્નોના જવાબ આપતા હતા જેમાં તેમને ઘણીવાર સત્તાવાર સરકારી સ્ત્રોતો પાસેથી માહિતી મેળવવાની જરૂર પડતી હતી. એક નિવેદનમાં, ઓપનએઆઈએ જણાવ્યું હતું કે, કેટલીક સરકારી વેબસાઇટ્સ સામેલ હતી કારણ કે અમારા મોડેલો ઘણીવાર તેમને જાહેર માહિતીના અધિકૃત સ્ત્રોત તરીકે ફેરવે છે.