માર્ક ઝુકરબર્ગની કંપની મેટા ફરી એકવાર વિવાદમાં ફસાઈ ગઈ છે. કંપની પર બાળકોની નકલી પ્રોફાઇલ બનાવવાનો આરોપ મૂકવામાં આવ્યો છે. અહેવાલોમાં દાવો કરવામાં આવ્યો છે કે મેટાએ એક ગુપ્ત પ્રોજેક્ટ ચલાવ્યો હતો જેમાં તેણે તેના કોન્ટ્રાક્ટરોને જેમિની અને ચેટજીપીટી જેવા ચેટબોટ્સનું પરીક્ષણ કરવા માટે બાળકોની નકલી પ્રોફાઇલ બનાવવાનો નિર્દેશ આપ્યો હતો. પરીક્ષણ દરમિયાન, આ પ્રોફાઇલ્સનો ઉપયોગ સેક્સ, ડ્રગ્સ અને અન્ય ઉચ્ચ જોખમી વિષયો વિશે વાતચીતમાં એઆઈ ચેટબોટ્સને જોડવા માટે કરવામાં આવ્યો હતો. 

મીડિયા રિપોર્ટ્સ અનુસાર, મેટાના પ્રોજેક્ટનું નામ 'કાન્સ' હતું અને તેનું સંચાલન કોવેલેન નામના કોન્ટ્રાક્ટર દ્વારા કરવામાં આવતું હતું. આ પ્રોજેક્ટ 21 એપ્રિલ સુધી સક્રિય હતો. મેટાએ હરીફ એઆઈ ચેટબોટ્સનું પરીક્ષણ કરવા માટે આ પ્રોજેક્ટ શરૂ કર્યો હતો. મેટા આ પ્રોફાઇલ્સનો ઉપયોગ એ જોવા માટે કરી રહ્યું હતું કે ગૂગલ અને ઓપનએઆઈ જેવી કંપનીઓના એઆઈ ચેટબોટ્સ કિશોરો સાથેના ઉચ્ચ જોખમી વિષયો પર કેવી પ્રતિક્રિયા આપે છે. આ પ્રોજેક્ટ માટે નકલી એકાઉન્ટ્સ બનાવવામાં આવ્યા હતા, જે 18 વર્ષથી ઓછી ઉંમરના યુઝર્સના હોવાનું જણાય છે. ત્યારબાદ આ એકાઉન્ટ્સનો ઉપયોગ ટેક્સ્ટ અને ઇમેજ પ્રોમ્પ્ટનો ઉપયોગ કરીને વિવિધ ચેટબોટ્સનું પરીક્ષણ કરવા માટે કરવામાં આવતો હતો.

રિપોર્ટમાં જણાવાયું છે કે પરીક્ષણ દરમિયાન, ઘણા પ્રોમ્પ્ટ્સમાં ડ્રગ્સ, છરીઓ, ફાંસો અને તબીબી સંબંધિત વસ્તુઓની છબીઓનો ઉપયોગ કરવામાં આવ્યો હતો. તેવી જ રીતે, ઘણા પ્રોમ્પ્ટ એવા રીતે લખવામાં આવ્યા હતા જાણે કે તે ગુંડાગીરી, સ્વ-નુકસાનના વિચારો અને ડ્રગ સંબંધિત પ્રશ્નો સાથે સંઘર્ષ કરી રહેલા બાળકો અને કિશોરો દ્વારા લખાયેલા હોય. આમાં ખાવાની વિકૃતિઓ સંબંધિત પ્રશ્નોનો સમાવેશ થતો હતો, જ્યારે કેટલાકમાં સંપૂર્ણપણે કાલ્પનિક પરિસ્થિતિઓની ચર્ચા કરવામાં આવી હતી. પ્રોજેક્ટના પહેલા ભાગમાં, વિવિધ એઆઈ ચેટબોટ્સને આવા 45,000થી વધુ પ્રોમ્પ્ટ આપવામાં આવ્યા હતા.

પોતાના પ્રોજેક્ટનો બચાવ કરતા મેટાએ જણાવ્યું હતું કે, આ સામાન્ય રીતે સલામતી અને વય-યોગ્ય વર્તન સુનિશ્ચિત કરવા માટે કરવામાં આવે છે. કંપનીએ જણાવ્યું હતું કે સ્પર્ધાત્મક કંપનીઓના ચેટબોટ્સનું બેન્ચમાર્કિંગ સલામતી કામગીરીનું વિશ્લેષણ કરવામાં મદદ કરે છે. મેટાએ પ્રોજેક્ટ દરમિયાન એકત્રિત કરેલા પ્રતિભાવોનો ઉપયોગ તેના મોડેલને તાલીમ આપવા માટે કરવાનો પણ ઇનકાર કર્યો હતો. જો કે, મેટા વિશે હજુ પણ પ્રશ્નો ઉભા થઈ રહ્યા છે. જ્યારે બેન્ચમાર્કિંગ એક સામાન્ય પ્રથા છે, ત્યારે બાળકોના નકલી એકાઉન્ટ્સનો ઉપયોગ કરીને આવા પરીક્ષણ નિયમો અને પારદર્શિતા અંગે ઘણા પ્રશ્નો ઉભા કરે છે.