આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI)ના દુરુપયોગ વિશે વડાપ્રધાન નરેન્દ્ર મોદીએ ચિંતા જતાવી.
વડાપ્રધાન નરેન્દ્ર મોદીએ આજે ડીપફેક વીડિયો બનાવવા માટે આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI)ના દુરુપયોગનો ઉલ્લેખ કર્યો હતો અને કહ્યું હતું કે આ ચિંતાનો વિષય છે. તેમણે ChatGPT ટીમને ડીપફેક વીડિયોને ફ્લેગ કરવા અને આવા વીડિયો ઈન્ટરનેટ પર સર્કુલેટ થવા પર ચેતાવણી આપવા માટે કહ્યું છે. તેમણે કહ્યું હતું કે મીડિયાએ લોકોને આ મુદ્દે શિક્ષિત કરવા જોઈએ.
ટેક્નોલોજી અને આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI)ના આ યુગમાં કોઈપણ તસવીર, વીડિયો અને ઓડિયોને સંપૂર્ણપણે અલગ બનાવવા માટે એની સાથે છેડછાડ કરી શકાય છે. હાલમાં જ્યારે આર્ટિફિશિયલ ઈન્ટેલિજન્સનાં આધારિત સાધનોનો ઉપયોગ કરીને અભિનેત્રી રશ્મિકા મંદનાનો ડીપફેક વીડિયો વાઇરલ થયો હતો ત્યારે દરેકને આશ્ચર્ય થયું હતું.
ડીપફેક અશાંતિ પેદા કરી શકે છે
હવે વડાપ્રધાન નરેન્દ્ર મોદીએ જ ડીપફેક અંગે ઊંડી ચિંતા વ્યક્ત કરી છે અને કહ્યું હતું કે ડીપફેક સમાજમાં ભારે અશાંતિ પેદા કરી શકે છે. જનરેટિવ AI દ્વારા બનાવવામાં આવેલા ફોટોગ્રાફ્સ અથવા વીડિયોમાં એક સ્પષ્ટ ડિસ્ક્લેમર હોવું જોઈએ કે એ ડીપફેકનો ઉપયોગ કરીને બનાવવામાં આવ્યા છે. લોકો અને મીડિયાએ ડીપફેક અંગે ખૂબ જ સાવધ રહેવાની જરૂર છે.
તેમણે આગળ કહ્યું હતું, ‘મેં મારો એક વીડિયો જોયો, જેમાં હું ગરબા કરી રહ્યો છું અને એ ખૂબ જ વાસ્તવિક લાગતો હતો, જોકે મેં બાળપણથી ગરબા નથી રમ્યા.’
ગયા મહિને પીએમ મોદીના ગરબા ડાન્સનો વીડિયો સોશિયલ મીડિયા પર વાઇરલ થયો હતો, જેમાં વડાપ્રધાન જેવી દેખાતી વ્યક્તિ કેટલીક મહિલાઓ સાથે ગરબા કરતી જોવા મળે છે. એવું કહેવામાં આવી રહ્યું છે કે આ વીડિયો વડાપ્રધાન નરેન્દ્ર મોદીનો નવરાત્રિ દરમિયાન ગરબા રમતાનો છે. આ દાવા સાથેનો આ વીડિયો ફેસબુક અને ટ્વિટર પર ખૂબ વાઇરલ થઈ રહ્યો છે. ‘આજતક’ને એની તપાસમાં જાણવા મળ્યું છે કે આ વીડિયો વડાપ્રધાન મોદીનો નથી, પરંતુ તેમના જેવા દેખાતા અભિનેતા વિકાસ મહંતેનો છે.
કેન્દ્રએ પીડિતોને પોલીસ ફરિયાદ કરવા અને “ઇન્ફોર્મેશન ટેક્નોલોજી નિયમો હેઠળ આપવામાં આવેલા ઉપાયોનો લાભ લેવા” સલાહ આપી છે. કેન્દ્રીય મંત્રી રાજીવ ચંદ્રશેખરે ગયા અઠવાડિયે કહ્યું હતું કે ખોટી માહિતી ફેલાવાને રોકવા માટે ઑનલાઇન પ્લેટફોર્મ્સ માટે એ “કાનૂની જવાબદારી” છે. મંત્રીએ ઉમેર્યું હતું કે સરકાર નાગરિકોની સલામતી અને વિશ્વાસને “ખૂબ જ ગંભીરતાથી લે છે અને તેથી વધુ અમારાં બાળકો અને સ્ત્રીઓ વિશે, જેઓ આવી સામગ્રી દ્વારા લક્ષ્યાંકિત છે”. કેન્દ્રએ કહ્યું હતું કે ડીપફેક બનાવવા અને એનું પ્રસારણ કરવા માટે 1 લાખ રૂપિયાનો દંડ અને ત્રણ વર્ષની જેલ થશે.
ડીપફેક શું છે અને એ કેવી રીતે બને છે?
ડીપફેક શબ્દનો સૌપ્રથમ ઉપયોગ 2017માં થયો હતો. ત્યાર પછી અમેરિકાના સોશિયલ ન્યૂઝ એગ્રીગેટર રેડિટ પર ડીપફેક આઈડી સાથે ઘણી સેલિબ્રિટીઝના વીડિયો પોસ્ટ કરવામાં આવ્યા હતા. એમાં અભિનેત્રીઓ એમા વોટસન, ગેલ ગેડોટ, સ્કારલેટ જોનસનના ઘણા પોર્ન વીડિયો હતા.
કોઈ બીજાના ચહેરા, અવાજ અને અભિવ્યક્તિને વાસ્તવિક વીડિયો, ફોટો અથવા ઑડિયોમાં ફિટ કરવાને ડીપફેક કહેવાય છે. આ એટલું સ્પષ્ટ રીતે થાય છે કે વ્યક્તિ તેના પર વિશ્વાસ કરી શકે છે. આમાં નકલી પણ અસલી વસ્તુ જેવી લાગે છે. આમાં મશીન લર્નિંગ અને આર્ટિફિશિયલ ઈન્ટેલિજન્સનો ઉપયોગ કરવામાં આવે છે, જેમાં ટેક્નોલોજી અને સોફ્ટવેરની મદદથી વીડિયો અને ઓડિયો બનાવવામાં આવે છે.
AI અને સાયબર નિષ્ણાત પુનિત પાંડે કહે છે કે આ એક તૈયાર ટેક્નોલોજી અને ઉપલબ્ધ પેકેજ છે. હવે કોઈપણ એનો ઉપયોગ કરી શકે છે. વર્તમાન ટેક્નોલોજીમાં અવાજમાં પણ સુધારો થયો છે. આમાં વોઇસ ક્લોનિંગ ખૂબ જ ખતરનાક બની ગયું છે.
