આજના ડિજિટલ યુગમાં રીલ્સ બનાવવી, અવાજ ક્લોન કરવો અને વીડિયો એડિટ કરવો સામાન્ય બની ગયું છે. આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) અને આધુનિક સોફ્ટવેરની મદદથી કોઈપણ વ્યક્તિનો ચહેરો કે અવાજ બદલવો માત્ર થોડી સેકન્ડોનું કામ બની ગયું છે. મનોરંજન અને ક્રિએટિવિટી તરીકે શરૂ થયેલી આ ટેકનોલોજી હવે સમાજ અને પ્રતિષ્ઠિત લોકો માટે ગંભીર જોખમ બની રહી છે.
દેશની જાણીતી કોચિંગ ઇન્સ્ટિટ્યૂટ 'દ્રષ્ટિ IAS' (Drishti IAS)ના સ્થાપક ડૉ. વિકાસ દિવ્યકીર્તિ (Dr. Vikas Divyakirti)ના પર્સનાલિટી રાઇટ્સના ઉલ્લંઘન મામલે સુનાવણી કરતી વખતે દિલ્હી હાઈકોર્ટે અત્યંત કડક અવલોકન કર્યું છે કે, આજના AI અને વિડિયો એડિટિંગ ટૂલ્સ કોઈ બંદૂક કે હથિયાર કરતાં પણ વધુ ખતરનાક છે.
દિલ્હી હાઈકોર્ટે સોશિયલ મીડિયા અને ટેક પ્લેટફોર્મ્સના વકીલો સમક્ષ દલીલ કરી હતી કે બંદૂકથી તો વ્યક્તિગત હુમલો થાય છે, પરંતુ આ એડિટિંગ ટૂલ્સ કોઈ પણ નિર્દોષ વ્યક્તિની આખી જિંદગીની સામાજિક ઈજ્જત અને પ્રતિષ્ઠાની હત્યા કરી શકે છે.
સરળ પ્રાપ્યતા સામે કડક નિયમોનો અભાવ: અદાલતે ધ્યાન દોર્યું કે ભારતમાં જો કોઈ વ્યક્તિએ હથિયાર કે બંદૂક રાખવી હોય, તો તેણે પોલીસ વેરિફિકેશન, કડક બેકગ્રાઉન્ડ ચેક અને મુશ્કેલ કાનૂની પ્રક્રિયામાંથી પસાર થવું પડે છે. પરંતુ ઈન્ટરનેટ પર આ AI ટૂલ્સ અને ડીપફેક એપ્સ કોઈપણ ઓળખ આપ્યા વિના, તદ્દન મફતમાં અને કોઈપણ રોકટોક વગર ઉપલબ્ધ છે, જેનો દુરુપયોગ ગુનેગારો બેધડક કરી રહ્યા છે.
ડૉ. વિકાસ દિવ્યકીર્તિ કેસમાં શું બન્યું હતું?
કોર્ટ સમક્ષ રજૂ કરાયેલી વિગતો અનુસાર, સોશિયલ મીડિયા પર વિકાસ દિવ્યકીર્તિના નામથી ડઝનેક નકલી એકાઉન્ટ્સ અને પ્રોફાઇલ્સ ચલાવવામાં આવી રહ્યા હતા. AI ટૂલ્સ અને વોઇસ ક્લોનિંગનો ઉપયોગ કરીને એવા ડીપફેક વિડિયો બનાવવામાં આવ્યા જેમાં તેઓ એવા નિવેદનો આપતા દેખાય છે જે તેમણે ક્યારેય બોલ્યા જ નહોતા. તેમના ચહેરા અને ઓળખનો દુરુપયોગ કરીને નકલી પ્રોડક્ટ્સ અને શંકાસ્પદ બ્રાન્ડ્સના પ્રમોશન માટે ફેક જાહેરાતો ચલાવીને વિદ્યાર્થીઓ અને સામાન્ય લોકોને ગેરમાર્ગે દોરવામાં આવી રહ્યા હતા.
ખોટા નેરેટિવ અને સામાજિક નુકસાનનું જોખમ:
એડિટિંગ ટૂલ્સની મદદથી કોઈપણ અસલી ભાષણ કે લેક્ચરના નાના-નાના ટુકડા કાપીને, તેનો મૂળ સંદર્ભ (Context) બદલીને અને અવાજની ટોન ટ્યુન કરીને વિવાદાસ્પદ મુદ્દાઓ ઊભા કરવામાં આવે છે. સામાન્ય યુઝર્સ માટે સ્ક્રીન પર દેખાતો વીડિયો અસલી છે કે ફેક તે પારખવું લગભગ અશક્ય બની ગયું છે. વ્યુઝ અને લાઇક્સ મેળવવાની લાલચમાં લોકો આવા ફેક વીડિયોની હકીકત જાણ્યા વગર શેર કરવા લાગે છે, જે સામાજિક શાંતિ અને વ્યક્તિગત સુરક્ષા માટે મોટો ખતરો બની રહ્યો છે.
