Deepfake: Taylor Swiftના ડીપફેક ફોટો વાયરલ થયા બાદ વ્હાઇટ હાઉસે ચિંતા વ્યક્ત કરી
આર્ટિફિશિયલ ઇન્ટેલિજન્સ દ્વારા જનરેટ કરાયેલ ડીપફેક મીડિયા મોટો પડકાર બની રહ્યો છે. આ એક જ મહિનામાં સિંગરની ટેલર સ્વિફ્ટની અશ્લીલ તસવીરો, યુએસ પ્રમુખ જો બિડેનના અવાજ વાળા રોબોકોલ્સ, અને મૃત બાળકો અને કિશોરોના તેમના પોતાના મૃત્યુની વિગતો આપતા વિડિયોઝ વાયરલ થયા હતા, પરંતુ તેમાંથી એક પણ વાસ્તવિક ન હતા.
વેબની દુનિયામાં ભ્રામક ઑડિઓ અને વિઝ્યુઅલ નવા નથી, પરંતુ આર્ટિફિશિયલ ઇન્ટેલિજન્સ ટેક્નોલોજીના વિકાસને કારણે હવે આવા ડીપફેક મીડિયા બનાવવા સરળ બન્યું છે અને તેને ટ્રેસ કરવાનું પણ અઘરું છે. 2024 માં માત્ર અઠવાડિયામાં અત્યંત ચર્ચિત ઘટનાઓને કારણે લો મેકર્સ અને સામાન્ય નાગરીકોમાં ટેક્નોલોજી દુરુપયોગ વિશે ચિંતા વધી છે.
વ્હાઇટ હાઉસના પ્રેસ સેક્રેટરી કેરીન જીન-પિયરે શુક્રવારે જણાવ્યું હતું કે, “ડીપફેક તસવીરો અંગેના અહેવાલોથી અમે ચિંતિત છીએ. આ પડકારનો સામનો કરવા માટે અમે જે કરી શકીએ તે કરીશું.”
બુધવારના રોજ મશહુર ગાયક ટેલર સ્વિફ્ટની AI-જનરેટેડ ડીપફેક કરેલી તસવીરોએ X પર લાખો વ્યુઝ મળ્યા હતા. જોકે X જેવી સાઇટ્સ પાસે સિન્થેટીક, મેનિપ્યુલેટેડ કન્ટેન્ટ શેર કરવા સામે નિયમો છે, પરંતુ સ્વિફ્ટના ફોટો દૂર કરવામાં કલાકો લાગ્યા હતા. આ ફોટો સાઈટ પર 17 કલાક સુધી રહ્યા અને તેને 45 મિલિયનથી વધુ વ્યૂઝ મળ્યા.
AI નિષ્ણાત અને સંશોધકોના જણાવ્યા મુજબ આવી ઘટનાઓ રોકવાની જવાબદારી કંપનીઓ અને નિયમનકારોની છે. સર્ચ એન્જીન, ટૂલ પ્રોવાઈડર અથવા સોશિયલ મીડિયા પ્લેટફોર્મ્સ, સાથે મળીને કેવી રીતે વધુ સારી રીતે કાર્ય કરી શકે છે તે શોધવાની જરૂર છે.
સ્વિફ્ટના ફોટોઝને કારણે તેના ચાહકો રોષે ભરાયા હતા, જેના કારણે સોશિયલ મીડિયા પ્લેટફોર્મ પર “પ્રોટેક્ટ ટેલર સ્વિફ્ટ” ટ્રેન્ડ શરુ થયો હતો. અગાઉ પણ ટેલર સ્વીફ્ટના ફોટોને AIથી મેનિપ્યુલેટ કરવામાં આવ્યો હતો.
