‘இது ஒருவரை முழுவதுமாக இழிவுபடுத்துவதாக இருந்தது’: உலகின் மிகவும் பிரபலமான AI ஆபாச தளமான திரு டீப்ஃபேக்ஸின் கதை | தொழில்நுட்பம்

Patrizia Schlosser க்கு, இது ஒரு சக ஊழியரின் மன்னிப்பு அழைப்புடன் தொடங்கியது. “மன்னிக்கவும், ஆனால் நான் இதைக் கண்டுபிடித்தேன். இது உங்களுக்குத் தெரியுமா?” அவர் ஒரு இணைப்பை அனுப்பினார், அது அவளை Mr DeepFakes என்ற தளத்திற்கு அழைத்துச் சென்றது. அங்கு, நிர்வாணமாக, குந்தியபடி, சங்கிலியால் பிணைக்கப்பட்டு, பல்வேறு விலங்குகளுடன் பாலியல் செயல்களில் ஈடுபடும் தன்னைப் போன்ற போலி உருவங்களைக் கண்டுபிடித்தார். அவர்கள் “Patrizia Schlosser sluty FUNK wore” (sic) எனக் குறிக்கப்பட்டனர்.

“அவர்கள் மிகவும் கிராஃபிக், மிகவும் அவமானகரமானவர்கள்,” என்று Norddeutscher Rundfunk (NDR) மற்றும் ஒரு ஜெர்மன் பத்திரிகையாளர் ஸ்க்லோசர் கூறுகிறார். ஃபங்க். “அவை மிகவும் மோசமாகச் செய்யப்பட்டன, இது என்னைத் தூர விலக்கிக்கொள்வதை எளிதாக்கியது, மேலும் அவை வெளிப்படையாகப் போலியானவை என்று என்னை நானே சொல்லிக் கொள்ள முடிந்தது. ஆனால் யாரோ ஒருவர் எங்காவது இணையத்தில் மணிநேரம் செலவழித்து எனது படங்களைத் தேடி, இதையெல்லாம் ஒன்றாக இணைத்துக்கொள்வதை கற்பனை செய்வது மிகவும் கவலையாக இருந்தது.”

ஸ்க்லோசருக்கு இந்த தளம் புதியதாக இருந்தது, ஆபாசத் துறையில் அவரது முந்தைய உயர்மட்ட விசாரணைகள் இருந்தபோதிலும். “மிஸ்டர் டீப்ஃபேக்ஸ் பற்றி நான் கேள்விப்பட்டதே இல்லை – முற்றிலும் போலியான ஆபாச வீடியோக்கள் மற்றும் புகைப்படங்களுக்காக அர்ப்பணிக்கப்பட்ட ஒரு ஆபாச தளம். அது எவ்வளவு பெரியது என்று எனக்கு ஆச்சரியமாக இருந்தது – உங்களுக்குத் தெரிந்த ஒவ்வொரு பிரபலத்தின் பல வீடியோக்கள்.” அவர்களில் தன்னைப் பார்த்த ஸ்க்லோசரின் முதல் எதிர்வினை அதை ஒதுக்கித் தள்ளுவதாகும். “நான் அதை என் மனதின் பின்புறத்திற்கு தள்ள முயற்சித்தேன், இது உண்மையில் அதைக் கையாளாத ஒரு உத்தி” என்று அவர் கூறுகிறார். “ஆனால் மூளை செயல்படும் விதம் விசித்திரமாக இருக்கிறது. இது போலியானது என்று உங்களுக்குத் தெரியும், ஆனால் நீங்கள் அதைப் பார்க்கிறீர்கள். அது நீங்கள் அல்ல, அதுவும் நீங்கள் தான். அங்கே நீங்கள் ஒரு நாயும் சங்கிலியுடனும் இருக்கிறீர்கள். நீங்கள் மீறப்பட்டதாக உணர்கிறீர்கள், ஆனால் குழப்பமடைகிறீர்கள். சில சமயங்களில், நான் முடிவு செய்தேன்: ‘இல்லை, நான் கோபமாக இருக்கிறேன், அந்த படங்கள் வெளியே எனக்கு வேண்டாம்’.”

NDR இன் STRG_F திட்டத்திற்கான Schlosser இன் ஆவணப்படம் படங்களை அகற்றுவதில் வெற்றி பெற்றது. அவற்றை உருவாக்கி இடுகையிட்ட இளைஞனையும் அவள் கண்காணித்தாள் – அவனது வீட்டிற்குச் சென்று அவனது தாயிடம் பேசுவதும் கூட. (குற்றவாளி தனது படுக்கையறையை விட்டு வெளியே வரமாட்டார்.) இருப்பினும், ஸ்க்லோசரால் “மிஸ்டர் டீப்ஃபேக்ஸ்” – அல்லது ஆன்லைன் புலனாய்வுப் பத்திரிகைக் குழுவான பெல்லிங்கேட்டின் உதவியைப் பெற்றிருந்தாலும், தளத்தின் பின்னால் இருந்தவர்களை அடையாளம் காண முடியவில்லை. பெல்லிங்கேட்டின் ராஸ் ஹிக்கின்ஸ் அணியில் இருந்தார். “எனது பின்னணி பணமோசடியை விசாரிக்கிறது,” என்று அவர் கூறுகிறார். “நான் வலைத்தளத்தின் கட்டமைப்பைப் பார்த்தேன், அது அதே இணைய சேவை வழங்குநர்களை (ISPs) சரியான தீவிர ஒழுங்கமைக்கப்பட்ட குற்றவாளிகளாகப் பயன்படுத்துகிறது.” ISPகள் ரஷ்ய கூலிப்படை குழுவான வாக்னர் மற்றும் அதில் பெயரிடப்பட்ட நபர்களுக்கு இணைப்புகளை பரிந்துரைத்தனர் பனாமா ஆவணங்கள். அது கொண்டுவந்த விளம்பரங்களில் சீன தொழில்நுட்ப நிறுவனங்களுக்குச் சொந்தமான பயன்பாடுகளுக்கான விளம்பரங்களும் அடங்கும், இது அனைத்து வாடிக்கையாளர் தரவையும் சீனாவின் அரசாங்க அணுகலை அனுமதித்தது. “பொழுதுபோக்கின் தளமாக இது மிகவும் நுட்பமானது என்று நான் அனுமானித்தேன்,” என்கிறார் ஹிக்கின்ஸ்.

அது சரியாக இருந்தது என்று மாறியது.

மிஸ்டர் டீப்ஃபேக்ஸின் கதை, உலகின் மிகப் பெரிய, மிகவும் பிரபலமற்ற டீப்ஃபேக் ஆபாச தளம், உண்மையில் AI ஆபாசத்தின் கதையே – “டீப்ஃபேக்” என்ற சொல் அதன் தோற்றுவிப்பாளரிடமிருந்து வந்ததாக நம்பப்படுகிறது. AI-உருவாக்கிய ஆபாசத்திற்கான “கிரவுண்ட் ஜீரோ”, அதன் பக்கங்கள் – 2 பில்லியனுக்கும் அதிகமான முறை பார்க்கப்பட்டுள்ளன – எண்ணற்ற பெண் பிரபலங்கள், அரசியல்வாதிகள், ஐரோப்பிய இளவரசிகள், அமெரிக்க ஜனாதிபதிகளின் மனைவிகள் மற்றும் மகள்கள் கடத்தப்பட்டு, சித்திரவதை செய்யப்பட்டு, மொட்டையடிக்கப்பட்டு, சிதைக்கப்பட்ட, கற்பழிப்பு மற்றும் கழுத்தை நெரிக்கப்பட்டவை. இன்னும் இந்த அனைத்து உள்ளடக்கமும் (பார்க்க 200 நாட்களுக்கு மேல் ஆகும்) தளத்தின் “கடை சாளரம்” மட்டுமே. அதன் உண்மையான இதயம், அது “இயந்திர அறை”, அதன் மன்றமாக இருந்தது. இங்கு, தங்களுக்குத் தெரிந்த ஒருவரால் (தோழி, சகோதரி, வகுப்புத் தோழன் அல்லது சக பணியாளர்) உருவாக்கப்பட்ட டீப்ஃபேக்குகளை விரும்பும் எவரும், சரியான விலைக்கு ஆர்டர் செய்யத் தயாராக இருக்கும் ஒருவரைக் காணலாம். இது ஒரு “பயிற்சி மைதானம்”, “பொழுதுபோக்கு ஆர்வலர்கள்” ஒருவருக்கொருவர் கற்பித்தல், உதவிக்குறிப்புகளைப் பகிர்ந்துகொள்வது, கல்வித் தாள்களை இடுகையிடுவது மற்றும் “சிக்கல் தீர்க்கப்பட்ட” தொழில்நுட்ப மையமாகும். (ஒரு நல்ல “டேட்டாசெட்” இல்லாமல் எப்படி டீப்ஃபேக் செய்வது என்பது மீண்டும் மீண்டும் வரும் பிரச்சனையாகும். இதன் அர்த்தம், உங்களிடம் அதிக படங்கள் இல்லாத ஒருவரை ஆழமாக உருவாக்க முயலும்போது – அதனால் ஒரு பிரபலம் அல்ல, ஆனால் யாருடைய சமூக ஊடகத்தை நீங்கள் திரையிட்டீர்கள் என்பது உங்களுக்குத் தெரிந்திருக்கலாம்.)

திரைப்படத் தயாரிப்பாளரும் ஆர்வலருமான சோஃபி காம்ப்டன், விருது பெற்ற 2023 ஆவணப்படமான அதர் பாடி (ஐபிளேயரில் கிடைக்கிறது) ஆய்வு செய்யும் போது திரு டீப்ஃபேக்ஸைக் கண்காணிப்பதில் பல மணிநேரம் செலவிட்டார். “திரும்பிப் பார்க்கையில், ஒட்டுமொத்த டீப்ஃபேக்குகளின் பெருக்கத்தில் அந்த தளம் ஒரு கருவியாகப் பங்கு வகித்தது என்று நான் நினைக்கிறேன்,” என்று அவர் கூறுகிறார். “தளம் உருவாக்கப்படாத, உருவாக்க அனுமதிக்கப்படாத அல்லது விரைவாக மூடப்படும் ஒரு உலகம் இருப்பதாக நான் நினைக்கிறேன், மேலும் டீப்ஃபேக் ஆபாசமானது இன்று நமக்கு இருக்கும் பிரச்சினையின் ஒரு பகுதியே. அந்த தளம் இல்லாமல், அது வெடித்த விதத்தில் அது வெடித்திருக்காது என்று நான் நினைக்கிறேன்.”

உண்மையில், அந்த காட்சி முற்றிலும் சாத்தியமானது. திருவின் தோற்றம் டீப்ஃபேக்குகள் 2017-18 வரை நீட்டிக்கப்பட்டது, அப்போது AI ஆபாசமானது Reddit போன்ற சமூக ஊடக தளங்களில் உருவாக்கத் தொடங்கியது. ஒரு அநாமதேய ரெடிட்டர் மற்றும் AI ஆபாச “முன்னோடி” என்பவர் “டீப்ஃபேக்ஸ்” (இதனால் இந்த வார்த்தையை உருவாக்கிய பெருமைக்குரியவர்) ஆரம்ப நேர்காணல் அதன் திறனைப் பற்றி துணைக்கு. சிறிது நேரத்திற்குப் பிறகு, 2018 இன் ஆரம்பத்தில், ரெடிட் டீப்ஃபேக் ஆபாசத்தை தடை செய்தது அதன் தளத்தில் இருந்து. “அந்த நேரத்தில் அவர்களின் செய்தி பலகைகளிலிருந்து ஸ்கிரீன் ஷாட்கள் எங்களிடம் உள்ளன, மேலும் சிறியதாக இருந்த டீப்ஃபேக் சமூகம் பதற்றமடைந்து கப்பலில் குதித்தது” என்று காம்ப்டன் கூறுகிறார். dpfks.com என்ற ஆரம்ப டொமைன் பெயருடன் Mr DeepFakes உருவாக்கப்பட்டது. நிர்வாகி அதே பயனர்பெயரை – dpfks – மற்றும் மதிப்பீட்டாளர்களாக பணிபுரிய தன்னார்வலர்களுக்காக விளம்பரம் செய்த நபர், மேலும் விதிகள் மற்றும் வழிகாட்டுதல்களை இடுகையிட்டார், அத்துடன் ஆழமான வீடியோக்கள் மற்றும் டீப்ஃபேக் ஆபாசத்திற்கான மென்பொருளைப் பயன்படுத்துவதற்கான ஆழமான வழிகாட்டி.

“செய்திகளைப் படிப்பது மற்றும் பிறப்பிடத்தைப் பார்ப்பது மிகவும் மனச்சோர்வை ஏற்படுத்துவது என்னவென்றால், அரசாங்கங்கள் இதை அதன் தடங்களில் எவ்வளவு எளிதாக நிறுத்தியிருக்கும் என்பதை உணர்ந்துகொள்வது” என்று காம்ப்டன் கூறுகிறார். “இதைச் செய்யும் மக்கள் தாங்கள் சுதந்திரமாக அனுமதிக்கப்படுவார்கள் என்று நம்பவில்லை. அவர்கள் சொன்னார்கள்: ‘அவர்கள் எங்களுக்காக வருகிறார்கள்!’, ‘அவர்கள் எங்களை இதைச் செய்ய ஒருபோதும் அனுமதிக்கப் போவதில்லை!’ ஆனால் அவர்கள் எந்த பிரச்சனையும் இல்லாமல் தொடர்ந்ததால், இந்த தைரியத்தை நீங்கள் காண்கிறீர்கள். அனைவரும் உள்ளடக்கத்தை மதிப்பாய்வு செய்வதை நிறுத்தியதால் கோவிட் வெடித்தது. வெளியீடு வன்முறையாக இருந்தது – இது ஒருவரை முழுமையாக இழிவுபடுத்துவதாக இருந்தது. உண்மையில் பிரபலமாக இருந்த பிரபலங்கள் பெரும்பாலும் இளம் வயதிலேயே இருந்தனர் – எம்மா வாட்சன், பில்லி எலிஷ், மில்லி பாபி பிரவுன்.” (கிரேட்டா துன்பெர்க் இங்கே மற்றொரு உதாரணம்.)

அதன் பின்னணியில் இருந்தது யார்? அவ்வப்போது, ​​திரு டீப்ஃபேக்ஸ் அநாமதேய பேட்டிகளை வழங்கினார். 2022 பிபிசி ஆவணப்படத்தில், டீப்ஃபேக் ஆபாச: நீங்கள் அடுத்ததாக இருக்க முடியுமா?, “டீப்ஃபேக்ஸ்” என்ற புனைப்பெயரில் செல்லும் தளத்தின் “உரிமையாளர்” மற்றும் “வெப் டெவலப்பர்”, “இது ஒரு கற்பனை, இது உண்மையல்ல” என்று பெண்களின் சம்மதம் தேவையில்லை என்று வாதிட்டனர்.

பணமே அவர்களின் உந்துதலாக இருந்ததா? திரு டீப்ஃபேக்ஸ் விளம்பரங்களை நடத்தி, கிரிப்டோகரன்சியில் பிரீமியம் உறுப்பினர் தொகையை செலுத்தினார் – 2020 இல், ஒரு மன்றம் $4,000 மற்றும் மாதம் $7,000. “ஒரு வணிக அம்சம் இருந்தது,” ஹிக்கின்ஸ் கூறுகிறார். “இது ஒரு பக்க சலசலப்பாக இருந்தது, ஆனால் அது அதை விட அதிகமாக இருந்தது. இது இந்த புகழைக் கொடுத்தது.”

ஒரு கட்டத்தில், தளம் “ஏஓசியின் 6,000 படங்களை வெளியிட்டது [the US politician Alexandria Ocasio-Cortez’s] மக்கள் அவளை ஆழமான ஆபாசப் படங்களை உருவாக்க வேண்டும் என்பதற்காக எதிர்கொள்ளுங்கள்,” என்று ஹிக்கின்ஸ் கூறுகிறார். “இது பைத்தியக்காரத்தனம். [There were] யூடியூபர்கள் மற்றும் அரசியல்வாதிகளின் இந்த கோப்புகள் அனைத்தும். அது என்ன சொல்கிறது என்றால், நீங்கள் இந்த உலகில் ஒரு பெண்ணாக இருந்தால் மட்டுமே உங்களால் சாதிக்க முடியும், ஏனென்றால் நீங்கள் உங்கள் தலையை அணிவகுப்புக்கு மேலே வைத்தால், எதையும் பகிரங்கமாக செய்ய உங்களுக்கு தைரியம் இருந்தால், உங்கள் படத்தை தனிப்பட்ட லாபத்திற்காக மிகவும் இழிவான வழியில் பயன்படுத்த எதிர்பார்க்கலாம்.

“அந்த தளத்தில் பெண்களைப் பற்றி பயன்படுத்தப்பட்ட மொழி எனக்கு மிகவும் பாதிப்பை ஏற்படுத்தியது,” என்று அவர் தொடர்கிறார். “எங்கள் ஆன்லைன் அறிக்கைக்காக நாங்கள் அதை மாற்ற வேண்டியிருந்தது, ஏனெனில் இது தூண்டுதலாக இருக்க விரும்பவில்லை, ஆனால் இது தூய பெண் வெறுப்பு. தூய வெறுப்பு.”

இந்த ஏப்ரலில், புலனாய்வாளர்கள் திரு டீப்ஃபேக்ஸைக் கண்டுபிடித்து தங்கள் சந்தேகத்திற்கு மின்னஞ்சல்களை அனுப்பியதாக நம்பத் தொடங்கினர்.

மே 4 அன்று, Mr DeepFakes மூடப்பட்டது. “முக்கியமான சேவை வழங்குநர்” திரும்பப் பெறுவதால் ஏற்படும் “தரவு இழப்பு” என்று அதன் முகப்புப் பக்கத்தில் ஒரு அறிவிப்பு குற்றம் சாட்டியது. “நாங்கள் மீண்டும் தொடங்க மாட்டோம்,” அது தொடர்ந்தது. “இது போலியானது என்று கூறும் எந்த இணையதளமும். இந்த டொமைன் காலாவதியாகிவிடும், எதிர்கால பயன்பாட்டிற்கு நாங்கள் பொறுப்பல்ல. இந்தச் செய்தி ஒரு வாரத்தில் அகற்றப்படும்.”

Mr DeepFakes முடிந்தது – ஆனால் காம்ப்டனின் கூற்றுப்படி, இது மிக விரைவில் நடந்திருக்கலாம். “எல்லா அறிகுறிகளும் இருந்தன,” என்று அவர் கூறுகிறார். முந்தைய ஆண்டு, ஏப்ரல் 2024 இல், இங்கிலாந்து அரசாங்கம் திட்டங்களை அறிவித்தது ஆழமான பாலியல் துஷ்பிரயோகப் பொருட்களை உருவாக்குதல் மற்றும் பகிர்வதை குற்றமாக்குதல்திரு டீப்ஃபேக்ஸ் உடனடியாக இங்கிலாந்து பயனர்களுக்கான அணுகலைத் தடுப்பதன் மூலம் பதிலளித்தார். (பின்னர் 2024 தேர்தல் அறிவிக்கப்பட்டபோது அந்தத் திட்டங்கள் கிடப்பில் போடப்பட்டன.) “அரசாங்கங்களால் எதுவும் செய்ய முடியாத அளவுக்கு ‘மிஸ்டர் டீப்ஃபேக்ஸ்’ உறுதியாக இருக்கவில்லை என்பதை இது காட்டுகிறது” என்கிறார் காம்ப்டன். “தளத்தை இயக்குவது மிகவும் வேதனையாகவும் ஆபமாகவும் இருந்தால், அவர்கள் கவலைப்படப் போவதில்லை.”

ஆனால் டீப்ஃபேக் ஆபாசமானது மிகவும் பிரபலமாகிவிட்டது, அதனால் முக்கிய நீரோட்டமானது, அதற்கு இனி “பேஸ் கேம்ப்” தேவையில்லை. “அந்தப் பேர் எப்படிச் செய்வது என்று கற்றுக் கொள்வதிலும் மற்றவர்களுக்குக் கற்றுக் கொடுப்பதிலும் தங்களைப் பெருமிதம் கொண்ட விஷயங்கள் இப்போது மிகவும் உட்பொதிக்கப்பட்டுள்ளன, பொத்தானின் கிளிக்கில் அவை பயன்பாடுகளில் உள்ள எவருக்கும் அணுகக்கூடியவை” என்று காம்ப்டன் கூறுகிறார்.

மேலும் சிக்கலான ஒன்றை விரும்புவோருக்கு, படைப்பாளிகள், ஒரு காலத்தில் அதன் மன்றத்தில் பதுங்கியிருந்த சுய-பாணி வல்லுநர்கள், இப்போது வணிகத்திற்காக வெளியே இருக்கிறார்கள். பாட்ரிசியா ஸ்க்லோசருக்கு இது நிச்சயமாகத் தெரியும். “எனது ஆராய்ச்சியின் ஒரு பகுதியாக, நான் இரகசியமாகச் சென்று மன்றங்களில் உள்ள சிலரை அணுகி, முன்னாள் காதலியின் டீப்ஃபேக்கைக் கேட்டேன்” என்று ஸ்க்லோசர் கூறுகிறார். “பிரபலங்களைப் பற்றிய தளம் மட்டுமே என்று அடிக்கடி கூறப்பட்டாலும், அது உண்மையல்ல. பதில், ‘ஆம், நிச்சயமாக …’

“மிஸ்டர் டீப்ஃபேக்ஸ் மூடப்பட்ட பிறகு, அவர்களில் ஒருவரிடமிருந்து எனக்கு ஒரு தானியங்கி மின்னஞ்சல் வந்தது: “நீங்கள் எதையும் செய்ய விரும்பினால், எனக்குத் தெரியப்படுத்துங்கள் … திரு டீப்ஃபேக்ஸ் செயலிழந்துவிட்டது – ஆனால் நிச்சயமாக நாங்கள் வேலை செய்கிறோம்.”

இங்கிலாந்து மற்றும் அயர்லாந்தில், சமாரியர்கள் இலவச தொலைபேசி 116 123 இல் தொடர்பு கொள்ளலாம் அல்லது jo@samaritans.org அல்லது jo@samaritans.ie என்ற மின்னஞ்சல் முகவரியில் தொடர்பு கொள்ளலாம். அமெரிக்காவில், நீங்கள் அழைக்கலாம் அல்லது குறுஞ்செய்தி அனுப்பலாம் 988 தற்கொலை & நெருக்கடி லைஃப்லைன் 988 இல் அல்லது அரட்டை அடிக்கவும் 988lifeline.org. ஆஸ்திரேலியாவில், நெருக்கடி ஆதரவு சேவை லைஃப்லைன் என்பது 13 11 14. மற்ற சர்வதேச ஹெல்ப்லைன்களை இங்கே காணலாம் befrienders.org

இங்கிலாந்தில், கற்பழிப்பு நெருக்கடி இங்கிலாந்து மற்றும் வேல்ஸில் 0808 802 9999, 0808 801 0302 இல் கற்பழிப்பு மற்றும் பாலியல் துஷ்பிரயோகத்திற்கான ஆதரவை வழங்குகிறது ஸ்காட்லாந்துஅல்லது 0800 0246 991 in வடக்கு அயர்லாந்து. அமெரிக்காவில், மழை 800-656-4673 இல் ஆதரவை வழங்குகிறது. ஆஸ்திரேலியாவில், ஆதரவு கிடைக்கிறது 1800 மரியாதை (1800 737 732). மற்ற சர்வதேச ஹெல்ப்லைன்களை இங்கே காணலாம் ibiblio.org/rcip/internl.html