டிக்டோக் பிபிசி அறிக்கைக்குப் பிறகு, பாலியல் கருப்பினப் பெண்களைக் காட்டும் AI வீடியோக்களை நீக்குகிறது

கறுப்பினப் பெண்களின் செயற்கை நுண்ணறிவு-உருவாக்கப்பட்ட படங்களைப் பயன்படுத்தி, வெளிப்படையான பாலியல் உள்ளடக்கத்தை ஊக்குவிக்கும் தளங்களுக்கு பயனர்களை வழிநடத்துவதை பிபிசி வெளிப்படுத்தியதை அடுத்து, TikTok 20 கணக்குகளைத் தடை செய்தது.

இந்த படங்கள் இன்ஸ்டாகிராம் மற்றும் டிக்டோக்கில் உள்ள கணக்குகளின் போக்கின் ஒரு பகுதியாகும், அவை பயன்படுத்தப்படும் ஸ்டீரியோடைப்கள் மற்றும் இன மொழியின் காரணமாக இனவெறி மற்றும் தவறாக வழிநடத்தும் கணக்குகளாக அடையாளம் காணப்பட்டுள்ளன.

பிபிசி மற்றும் ரிடான்ஸ் என்ற சுயாதீன ஏஐ வெளியீடான ஆராய்ச்சியாளர்கள், இரு தளங்களிலும் டஜன் கணக்கான கணக்குகளைக் கண்டறிந்துள்ளனர்.

படங்கள் மற்றும் வீடியோக்கள் AI ஆல் உருவாக்கப்பட்டன, ஆனால் அவை பிளாட்ஃபார்ம்களின் வழிகாட்டுதல்களை மீறுவதாக அடையாளம் காணப்படவில்லை.

ஏறக்குறைய அனைத்து கணக்குகளும் இன்ஸ்டாகிராமில் இருந்தன மற்றும் மூன்றில் ஒரு பங்கு டிக்டோக்கில் பதிப்புகளைக் கொண்டிருந்தன. இன்ஸ்டாகிராமின் தாய் நிறுவனமான மெட்டா, இந்த வழக்கை விசாரித்து வருவதாக பிபிசியிடம் கூறியது, ஆனால் எந்த நடவடிக்கையும் எடுக்கவில்லை என்று கூறவில்லை.

அவதாரங்கள் பெரும்பாலும் மெல்லிய நீச்சலுடைகள் அல்லது மற்ற வெளிப்படையான ஆடைகளை அணிந்து, மிகைப்படுத்தப்பட்ட உடல் வடிவங்களுடன் சித்தரிக்கப்படுகின்றன.

சிலவற்றில் விதிவிலக்காக கருமையான தோல் டோன்கள் உள்ளன, அவை டிஜிட்டல் முறையில் கையாளப்பட்டு, செயற்கையான தோற்றத்தை அளிக்கின்றன.

கணக்குப் பெயர்களில் “கருப்பு”, “நோயர்”, “கருப்பு” மற்றும் “கருங்காலி” போன்ற சொற்கள் அடங்கும்.

“நான் வெள்ளை மனிதர்களை விரும்புகிறேன்” மற்றும் “எனக்கு ஏன் என் வாழ்க்கையில் ஒரு வெள்ளைக்காரன் தேவை” போன்ற பல வெள்ளை மனிதர்களைப் பற்றிய கருத்துகள் உள்ளன. பல கணக்குகள் ஒன்றையொன்று பின்பற்றுகின்றன அல்லது விரும்புகின்றன.

பிபிசி, Riddance ஆய்வாளர்களான Jeremy Carrasco மற்றும் Angel Nulani ஆகியோருடன் இணைந்து, மூன்றாம் தரப்பு தளங்களில் பணம் செலுத்திய பாலியல் வெளிப்படையான உள்ளடக்கத்திற்கான இணைப்புகள் அல்லது இணைப்புகளின் சங்கிலிகளைக் கொண்ட 60 கணக்குகளை, முக்கியமாக Instagram இல் அடையாளம் கண்டுள்ளது.

இணையதளங்கள் படங்களை AI-உருவாக்கியதாக லேபிளிட்டன, ஆனால் Instagram கணக்குகள் அவ்வாறு செய்யவில்லை.

இன்ஸ்டாகிராம் மற்றும் டிக்டோக்கில் உள்ள பல கணக்குகளையும் இதேபோன்ற AI-உருவாக்கிய அவதாரங்களுடன், பணம் செலுத்திய உள்ளடக்கத்துடன் இணைக்காத பல கணக்குகளையும் ஆராய்ச்சி அடையாளம் கண்டுள்ளது.

‘நான் கோபமாக இருந்தேன்’

TikTok ஆல் செயலிழக்கச் செய்யப்பட்ட கணக்குகளில் ஒன்று – வெளியிடப்பட்ட நேரத்தில் இன்ஸ்டாகிராமில் செயலில் இருந்தபோதிலும் – உண்மையான நபர்களிடமிருந்து வீடியோக்களை திருடுவதன் மூலம் இன்னும் கோபத்தை ஏற்படுத்தியது.

இந்தக் கணக்கு AI-உருவாக்கப்பட்ட பாத்திரமாக தன்னைக் காட்டுகிறது மற்றும் டிசம்பரில் உருவாக்கப்பட்ட சில வாரங்களில் மூன்று மில்லியன் பின்தொடர்பவர்களைக் குவித்துள்ளது.

ஆனால் அவர் மலேசியாவைச் சேர்ந்த மாடலான ரியா உலன் என்ற உண்மையான உள்ளடக்கத்தை உருவாக்கியவரின் வீடியோக்களை மாற்றியமைத்து வெளியிட்டார்.

விதிவிலக்காக இருண்ட, செயற்கையாக உருவாக்கப்பட்ட தோல் தொனியைக் கொண்ட அவதாரின் முகம், ரியாவின் உடலில் மிகைப்படுத்தப்பட்டுள்ளது, மேலும் ரியாவின் அசைவுகள், உடைகள் மற்றும் அமைப்பு ஆகியவை பிரதிபலிக்கப்படுகின்றன.

“நான் கோபமாக இருந்தேன்,” என்று ரியா பிபிசியிடம் கூறினார். “நிச்சயமாக எனது வீடியோக்கள் அனைத்தும் கிடைக்கின்றன… நீங்கள் அவற்றை எடுத்து, திருடி உங்கள் சொந்தமாக இடுகையிடலாம் என்று அர்த்தமல்ல.”

கையாளப்பட்ட வீடியோக்களில் ஒன்று டிக்டோக்கில் 35 மில்லியனுக்கும் அதிகமான பார்வைகளையும், இன்ஸ்டாகிராமில் 173 மில்லியனுக்கும் அதிகமான பார்வைகளை எட்டியுள்ளது, இது ரியாவின் அசல் இடுகையை விட 47 மடங்கு அதிகம்.

ரியாவின் உள்ளடக்கத்துடன் தெளிவாகப் பொருந்திய மூன்று வீடியோக்களும் பாலியல் ரீதியாக இல்லை என்றாலும், அதே டிஜிட்டல் முறையில் உருவாக்கப்பட்ட கேரக்டரைப் பயன்படுத்தி AI கணக்கில் உள்ள மற்ற வீடியோக்கள் அவர் வெளிப்படுத்தும் ஆடைகளை அணிந்திருப்பதையோ அல்லது ஆத்திரமூட்டும் செயல்களைச் செய்வதையோ காட்டுகின்றன. கணக்கில் இருந்து இணைப்புகளின் சங்கிலி பணம் செலுத்திய வயதுவந்தோர் உள்ளடக்கத்திற்கு வழிவகுக்கிறது.

“வெளிப்படையான உள்ளடக்கத்தை விளம்பரப்படுத்த அவர்கள் எனது வீடியோவைப் பயன்படுத்தினார்களா அல்லது மக்கள் அதை நம்புகிறார்கள் என்பதைப் பற்றி நான் அதிகம் கவலைப்படுகிறேனா என்று எனக்குத் தெரியவில்லை,” என்று அவர் கூறுகிறார்.

உள்ளடக்கம் உண்மையானதா என்பதைப் பிரித்தறிவது பயனர்களுக்கு கடினமாகி வருகிறது, மேலும் “இந்த AI மாதிரிகளுக்கு மக்கள் தொடர்ந்து விழுகிறார்கள்” என்று அவர் மேலும் கூறுகிறார்.

பல பார்வையாளர்கள் அவதாரங்களின் யதார்த்தமற்ற அம்சங்கள் இருந்தபோதிலும், அவற்றை உண்மையானவையாகவே கருதுகின்றனர். Instagram இடுகைகள் அல்லது கதைகளில், ரியாவின் உள்ளடக்கத்தைப் பயன்படுத்திய கணக்கு உட்பட, சில கணக்குகள் AI இன் பயன்பாட்டை மறுக்கின்றன.

இரண்டு தளங்களிலும் கணக்கைப் பற்றி பலமுறை புகார் செய்ததாக ரியா கூறுகிறார், ஆனால் அந்த நேரத்தில், உள்ளடக்கம் அகற்றப்படவில்லை. கருத்துக்காக பிபிசி அணுகிய பிறகு டிக்டோக் கணக்கை தடை செய்தது.

‘யதார்த்தமற்ற பிரதிநிதித்துவங்கள்’

“இந்த கணக்குகள் இனவெறி என்று நான் நம்புகிறேன், ஏனெனில் அவற்றின் இருப்பு கறுப்பின மக்களை சுரண்டுவதற்கான நீண்ட வரலாற்றை நிலைநிறுத்துகிறது” என்று ஆராய்ச்சியாளர்களில் ஒருவரான நுலானி கூறுகிறார்.

“அவர்களின் கேலிச்சித்திரங்கள், ‘ரேஸ் கேம்’ கலைச்சொற்கள் மற்றும் கறுப்பினப் பெண்களின் யதார்த்தமற்ற சித்தரிப்புகள் ஆகியவை எங்கள் பாதுகாப்பு அல்லது நல்வாழ்வைப் பற்றி அவர்கள் கவலைப்படவில்லை என்பதை நிரூபிக்கிறது, மாறாக ஆன்லைன் ஆபாச இயந்திரத்தின் ஒரு பகுதியாகப் பயன்படுத்தப்படும் எங்கள் திறனைப் பயன்படுத்துகிறது,” என்று அவர் மேலும் கூறுகிறார்.

அவரது சமூக வலைப்பின்னல்களில் AI போக்குகள் மற்றும் நுட்பங்களை விமர்சிக்கும் கராஸ்கோ, “புதிதாக இருப்பது மிகவும் கறுப்பின மக்களின் அப்பட்டமான மற்றும் இனவெறி பிரதிநிதித்துவங்களின் அளவு” என்று கூறுகிறார்.

“இந்த ஃபெடிஷ்” கடந்த காலத்தில் இருந்திருக்கலாம், AI அதற்கு “புதிய பலத்தை அளிக்கிறது,” என்று அவர் கூறுகிறார். இயற்கைக்கு மாறான கருமையான தோல் டோன்களை உருவாக்கவும், முன்பு அனிமேஷன் அல்லது பாடி பெயிண்டிங் தேவைப்படும் விளைவுகளை உருவாக்கவும் படங்கள் மற்றும் வீடியோக்களில் உள்ள சரும நிறங்களை அகற்றுவதை AI எளிதாக்குகிறது என்று அவர் விளக்குகிறார்.

மேலும், அவர் கூறுகிறார், அவதாரத்திற்கு எந்த சமூக விளைவுகளும் இல்லை: “அவமானம் இல்லை… இது AI ஒரு தனித்துவமான வழியில் சுரண்டுகிறது.”

ஹௌடா ஃபோனோன், மொராக்கோ மாடல் மற்றும் உள்ளடக்கத்தை உருவாக்கியவர், அவர் கறுப்பினப் பெண்களின் மிகவும் உண்மையான பிரதிநிதித்துவத்திற்காக வாதிடுகிறார், இந்த போக்கு “அழித்தல்” என்று கூறுகிறார்.

“பட்டுப்போன்ற முடி, மிகவும் மெலிந்த உடல்கள் மற்றும் கச்சிதமான சருமம்… கறுப்பு அழகை ‘சுத்தி’ செய்தால் மட்டுமே ஏற்றுக்கொள்ள முடியும் போல.

“எங்கள் நிஜ வாழ்க்கைக் கதைகள் மற்றும் அனுபவங்கள் ஒரு செயற்கைப் படத்துடன் மாற்றப்படுகின்றன”, அதே சமயம் இது ஒரே மாதிரியான கருத்துகளை வலுப்படுத்தும் அபாயம் இருப்பதாக அவர் கூறுகிறார்.

நாங்கள் கண்டறிந்த கணக்குகளின் Meta மற்றும் TikTok உதாரணங்களை பிபிசி அனுப்பியது மற்றும் அவர்களின் பதில்களைக் கேட்டது.

இரண்டு நாட்களுக்குப் பிறகு, டிக்டோக் செய்தித் தொடர்பாளர் பிபிசியிடம், நிறுவனம் “எங்கள் விதிகளை மீறும் உள்ளடக்கத்தை நீக்கியது மற்றும் தடை செய்யப்பட்ட கணக்குகள்” என்று கூறினார்.

சில நாட்களில், பயன்பாட்டில் 20 கணக்குகள் “தடை செய்யப்பட்டதாக” குறிக்கப்பட்டன.

“TikTok தனிநபர்களின் அனுமதியின்றி பயன்படுத்தப்படும் AI-உருவாக்கப்பட்ட உள்ளடக்கத்தை தடை செய்கிறது; தளத்திற்கு வெளியே பாலியல் சேவைகளை ஊக்குவிக்கும் உள்ளடக்கத்தை நாங்கள் பொறுத்துக்கொள்ள முடியாது” என்று செய்தித் தொடர்பாளர் கூறினார்.

தீங்கு விளைவிக்கும் அல்லது தவறாக வழிநடத்தும் AI-உருவாக்கிய உள்ளடக்கத்தை தடைசெய்து அகற்றுவதாக நிறுவனம் கூறுகிறது மற்றும் பயனர்கள் யதார்த்தமான AI-உருவாக்கிய உள்ளடக்கத்தை லேபிளிட வேண்டும். பல வீடியோக்களுக்கு சரியான லேபிளிங்கைப் பயன்படுத்தியதாகவும் அவர் கூறினார்.

தனக்கு வழங்கப்பட்ட உள்ளடக்கத்தை ஆராய்ந்து வருவதாக மெட்டா கூறினார்.

AI-இயங்கும் இடுகைகளைப் பார்க்கும்போது பயனர்கள் தெரிந்துகொள்ள விரும்புவதாகவும், AI-உருவாக்கிய உள்ளடக்கத்தை லேபிளிடுவதற்கான கொள்கைகள் இருப்பதாகவும் நிறுவனம் கூறுகிறது. பிபிசி கண்காணித்த ஒன்பது இன்ஸ்டாகிராம் கணக்குகள் இப்போது இல்லை.

ரியாவின் ஆரம்ப அறிக்கைகளுக்கு அவர்களின் பதில் குறித்த விவரங்களை எந்த தளமும் வழங்கவில்லை.