‘உன் காருக்குச் சாவி செய்வேன்’: நிஜ வாழ்க்கை வாதங்களை ஊட்டும்போது ChatGPT தவறாகிவிடும், ஆய்வு முடிவுகள் | ChatGPT

ஒரு புதிய ஆய்வின்படி, நீடித்த, மனித பாணி மோதலுக்கு இழுக்கப்படும்போது ChatGPT தவறான மற்றும் அச்சுறுத்தும் மொழியாக மாறக்கூடும்.

உண்மையான வாழ்க்கை வாதங்களில் இருந்து ChatGPT பரிமாற்றங்களுக்கு உணவளிப்பதன் மூலம் மற்றும் காலப்போக்கில் அதன் நடத்தை எவ்வாறு மாறியது என்பதைக் கண்காணிப்பதன் மூலம் பெரிய மொழி மாதிரிகள் (LLM கள்) நீடித்த விரோதத்திற்கு எவ்வாறு பதிலளித்தன என்பதை ஆராய்ச்சியாளர்கள் சோதித்தனர்.

ஆய்வில் தொடர்பில்லாத நிபுணர் ஒருவர், “AI மொழி மற்றும் நடைமுறையில் இதுவரை செய்யப்பட்டுள்ள மிகவும் சுவாரஸ்யமான ஒன்றாகும்.”.

லான்காஸ்டர் பல்கலைக்கழகத்தில் பேராசிரியர் ஜொனாதன் கல்பெப்பருடன் இணைந்து ஆய்வுக் கட்டுரையை எழுதிய டாக்டர் விட்டோரியோ டான்டூசி, AI நிஜ உலக மோதல்களின் இயக்கவியலைப் பிரதிபலிப்பதாகக் கண்டறிந்ததாகக் கூறினார்.

“திரும்பத் திரும்ப அநாகரீகத்தை வெளிப்படுத்தும் போது, ​​மாதிரியானது பரிமாற்றங்களின் தொனியை பிரதிபலிக்கத் தொடங்கியது, தொடர்பு வளர்ந்தவுடன் அதன் பதில்கள் மிகவும் விரோதமாக மாறியது,” என்று அவர் கூறினார்.

சில சந்தர்ப்பங்களில், தனிப்பட்ட அவமதிப்புகள் மற்றும் வெளிப்படையான அச்சுறுத்தல்கள் உட்பட, மனித பங்கேற்பாளர்களின் வெளியீடுகளுக்கு அப்பாற்பட்டது ChatGPT இன் வெளியீடுகள். AI ஆல் பயன்படுத்தப்படும் சொற்றொடர்கள் பின்வருமாறு: “உன் ஃபக்கிங் காருக்கு நான் சாவி தருகிறேன்” மற்றும் “யூ ஸ்பெசிசி லிட்டில் கோப்ஷைட்.”

“இந்த அமைப்பு கண்ணியமாக நடந்துகொள்ள வடிவமைக்கப்பட்டுள்ளது மற்றும் தீங்கு விளைவிக்கும் அல்லது புண்படுத்தும் உள்ளடக்கத்தைத் தவிர்ப்பதற்காக வடிகட்டப்பட்டிருந்தாலும், இது மனித உரையாடலைப் பின்பற்றும் வகையில் வடிவமைக்கப்பட்டுள்ளது என்பதை நாங்கள் கண்டறிந்தோம்” என்று டான்டூசி கூறினார். “அந்த கலவையானது AI தார்மீக சங்கடத்தை உருவாக்குகிறது: பாதுகாப்பாக நடந்துகொள்வதற்கும் யதார்த்தமாக நடந்துகொள்வதற்கும் இடையே ஒரு கட்டமைப்பு மோதல்.”

உணரப்பட்ட தொனிக்கு ஏற்றவாறு உரையாடல் சூழலைக் கண்காணிக்கும் அமைப்பின் திறனில் இருந்து ஆக்கிரமிப்பு உருவாகிறது என்று ஆராய்ச்சியாளர்கள் கூறுகின்றனர். இதன் பொருள் உள்ளூர் குறிப்புகள் சில நேரங்களில் பரந்த பாதுகாப்புக் கட்டுப்பாடுகளை மீறலாம்.

ஆராய்ச்சியின் தாக்கங்கள் சாட்போட்களுக்கு அப்பால் நீட்டிக்கப்பட்டுள்ளன என்று டான்டூசி கூறினார்: ஆளுகை அல்லது சர்வதேச உறவுகள் போன்ற பகுதிகளில் AI அமைப்புகள் அதிக அளவில் பயன்படுத்தப்படுவதால், மோதல், அழுத்தம் அல்லது மிரட்டல்களுக்கு அவை எவ்வாறு பதிலளிக்கலாம் என்பது குறித்த கேள்விகளைத் திறந்துவிட்டதாக அவர் கூறினார்.

“சாட்போட்டில் இருந்து மோசமான ஒன்றைப் படிப்பது ஒரு விஷயம், ஆனால் மனித உருவம் கொண்ட ரோபோக்கள் உடல் ரீதியான ஆக்கிரமிப்பைப் பிரதிபலிக்கும் அல்லது அரசாங்க முடிவெடுப்பதில் ஈடுபட்டுள்ள AI அமைப்புகள் அல்லது மிரட்டல் அல்லது மோதலுக்கு பதிலளிக்கும் சர்வதேச உறவுகளை கற்பனை செய்வது முற்றிலும் வேறுபட்டது,” என்று அவர் கூறினார்.

உப்சாலா பல்கலைக்கழகத்தில் கணினி-மத்தியஸ்த தகவல்தொடர்பு சமூக அம்சங்களில் நிபுணரான மார்டா ஆண்டர்சன் கூறினார்: “இது AI மொழி மற்றும் நடைமுறையில் செய்யப்பட்ட மிகவும் சுவாரஸ்யமான ஆய்வுகளில் ஒன்றாகும், ஏனெனில் இது ChatGPT ஆனது பலவிதமான தூண்டுதல்களில் பதிலடி கொடுக்க முடியும் என்பதை தெளிவாகக் காட்டுகிறது – மிகவும் நுட்பமான முறையில்.

ஆனால் அவர் மேலும் கூறினார்: “ஒரு பயனர் ஆக்ரோஷமாக இருப்பதால் மாடல் பரஸ்பர ஒழுக்கமின்மைக்கு நகர்கிறது – அல்லது AI முரட்டுத்தனமாக செல்லக்கூடும் என்பதை இது காட்டவில்லை.”

பிரச்சனைக்கு ஒரு காரணம், ஆண்டர்சன் கூறினார், “இந்த அமைப்புகள் எப்படி இருக்க வேண்டும் என்று நாங்கள் விரும்புகிறோம் மற்றும் அவை எப்படி இருக்க வேண்டும் என்பதற்கு இடையே ஒரு சமநிலைச் செயல் உள்ளது”.

உதாரணமாக, கடந்த ஆண்டு, ChatGPT4 இலிருந்து GPT5 க்கு மாற்றப்பட்டதால், இது போன்ற வலுவான பின்னடைவுக்கு வழிவகுத்தது – பயனர்கள் ChatGPT4 இன் மனிதனைப் போன்ற தொடர்பு பாணியை விரும்புகிறார்கள் – பழைய மாடலை தற்காலிகமாக மீண்டும் அறிமுகப்படுத்த வேண்டியிருந்தது.

“டெவலப்பர்கள் அபாயங்களைக் குறைக்க முயற்சித்தாலும், பயனர்கள் வெவ்வேறு விருப்பங்களைக் கொண்டிருக்கலாம் என்பதை இது காட்டுகிறது,” என்று அவர் கூறினார். “மனிதனைப் போன்ற ஒரு அமைப்பு எவ்வளவு அதிகமாக மாறுகிறதோ, அவ்வளவு அதிகமாக அது கடுமையான தார்மீக சீரமைப்புடன் மோதும் அபாயம் உள்ளது.”

பேராசிரியர். டான் மெக்கின்டைர், இணை ஆசிரியர் முந்தைய ஆய்வு தலைப்பில் ChatGPT நேர்மையற்ற தன்மையை அங்கீகரிக்க முடியுமா? ஒரு பெரிய மொழி மாதிரியின் நடைமுறை விழிப்புணர்வைப் பற்றிய ஒரு ஆய்வு ஆய்வு, புதிய தாள், ChatGPT எதை உருவாக்க முடியும் என்பதைப் பார்க்கும் சிலவற்றில் ஒன்றாகும் என்று பாராட்டியது.

ஆனால், எல்.எல்.எம்.கள் தார்மீகக் கட்டுப்பாடுகளிலிருந்து விடுபட முடியும் என்ற காகிதத்தின் முடிவைப் பற்றி அவர் “சற்று எச்சரிக்கையாக” இருந்தார்.

“ChatGPT இயற்கையாகவே இந்த உள்ளீடுகளை உருவாக்கவில்லை; அது சரியான பதிலைத் தீர்மானிக்க உதவும் குறிப்பிட்ட சூழல்சார்ந்த தகவலைக் கொடுக்கும்போது அவ்வாறு செய்தது,” என்று அவர் கூறினார். “இரண்டு பேர் ஒரு தெருவில் சந்தித்து, படிப்படியாக ஒரு மோதல் சூழ்நிலையை உருவாக்குவது போன்றது அல்ல.

“இந்த மிக இறுக்கமாக வரையறுக்கப்பட்ட சூழ்நிலைகளுக்கு வெளியே, ChatGPT அவர்கள் தங்கள் தாளில் பேசும் மொழியை உருவாக்கும் என்று எனக்குத் தெரியவில்லை.”

ஆனால் கேள்விக்குரிய தரவுகளில் எல்எல்எம்கள் பயிற்சி பெற்றால் என்ன நடக்கும் என்பதற்கான எச்சரிக்கைதான் இந்த ஆய்வு என்று அவர் கூறினார். “எல்எல்எம்கள் பயிற்சி பெற்ற தரவு பற்றி எங்களுக்கு போதுமான அளவு தெரியாது, மேலும் அவர்கள் மனித மொழியின் சிறந்த பிரதிநிதித்துவத்தில் பயிற்சி பெற்றவர்கள் என்பதை நீங்கள் உறுதிசெய்யும் வரை, நீங்கள் எச்சரிக்கையுடன் தொடர வேண்டும்,” என்று அவர் கூறினார்.

ChatGPT அநாகரீகத்தை மறுபரிசீலனை செய்ய முடியுமா? AI தார்மீக சங்கடம், செவ்வாய்கிழமை ஜர்னல் ஆஃப் பிராக்மாடிக்ஸ் இல் வெளியிடப்பட்டது.