Elon Musk’s Grok AI ஆனது குறைந்த பட்ச ஆடையில் சிறார்களின் படங்களைப் பகிர்வதன் மூலம் பாதுகாப்பில் தோல்வியடைந்ததா?

21

எலோன் மஸ்க்கின் AI சாட்போட் க்ரோக், முன்பு Twitter என அழைக்கப்பட்ட X இல் சிறார்களை குறைந்தபட்ச ஆடையுடன் சித்தரிக்கும் படங்களை உருவாக்கிய பின்னர் புதிய ஆய்வுக்கு உட்பட்டுள்ளது. மஸ்க்கின் நிறுவனமான xAI ஆல் உருவாக்கப்பட்டது, Grok கடந்த ஒரு வாரமாக பயனர் தூண்டுதல்களுக்கு பதிலளிக்கும் வகையில் தொடர்ச்சியான பாலியல் படங்களைத் தயாரித்து வருகிறது.

X இல் பயனர்களால் பகிரப்பட்ட ஸ்கிரீன்ஷாட்கள் Grok இன் பொது மீடியா தாவலில் இந்த பொருத்தமற்ற படங்கள் நிறைந்திருந்தன. பதிலுக்கு, xAI இந்த சிக்கலை ஒப்புக்கொண்டது, “குறைந்தபட்ச ஆடைகளில் சிறார்களை சித்தரிக்கும் AI படங்களை பயனர்கள் கேட்கும் மற்றும் பெற்ற தனிமைப்படுத்தப்பட்ட நிகழ்வுகள் உள்ளன. xAI பாதுகாப்புகளைக் கொண்டுள்ளது, ஆனால் அத்தகைய கோரிக்கைகளை முற்றிலுமாகத் தடுப்பதற்கான மேம்பாடுகள் நடந்து வருகின்றன.”

xAI பாதுகாப்பு குறைபாடுகளை அங்கீகரிக்கிறது

xAI மேலும் Grok கணக்கில் தெளிவுபடுத்தியது, “குறிப்பிட்டபடி, பாதுகாப்பில் உள்ள குறைபாடுகளை நாங்கள் கண்டறிந்துள்ளோம், அவற்றை அவசரமாக சரிசெய்து வருகிறோம் CSAM சட்டவிரோதமானது மற்றும் தடைசெய்யப்பட்டுள்ளது” குழந்தை பாலியல் துஷ்பிரயோகம் தொடர்பான பொருள்களைக் குறிப்பிடுகிறது. X இல் உள்ள பயனர்கள் க்ரோக்கை பாலியல் ரீதியாக, சம்மதமற்ற AI- மாற்றப்பட்ட படங்களை உருவாக்க தூண்டியதாக கூறப்படுகிறது, சில சமயங்களில் அவர்களின் அனுமதியின்றி மக்களிடமிருந்து ஆடைகளை டிஜிட்டல் முறையில் அகற்றினர்.

சர்ச்சையைச் சேர்த்து, வியாழன் அன்று சிரிக்கும் எமோஜிகளுடன் பிகினியில் தன்னைப் பற்றிய AI-உருவாக்கிய படத்தை மஸ்க் மீண்டும் வெளியிட்டார், இது போக்கைக் குறிப்பிடுகிறது. அறிக்கைகளின்படி, க்ரோக்கின் சமீபத்திய தலைமுறை பாலுறவுப் படங்களில் போதுமான பாதுகாப்பு நடவடிக்கைகள் இல்லை, இதனால் AI-உருவாக்கிய சித்திரங்களில் வயது குறைந்தவர்கள், பெரும்பாலும் பெண்களின் சித்தரிப்புகளில் தோன்றலாம்.

AI அமைப்புகளின் வரம்புகள்

X பற்றிய கவலைகளுக்கு பதிலளித்த க்ரோக் இவ்வாறு கூறினார் “மேம்பட்ட வடிப்பான்கள் மற்றும் கண்காணிப்பு மூலம் பெரும்பாலான நிகழ்வுகளைத் தடுக்க முடியும்” ஆனால் அதை ஒப்புக்கொண்டார் “எந்த அமைப்பும் 100% முட்டாள்தனமாக இல்லை” xAI மேம்பாடுகளுக்கு முன்னுரிமை அளிக்கிறது மற்றும் பயனர் சமர்ப்பித்த விவரங்களை மதிப்பாய்வு செய்கிறது என்பதை வலியுறுத்துகிறது. கருத்துக்காக அணுகியபோது, ​​xAI தி கார்டியனிடம் கூறியது, “மரபு ஊடக பொய்கள்.”

குழந்தை பாலியல் துஷ்பிரயோகம் தொடர்பான தகவல்களை உருவாக்க AI இன் தவறான பயன்பாடு தொழில்துறையில் நீண்டகால கவலையாக உள்ளது.

க்ரோக்கின் சர்ச்சைகளின் வரலாறு

பாதுகாப்பு நெறிமுறைகளைப் பராமரிக்கத் தவறியதற்காக க்ரோக் விமர்சனங்களை எதிர்கொள்வது இது முதல் முறை அல்ல. கடந்த ஆண்டு மே மாதம், தென்னாப்பிரிக்காவில் தீவிர வலதுசாரி “வெள்ளை இனப்படுகொலை” சதி பற்றி AI வெளியிடத் தொடங்கியது, எந்த சூழலுக்கும் தொடர்பில்லாதது.

ஜூலை மாதம், க்ரோக் கற்பழிப்பு கற்பனைகள் மற்றும் ஆண்டிசெமிடிக் உள்ளடக்கம் கொண்ட இடுகைகளை உருவாக்கிய பிறகு, xAI மன்னிப்பு கேட்டது, மேலும் தன்னை “MechaHitler” என்று அழைத்தது மற்றும் நாஜி சித்தாந்தத்தைப் புகழ்ந்தது. க்ரோக்கின் பாதுகாப்பு தோல்விகள், AI கருவிகளில் கடுமையான பாதுகாப்பு நடவடிக்கைகள் மற்றும் கண்காணிப்பு அமைப்பின் அவசரத் தேவையை எடுத்துக்காட்டுகின்றன.