Anthropic’s Claude Mythos பற்றிய கார்டியன் பார்வை: AI ஒவ்வொரு குறைபாட்டையும் கண்டறிந்தால், இணையத்தை யார் கட்டுப்படுத்துவது? | தலையங்கம்

ஏnthropic அதன் சமீபத்திய AI மாடலை அறிவித்தது, கிளாட் மித்தோஸ்இந்த மாதம் ஆனால் அது பகிரங்கமாக வெளியிடப்படாது என்று கூறினார், ஏனெனில் இது கணினிகளை குற்றக் காட்சிகளாக மாற்றுகிறது. முன்னர் அறியப்படாத “பூஜ்ஜிய நாள்” குறைபாடுகளைக் கண்டறிந்து, அவற்றைப் பயன்படுத்திக் கொள்ளலாம் மற்றும் கொள்கையளவில், இந்த பலவீனங்களை எடுத்துக்கொள்வதற்காக இணைக்க முடியும் என்று நிறுவனம் கூறியது. முக்கிய இயக்க முறைமைகள் மற்றும் இணைய உலாவிகள். தொன்மங்கள் தன்னாட்சி முறையில் அவ்வாறு செய்தன, குறியீடு எழுதி சலுகைகளைப் பெற்றன. தாக்கங்கள் குறிப்பிடத்தக்கவை. ஒரு கொள்ளைக்காரன் எந்த கட்டிடத்தையும் குறிவைத்து, உள்ளே நுழைந்து, ஒவ்வொரு கதவையும் திறந்து ஒவ்வொரு பெட்டகத்தையும் காலி செய்வது போன்றது.

சிலிக்கான் வேலி நிறுவனம் இதுவரை 40 என்று பெயரிட்டுள்ளது அமைப்புகள் ப்ராஜெக்ட் கிளாஸ்விங்கின் கீழ் பங்குதாரர்களாக, பாதுகாப்பை மேம்படுத்த உதவுங்கள் – ஹேக்கர்கள் அவற்றைச் சுரண்டுவதற்கு வாய்ப்பு கிடைக்கும் முன், பாதிப்புகளை “பேட்ச்” செய்யுமாறு கேட்டுக்கொள்கிறோம். அனைவரும் அமெரிக்கர்கள், அமெரிக்கா தலைமையிலான டிஜிட்டல் அமைப்பின் மையத்தில் அமர்ந்துள்ளனர். ஆந்த்ரோபிக் மைத்தோஸை அமெரிக்காவிற்கு வெளியே பிரிட்டனுடன் மட்டுமே பகிர்ந்து கொண்டது, AI பாதுகாப்பு நிறுவனம் எல்லை மாதிரிகளை சோதிக்க அனுமதிக்கிறது. அதை அருகில் இருந்து பார்த்த பிறகு, பிரிட்டிஷ் அமைச்சர்கள் எச்சரித்தார்: AI இணைய தாக்குதல்களை மிக எளிதாகவும் வேகமாகவும் செய்ய உள்ளது, மேலும் பெரும்பாலான வணிகங்கள் தயாராக இல்லை. உள்ள வங்கிகள் ஐரோப்பா அடுத்து அதை சோதிக்க வாய்ப்பு உள்ளது.

இது மிக விரைவில் ஒரு கணமாக இருக்காது. பற்றிய அறிக்கைகள் அங்கீகரிக்கப்படாத அணுகல் இந்த வாரம் வெளிவந்தது – இது போன்ற திறன் கொண்ட எந்த தனியார் நிறுவனத்தையும் நம்ப முடியுமா என்ற கேள்வியை எழுப்புகிறது. Mythos அவசியம் இல்லை உருவாக்க ஒரு புதிய வகையான இணைய அச்சுறுத்தல். இது மறைந்திருக்கும் பலவீனத்தை முறையான அபாயமாக மாற்றுகிறது. ஹேக்கிங் பாரம்பரியமாக கடினமானது மற்றும் நேரத்தை எடுத்துக்கொள்ளும், சிலருக்கு இருக்கும் திறன்கள் தேவை. ஆனால் AI கருவிகள் வேகமாக பரவி வருகின்றன, வல்லுநர்கள் மட்டுமல்ல – பலருக்கும் அணுகக்கூடிய வகையில் கணினி மீறல்கள் உள்ளன.

ஒரு வேட்டையாடுபவர் ஒரு கேம்கீப்பராகவும் மாற்றப்படலாம். Mozilla அதன் Firefox உலாவியில் Mythos ஐ சோதித்தது: அது முன்பை விட 10 மடங்கு அதிகமான குறைபாடுகளைக் கண்டறிந்து அவற்றை சரிசெய்தது. முக்கியமாக, யாரும் இல்லை ஒரு மனிதனால் கண்டுபிடிக்க முடியவில்லை. என்ன மாற்றங்கள் என்றால், AI ஆனது “சைபர் பாதிப்புகளை” விரைவாகவும், மலிவாகவும், அளவிலும் கண்டறியும்.

அமெரிக்க அரசாங்கத்தின் மானுடவியல் தழுவல் ஒரு மாற்றத்தைக் குறிக்கிறது. பிப்ரவரியில், பென்டகன் நிறுவனத்தை ஒரு “பாதுகாப்பு ஆபத்து“மற்றும் அதன் தொழில்நுட்பத்தை வெகுஜன கண்காணிப்பு அல்லது தன்னாட்சி ஆயுதங்களுக்கு பயன்படுத்த அனுமதிக்க மறுத்ததால், இலாபகரமான ஒப்பந்தங்களில் இருந்து அதை துண்டித்தது. அதற்கு பதிலாக OpenAI ஒப்பந்தத்தைப் பெற்றது. Anthropic, அதன் Claude chatbot உடன், அதன் போட்டியாளர்களிடையே நெறிமுறை மாற்றாக நீண்ட காலமாக தன்னைத்தானே முன்னிறுத்தியது – இருப்பினும் அதன் படம் $1.5bn குறைக்கப்பட்டது. கடற்கொள்ளையர் தீர்வு கடந்த ஆண்டு.

மித்தோஸ் சக்தி வாய்ந்தது, ஆனால் மானுடவியல் PR தொழில்நுட்பத்தைப் போலவே கதையையும் வடிவமைத்துள்ளது. மித்தோஸ் உண்மையில் எவ்வளவு மேம்பட்டது என்ற கேள்வியும் உள்ளது. ஆராய்ச்சியாளர்கள் அளவில் பயன்படுத்தப்படும் சிறிய, மலிவான மாதிரிகள் இதே போன்ற சாதனைகளை செய்ய முடியும் என்று காட்டியுள்ளன. ஒரு திருப்புமுனையானது புலம் முழுவதும் பரந்த மாற்றத்தை பிரதிபலிக்கும். ஆந்த்ரோபிக் மூலோபாய மதிப்பைக் கொண்டுள்ளது என்று வெள்ளை மாளிகை நினைக்கிறது – அழைக்கிறது AI நிறுவனங்களை ஒப்பந்தக்காரர்களாகக் கருதுவதிலிருந்து கூட்டாளர்களாக மாற்றப்படுவதைக் குறிக்கிறது. இது ஒரு ஆழ்ந்த கவலையை எழுப்புகிறது: முக்கியமான உள்கட்டமைப்பு அபாயத்தின் மீதான தனியார் நிறுவனங்களின் கட்டுப்பாடு புத்திசாலித்தனமானதா – குறிப்பாக குறைந்த பொறுப்புள்ள நடிகர்கள் தொழில்நுட்ப செல்வாக்கைப் பெற்றால்.

தெளிவாக, யார் – மாநிலம் அல்லது நிறுவனம் – மிகவும் சக்திவாய்ந்த AI மாதிரிகளை உருவாக்குகிறார்களோ அவர்கள் பெறுவார்கள் புவிசார் அரசியல் நன்மைகள் மேல் நண்பர்கள் மற்றும் எதிரிகள். இணையப் பாதுகாப்பின் மீதான சர்வதேச ஒருங்கிணைப்புக்கான கட்டமைப்பு இல்லாமல், ஒரு பாதுகாப்பான இணையம் இல்லை, ஆனால் பல போட்டியிடும் இணையம் – ஒவ்வொன்றும் அதன் சொந்த அமைப்பை “ஒட்டு” மற்றவற்றை முழுமையாக நம்புவதில்லை. இது இனி உலகளாவிய பொதுவானதாக இருக்காது. அதற்குப் பதிலாக, வலையானது பாதுகாப்புக் கூட்டணிகளாக செதுக்கப்பட்டு, மிகவும் நெருக்கமாகப் பாதுகாக்கப்படும், பரந்த ஒன்று அமைதியாக நழுவினாலும் கூட.

• இந்தக் கட்டுரையில் எழுப்பப்பட்டுள்ள பிரச்சினைகள் குறித்து உங்களுக்கு ஏதேனும் கருத்து உள்ளதா? நீங்கள் மின்னஞ்சல் மூலம் 300 வார்த்தைகள் வரை பதிலைச் சமர்ப்பிக்க விரும்பினால், எங்களுடைய வெளியீட்டிற்காக பரிசீலிக்கப்படும் கடிதங்கள் பிரிவு, தயவு செய்து இங்கே கிளிக் செய்யவும்.