ராட்சத AIகளை உங்கள் கணினியிலிருந்து நேரடியாக இயக்குவதற்கான புதிய முறை

நீண்ட காலமாக, பெரிய மொழி மாதிரிகளைப் பயிற்றுவிப்பது அல்லது டியூனிங் செய்வது என்பது மில்லியன் டாலர் தரவு மையங்கள் மற்றும் சாதாரண பயனர்களால் அணுக முடியாத கிளஸ்டர்களுக்கு மட்டுப்படுத்தப்பட்ட செயலாகத் தோன்றியது. என்விடியா இப்போது இதற்கு நேர்மாறாக நிரூபிக்க விரும்புகிறது. RTX AI கேரேஜ் வலைப்பதிவில் வெளியிடப்பட்ட ஒரு புதிய இடுகையில், RTX GPU கொண்ட எந்தவொரு டெவலப்பரும் உள்நாட்டில் AI மாடல்களை எவ்வாறு நன்றாக மாற்ற முடியும் என்பதை நிறுவனம் விவரிக்கிறது – முகவர் பயன்பாடுகளை இலக்காகக் கொண்ட வலுவான மாதிரிகள் உட்பட.

பொருளின் சிறப்பம்சமானது Unsloth ஐப் பயன்படுத்துவதாகும், இது NVIDIA GPUக்களுக்காக குறிப்பாக மேம்படுத்தப்பட்ட ஒரு திறந்த மூல கட்டமைப்பாகும். முன்மொழிவு எளிமையானது, ஆனால் சக்தி வாய்ந்தது: RTX நோட்புக்குகள், ஜியிபோர்ஸ் கார்டுகளுடன் கூடிய டெஸ்க்டாப்புகள் மற்றும் NVIDIAவின் சொந்த கச்சிதமான AI சூப்பர் கம்ப்யூட்டரான DGX ஸ்பார்க் ஆகியவற்றில் LLMகளின் திறமையான ஃபைன்-டியூனிங்கை அனுமதிக்கும். நடைமுறையில், இது அதிக கட்டுப்பாடு, அதிக மறு செய்கை வேகம் மற்றும் கிளவுட் சேவைகளில் குறைந்த சார்பு ஆகியவற்றைக் குறிக்கிறது.

நிறுவனத்தின் கூற்றுப்படி, தொழில்நுட்ப ஆதரவுக்காக சாட்போட்களை மாற்றியமைத்தல், தனிப்பட்ட உதவியாளர்களை உருவாக்குதல் அல்லது சிக்கலான பணிப்பாய்வுகளை தானியங்குபடுத்துதல் போன்ற சிறப்புப் பணிகளுக்கு இந்த வகை ஃபைன்-ட்யூனிங் ஏற்கனவே பரவலாகப் பயன்படுத்தப்படுகிறது. இப்போது வித்தியாசம் அணுகல்தன்மையில் உள்ளது. NVIDIA GPUகள் மூலம், டெவலப்பர்கள் அதிகக் கிடைக்கும் நினைவகம், குறைந்த தாமதம் மற்றும் வெவ்வேறு அணுகுமுறைகளை விரைவாகச் சோதிக்கும் சுதந்திரத்துடன் உள்நாட்டில் வேலை செய்யலாம்.

டுடோரியல் புதிய என்விடியா நெமோட்ரான் 3 குடும்ப திறந்த மாதிரிகளை அறிமுகப்படுத்துகிறது, இது நிறுவனத்தால் இதுவரை அறிமுகப்படுத்தப்பட்ட மிகவும் மேம்பட்ட திறந்த மூல வரியாக விவரிக்கப்பட்டுள்ளது. AI பயன்பாடுகளுக்காக அடித்தளத்திலிருந்து வடிவமைக்கப்பட்டது…

மேலும் பார்க்கவும்

தொடர்புடைய கட்டுரைகள்

துறை மாபெரும் எச்சரிக்கிறது: ரேம் நினைவக நெருக்கடி குறைந்தது 2026 வரை தொடரும்

ஒரு பார்வையாளர் தனது மருத்துவ சிகிச்சைக்கான $32,000 மதிப்பைத் திருடினார், ஆனால் அவர் ஒரு விஷயத்தை எண்ணவில்லை: இணையத்தின் பழிவாங்கல் இரண்டு மடங்கு நன்கொடை அளித்தது.

தலைமை நிர்வாக அதிகாரிகளின் கண்மூடித்தனமான ஆவேசம்: எண்கள் வேறுவிதமாகக் கூறினாலும், அடுத்த ஆண்டு AI இல் அவர்கள் இரட்டிப்பாவார்கள்

அமேசான் ஆராய்ந்து மோசமானதை உறுதிப்படுத்துகிறது: ரஷ்ய ஹேக்கர்கள் பல ஆண்டுகளாக மேகத்தை அமைதியாகப் பயன்படுத்தினர்

ஒரு விளையாட்டாளர் 32 ஜிபி ரேம் கொண்ட கேமிங் பிசியை வாங்கத் திட்டமிட்டார், ஆனால் இரண்டு மடங்கு அதிகமாக வாங்கினார்: 8 மாதங்களுக்குப் பிறகு, அவர் தனது முடிவைப் பற்றி சிறிதும் வருத்தப்படவில்லை.