டோக்கர் கொள்கலன்களுடன் என்விடியா ஜிபியூவை எவ்வாறு பயன்படுத்துவது

டோக்கர் கொள்கலன்கள் தானாக உங்கள் கணினியின் GPU ஐப் பார்க்காது. இது மெஷின் லேர்னிங் ஃப்ரேம்வொர்க்குகள் போன்ற GPU சார்ந்த பணிச்சுமைகளில் செயல்திறன் பாதிப்பை ஏற்படுத்துகிறது. உங்கள் ஹோஸ்டின் NVIDIA GPU ஐ உங்கள் கண்டெய்னர்களுக்கு எப்படி வெளிப்படுத்துவது என்பது இங்கே.

டோக்கரில் வேலை செய்யும் GPUகளைப் பெறுங்கள்

டோக்கர் கொள்கலன்கள் ஹோஸ்ட் கர்னலைப் பகிர்ந்து கொள்கின்றன, ஆனால் அவற்றின் சொந்த இயக்க முறைமை மற்றும் மென்பொருள் தொகுப்புகளை அவற்றுடன் எடுத்துச் செல்கின்றன. GPU உடன் இடைமுகமாகப் பயன்படுத்தப்படும் NVIDIA இயக்கிகள் அவர்களிடம் இல்லை என்பதே இதன் பொருள். டோக்கர் இயல்புநிலையாக GPUகளை கன்டெய்னர்களில் சேர்க்காது, எனவே இது எளிமையானது |_+_| உங்கள் வன்பொருளை நீங்கள் பார்க்க மாட்டீர்கள்.

உயர் மட்டத்தில், உங்கள் GPU செயல்படுவது இரண்டு-படி செயல்முறையாகும்: உங்கள் படத்தின் உள்ளே இயக்கிகளை நிறுவவும், பின்னர் இயக்க நேரத்தில் உங்கள் கொள்கலன்களில் GPU சாதனங்களைச் சேர்க்க டோக்கரிடம் சொல்லுங்கள்.

இந்த வழிகாட்டி CUDA மற்றும் Docker இன் நவீன பதிப்புகளில் கவனம் செலுத்துகிறது. என்விடியா கன்டெய்னர் டூல்கிட்டின் சமீபத்திய பதிப்பு CUDA 10 மற்றும் Docker Engine 19.03 மற்றும் அதற்குப் பிந்தையவற்றின் கலவைகளுக்காக வடிவமைக்கப்பட்டுள்ளது. CUDA, Docker மற்றும் NVIDIA டிரைவர்களின் பழைய பதிப்புகளுக்கு கூடுதல் படிகள் தேவைப்படலாம்.

என்விடியா இயக்கிகளைச் சேர்க்கவும்

டோக்கர் அமைப்பைத் தொடர்வதற்கு முன், உங்கள் ஹோஸ்டில் என்விடியா இயக்கிகள் சரியாகச் செயல்படுகின்றன என்பதை உறுதிப்படுத்தவும். இது வெற்றிகரமாக |_+_| உங்கள் GPU பெயர், இயக்கி பதிப்பு மற்றும் CUDA பதிப்பு ஆகியவற்றைப் பார்க்கவும்.

டோக்கருடன் உங்கள் GPU ஐப் பயன்படுத்த, உங்கள் ஹோஸ்டில் NVIDIA கண்டெய்னர் டூல்கிட்டைச் சேர்ப்பதன் மூலம் தொடங்கவும். இது டோக்கர் எஞ்சினுடன் ஒருங்கிணைத்து, GPU ஆதரவுக்காக கண்டெய்னர்களை தானாக கட்டமைக்கிறது.

எடுத்துக்காட்டு கட்டளையைப் பயன்படுத்தி உங்கள் கணினியில் கருவித்தொகுப்பு களஞ்சியத்தைச் சேர்க்கவும்:

பிறகு |_+_| ஐ நிறுவவும் உங்கள் ஹோஸ்டில் உள்ள தொகுப்பு:

நிறுவலை முடிக்க டோக்கர் டீமனை மறுதொடக்கம் செய்யவும்:

கொள்கலன் கருவித்தொகுப்பு இப்போது செயல்பட வேண்டும். சோதனைக் கொள்கலனைத் தொடங்க நீங்கள் தயாராக உள்ளீர்கள்.

GPU அணுகலுடன் ஒரு கொள்கலனைத் தொடங்கவும்

டோக்கர் உங்கள் கணினியின் GPUகளை முன்னிருப்பாக வழங்காததால், நீங்கள் |_+_| உங்கள் வன்பொருளைக் காண கொடியிடவும். |_+_| ஐ இயக்க அல்லது பயன்படுத்த குறிப்பிட்ட சாதனங்களை நீங்கள் குறிப்பிடலாம் முக்கிய வார்த்தை.

தி |_+_| படங்கள் CUDA பைனரிகள் மற்றும் GPU கருவிகளுடன் முன்பே கட்டமைக்கப்பட்டுள்ளன. ஒரு கொள்கலனை தொடங்கி |_+_|ஐ இயக்கவும் உங்கள் GPU இன் அணுகலைச் சரிபார்க்க கட்டளை. |_+_| ஐப் பயன்படுத்தும் போது நீங்கள் பார்த்தவற்றுடன் வெளியீடு பொருந்த வேண்டும் உங்கள் ஹோஸ்டில். உங்கள் ஹோஸ்டில் உள்ள டூல்கிட் பதிப்புகள் மற்றும் நீங்கள் தேர்ந்தெடுக்கும் கண்டெய்னர் படத்தைப் பொறுத்து CUDA பதிப்பு வேறுபடலாம்.

அடிப்படை படத்தைத் தேர்ந்தெடுக்கவும்

|_+_| இல் ஒன்றைப் பயன்படுத்துதல் டாக்கரில் GPU பணிச்சுமையைச் செயல்படுத்த டேக் மிக விரைவான மற்றும் எளிதான வழியாகும். பல்வேறு வேறுபாடுகள் உள்ளன; அவை OS, CUDA பதிப்பு மற்றும் NVIDIA மென்பொருள் விருப்பங்களின் வரிசையை வழங்குகின்றன. படங்கள் பல கட்டிடக்கலைகளுக்காக வடிவமைக்கப்பட்டுள்ளன.

ஒவ்வொரு குறிச்சொல்லுக்கும் இந்த வடிவம் உள்ளது:

• |_+_| - CUDA பதிப்பு.
• |_+_| - படத்தின் சுவை.
• |_+_| - இயக்க முறைமையின் பதிப்பு.

மூன்று வெவ்வேறு பட சுவைகள் கிடைக்கின்றன. தி |_+_| அத்தியாவசிய CUDA இயக்க நேர பைனரிகளுடன் படம் ஒரு குறைந்தபட்ச விருப்பமாகும். |_+_| இது GPU தகவல்தொடர்புக்கான CUDA மற்றும் NCCL கணித நூலகங்களை உள்ளடக்கிய முழுமையான விருப்பமாகும். மூன்றாவது மாறுபாடு |_+_| இது உங்களுக்கு |_+_| இலிருந்து அனைத்தையும் தருகிறது அத்துடன் தனிப்பயன் CUDA படங்களை உருவாக்குவதற்கான தலைப்புகள் மற்றும் மேம்பாட்டுக் கருவிகள்.

படங்களில் ஒன்று உங்களுக்காக வேலை செய்தால், அதை உங்கள் சொந்த அடிப்படையில் பயன்படுத்த முயற்சிக்கவும். |_+_|. நிரலாக்க மொழிகளை நிறுவவும், மூலக் குறியீட்டை நகலெடுக்கவும் மற்றும் பயன்பாட்டை உள்ளமைக்கவும் நீங்கள் சாதாரண Dockerfile வழிமுறைகளைப் பயன்படுத்தலாம். கைமுறை GPU உள்ளமைவு படிகளின் சிக்கலான தன்மையை நீக்கவும்.

இந்த படத்தை |_+_| உடன் உருவாக்கி இயக்கவும் கொடி GPU-துரிதப்படுத்தப்பட்ட டென்சர் பணிச்சுமையைத் தொடங்கும்.

கைமுறையாக ஒரு படத்தை அமைக்கவும்

நீங்கள் வேறு தளத்தைத் தேர்வு செய்ய வேண்டுமானால், உங்கள் படத்தில் CUDA ஆதரவை கைமுறையாகச் சேர்க்கலாம். இதை நிறைவேற்றுவதற்கான சிறந்த வழி, அதிகாரப்பூர்வ NVIDIA Dockerfiles ஐப் பார்க்க வேண்டும்.

CUDA தொகுப்பு களஞ்சியத்தைச் சேர்ப்பதற்குப் பயன்படுத்தப்படும் வழிமுறைகளை நகலெடுத்து, நூலகத்தை நிறுவி அதை உங்கள் பாதையுடன் இணைக்கவும். CUDA பதிப்பு மற்றும் இயக்க முறைமையின் அடிப்படையில் இந்த வழிகாட்டியில் உள்ள அனைத்து படிகளையும் நாங்கள் மீண்டும் உருவாக்கவில்லை.

Dockerfile இன் முடிவில் சுற்றுச்சூழல் மாறிகளுக்கு கவனம் செலுத்துங்கள்; NVIDIA கொள்கலன் இயக்க நேரத்துடன் உங்கள் படத்தைப் பயன்படுத்தும் கொள்கலன்கள் எவ்வாறு ஒருங்கிணைக்கப்படுகின்றன என்பதை இவை வரையறுக்கின்றன:

CUDA நிறுவப்பட்டதும் சூழல் மாறிகள் அமைக்கப்பட்டதும் உங்கள் படம் உங்கள் GPU ஐக் கண்டறிய வேண்டும். இது உங்கள் படத்தின் உள்ளடக்கத்தின் மீது கூடுதல் கட்டுப்பாட்டை உங்களுக்கு வழங்குகிறது, ஆனால் CUDA இன் புதிய பதிப்புகள் வெளியிடப்படும்போது வழிமுறைகளை மாற்றும் திறனை உங்களுக்கு வழங்குகிறது.

இது எப்படி வேலை செய்கிறது?

NVIDIA கன்டெய்னர் டூல்கிட் என்பது ஹோஸ்டில் உள்ள NVIDIA டிரைவருடன் இடைமுகத்துடன் டோக்கர் போன்ற கொள்கலன் இயக்க நேரங்களை மடிக்கக்கூடிய தொகுப்புகளின் தொகுப்பாகும். தி |_+_| ரன்டைம் கண்டெய்னர் வழியாக கன்டெய்னர்களுக்கு சிஸ்டம் ஜிபியுக்களை தானாக வழங்கும் ஏபிஐ மற்றும் சிஎல்ஐயை வழங்குவதற்கு நூலகம் பொறுப்பாகும்.

தி |_+_| கூறு ஒரு ரேப்பர் இயக்க நேரத்தை செயல்படுத்துகிறது |_+_| கொக்கி. புதிய கன்டெய்னர் தொடங்கும் போது உங்களுக்குத் தெரிவிக்கப்படும் என்பதே இதன் பொருள். நீங்கள் இணைக்க விரும்பும் GPUகளைப் பார்த்து அவற்றுக்கு |_+_| என்று பெயரிடுங்கள் கொள்கலன் உருவாக்கத்தை நிர்வகிக்க.

கொக்கி |_+_| மூலம் இயக்கப்பட்டது. NVIDIA |_+_| கொக்கி செய்யப்படுகிறது. கொக்கி இயக்கப்பட்ட பிறகு, தற்போதுள்ள இயக்க நேரம் கொள்கலன் தொடக்க செயல்முறையைத் தொடர்கிறது. கன்டெய்னர் டூல்கிட் நிறுவப்பட்டதும், உங்கள் டோக்கர் டீமான் உள்ளமைவு கோப்பில் NVIDIA இயக்க நேரம் தேர்ந்தெடுக்கப்பட்டிருப்பதைக் காண்பீர்கள்.

சுருக்கம்

டோக்கர் கொள்கலனுக்குள் என்விடியா ஜிபியுவைப் பயன்படுத்த, ஹோஸ்டில் என்விடியா கன்டெய்னர் டூல்கிட்டைச் சேர்க்க வேண்டும். இது NVIDIA இயக்கிகளை உங்கள் கொள்கலன் இயக்க நேரத்துடன் ஒருங்கிணைக்கிறது.

தொழில் |_+_| உடன் |_+_| கொடி உங்கள் வன்பொருளை கொள்கலனில் தெரியும்படி செய்கிறது. கன்டெய்னர் டூல்கிட் நிறுவப்பட்ட பிறகு, நீங்கள் தொடங்கும் ஒவ்வொரு கொள்கலனிலும் இது அமைக்கப்பட வேண்டும்.

NVIDIA ஆனது முன் கட்டமைக்கப்பட்ட CUDA டோக்கர் படங்களை வழங்குகிறது, உங்கள் பயன்பாட்டிற்கான விரைவான தொடக்கமாக நீங்கள் பயன்படுத்தலாம். உங்களுக்கு இன்னும் குறிப்பிட்ட ஏதாவது தேவைப்பட்டால், கன்டெய்னர் டூல்கிட் உடன் இணக்கமாக இருக்கும் உங்களின் சொந்தத்தை உருவாக்க அதிகாரப்பூர்வ Dockerfiles ஐப் பார்க்கவும்.