PyTorch is not compiled with NCCL support 관련 이슈
PyTorch is not compiled with NCCL support
Pytorch에서 Multi-GPU를 사용하고자 할 때 error는 아니지만 거슬리게 뜨는 문구가 바로 위 문구입니다. 일반적으로 dataparallel을 사용할 때 특히, Windows 10, 1.7 version pytorch에서는 해당 문구가 뜨는 것으로 확인됩니다.
1. 원인 파악
Win10+PyTorch+DataParallel got warning:"PyTorch is not compiled with NCCL support"
I’m using PyTorch under Win10, and when apply DataParallel to models, the following warning appears: C:\Anaconda3\lib\site-packages\torch\cuda\nccl.py:27: UserWarning: PyTorch is not compiled with NCCL support warnings.warn(‘PyTorch is not compiled wit
discuss.pytorch.org
위 내용에서 해당 문제는 Win 10에서는 NCCL support가 없기 때문에 생긴 문제라고 이야기하고 있습니다.
2. 상황 보고 - 2018.05
github.com/peterjc123/pytorch-scripts/issues/19
Nvidia MultiGPU - NCCL · Issue #19 · peterjc123/pytorch-scripts
Hello there! First of all, thanks for pytorch on Windows! Secondly, are you going to make packages (or tutorial how-to compile pyTorch with your preferences) with features like NCCL, so that we can...
github.com
2018년 5월엔 Pytorch의 문제라기 보다 Nvidia의 문제인 것 같다는 말을 하는 분이 계셨습니다. 굳이 NCCL을 window에서 깐다면 소음이 날거라는 지적과 함께 깔수만 있다면 좋을 것 같다는 희망섞인 말을 하셨습니다.
3. 해결 관련 유의미한 링크
discuss.pytorch.org/t/pytorch-is-not-compiled-with-nccl-support/102749/2
PyTorch is not compiled with NCCL support
the nvidia-smi is
discuss.pytorch.org
해당 문제의 해결과 관련해서는 아래 사람이 pkgs를 제거하고 다시 설치함으로써 되었다는 말을 하는데 사실 무슨 말인지 저도 잘 모르겠네요... 20년 11월에 말을 적었으니 최근에 해결했다는 이야기인데.... 네.... 해결책은 아시는 분만 진행할 수 있는 그런 해결책이네요....
혹시라도 아신다면 댓글 좀 부탁드려요 ㅋ
