NCCL
NVIDIA Collective Communications Library (NCCL）
The NVIDIA Collective Communications Library (NCCL) implements multi-GPU and multi-node collective communication primitives that are performance…
作用
多GPU交互在神经网络是常见的，所以在安装caffe之前需要安装NCCL，来保证多GPU之间的相互交流。
多GPU，这里指的是2个及2个以上英伟达显卡，而不是笔记本中的集显和独显。