!NCCL/NVLink
しばらく前に実験した，
NVLinkで接続したマルチGPUサーバーでNCCL2を使うと高性能で嬉しい，
(NVLink非対応のNCCL1.3だと性能でない)，という話をQiitaに投稿．

http://qiita.com/miyox/items/b3bb6a66f8fbadfac1a7