CUDA入門・サンプル集

はじめてのCUDAプログラミング
タイトル通り、初めてCUDAを扱う方にはオススメします。
コアレシングするテクニックや、コンパイラオプションの説明も掲載しています。

GPU Gems 3
GPGPUや画像処理のテクニック集。
CUDAのサンプルプログラムも載っています。
画像処理に詳しい方にはオススメします。

並行コンピューティング技法
並列処理のプログラミング技法を紹介しています。
これを読むまでは不可能と思っていたような処理も、
並列処理可能なプログラムに上手く書き換えています。
本気でCUDAをやるなら、絶対読むべき本です。

CUDA高速GPUプログラミング入門
読んだことありませんが、リンクだけ貼っておきます。
（入手できたらレビュー書きます）