GPU（Graphics Processing Unit、グラフィックス・プロセッシング・ユニット）とは、元々は3Dグラフィックスや画像処理を高速化するために設計された専用プロセッサですが、大量の並列計算が得意という特性から、現在ではAIの機械学習やディープラーニングにおける学習・推論処理に不可欠なハードウェアとなっています。
CPUが複雑な処理を順次実行するのに対し、GPUは数千個の小さなコアを持ち、単純な計算を大量に並列実行できます。この特性が、ニューラルネットワークの訓練で必要となる行列演算や畳み込み演算と非常に相性が良く、学習時間を大幅に短縮できます。特にNVIDIA社のCUDA（Compute Unified Device Architecture）対応GPUは、AI開発において業界標準となっており、多くのディープラーニングフレームワークで最適化されています。
企業がAIプロジェクトを推進する際、GPUの選択と配置は重要な要素です。クラウドサービスでGPUインスタンスを利用する方法や、オンプレミスでGPUサーバーを構築する方法があり、扱うデータ量や学習モデルの規模に応じて適切な構成を選択する必要があります。また、近年はGoogle社のTPUなど、AI専用に設計された他の処理装置も登場していますが、汎用性と開発環境の充実度からGPUが最も広く使用されています。