エッジAI（Edge AI）とは、クラウドサーバーではなく、デバイスの近く（エッジ）でAI処理を実行する技術です。スマートフォンや監視カメラ、IoT機器など、データが生成される現場で直接機械学習やディープラーニングによる推論処理を行うことで、リアルタイム性を重視したAIアプリケーションを実現します。
エッジAIの最大のメリットは、通信遅延の大幅な削減です。自動運転車では、障害物検知や危険回避の判断を数ミリ秒以内で行う必要があり、クラウドとの通信時間は致命的な遅れとなります。また、監視カメラでは異常検知や物体検出をローカルで処理することで、プライバシーを保護しながら通信コストも削減できます。さらに、ネットワーク接続が不安定な環境でも安定した動作が可能です。
実装には専用ハードウェアが重要な役割を果たします。NVIDIA JetsonシリーズやGoogle Coral、Intel Movidius等のGPUや専用AIチップが、限られた電力でも高速なAI処理を可能にしています。これらのデバイスでは、量子化や蒸留といった技術を用いてモデルサイズを圧縮し、エッジ環境での効率的な動作を実現しています。製造業の外観検査AIや小売業の顧客分析システムなど、様々な業界でエッジAIの導入が加速しています。