Attention機構（アテンション機構、Attention Mechanism）とは、入力データの中から重要な部分に注目して処理する仕組みです。従来のニューラルネットワークが全体を均等に処理するのに対し、Attention機構は関連性の高い部分により多くの重みを配分することで、効率的で精度の高い処理を実現します。
Attention機構の中核となるのが「Self-Attention」と呼ばれる仕組みです。これは、入力されたデータ内の各要素が他の要素とどれくらい関連しているかを計算し、重要度を動的に決定します。例えば自然言語処理において「彼は学校に行った」という文章を処理する際、「彼」と「行った」の関係性を強く認識し、適切な文脈理解を可能にします。この技術は2017年に発表された論文「Attention Is All You Need」でトランスフォーマーモデルの中核技術として提唱されました。
現在のAttention機構はLLMや生成AIの基盤技術として広く活用されています。ChatGPTやClaudeなどの大規模言語モデルは、このAttention機構により長い文章でも文脈を保持し、自然で一貫性のある回答を生成できます。また、機械翻訳や文書要約、画像認識など幅広い分野で応用され、AIの性能向上に大きく貢献しています。