雑誌文献を検索します。書籍を検索する際には「書籍検索」を選択してください。

Volume 68, Issue 12 （November 2025）

整形・災害外科 68巻12号（2025年11月発行）

Japanese English

特集整形外科領域におけるAIの進歩

大規模言語モデルにおける半導体の課題と解決技術 Challenges and solutions for semiconductors in large language models 吉岡健太郎 ¹ Kentaro YOSHIOKA ¹ ¹慶應義塾大学，理工学部キーワード： Large language models（LLM） , Memory bandwidth , Quantization Keyword: Large language models（LLM） , Memory bandwidth , Quantization pp.1429-1437

発行日 2025年11月1日 Published Date 2025/11/1

DOI https://doi.org/10.18888/se.0000003605

PDF(519KB)

有料閲覧

閲覧方法のご案内

この論文を閲覧するためにはログインが必要になります。

パスワードを忘れた場合新しくユーザー登録する施設共通IDをご利用の方はこちらから

PPV購入案内

2,200円 (2,000円+税10%) こちらは、1429ページから1437ページの文献です。

PPV（ペイ・パー・ビュー）とは、論文（記事）単位で購入・閲覧ができるサービスです。
購入には医書.jp本会員登録が必要です。

新規会員登録はこちらから

会員登録完了後に改めて上記「購入サイトへ」を選択してください。
または「購入サイトへ」選択後に「購入ログイン」、「新規会員登録」の順に進んでください。

会員登録について詳しくは

こちら

をご確認ください。

Abstract 文献概要
1ページ目 Look Inside
参考文献 Reference

要旨：近年の大規模言語モデル（LLM）の急速な発展は，半導体設計に対して従来とは質的に異なる要求を突きつけている。LLMは従来の畳み込みニューラルネットワーク（CNN）と比較して4桁以上のパラメータ数をもち，特にAttentionメカニズムにおける全系列アクセスパターンが，メモリ律速問題を深刻化させている。LLMとCNNのハードウェア要求の根本的相違を分析し，Rooflineモデルを用いて性能律速要因を定量的に検討した結果を示した。現代のGPUでは演算性能がメモリ帯域幅を数百倍上回るため，LLMの自己回帰的推論において膨大なパラメータ読み出しがボトルネックとなる。この課題に対する主要な解決策として，HBMによる高帯域幅化と，INT4・FP4レベルまで進歩した量子化技術を詳述した。今後は量子化のさらなる進歩とハードウェア・ソフトウェアの統合的最適化が，多様な展開環境における実用的なLLM処理の実現に不可欠である。