NVIDIAの625倍の効率…韓国の研究者が「脳」に似た「AI半導体」を開発KORIT

NVIDIAの625倍の効率…韓国の研究者が「脳」に似た「AI半導体」を開発

韓国の研究者が、超低消費電力で高性能なAI半導体を世界で初めて開発した。AI半導体市場をリードしているNVIDIA（エヌビディア）のA100に比べて、消費電力は625倍少なく、チップ面積は41倍小さい。効率を最大限に高めたAI半導体だ。わずか0.4秒でGPT-2モデルによる言語生成が可能だ。

科学技術情報通信部は、KAIST（韓国科学技術院）PIM半導体研究センター・人工知能半導体大学院のユ・ヘジュン教授による研究チームが、400ミリワット(mw)の超低消費電力でありながら0.4秒で巨大言語モデル(LLM)を処理できるAI半導体「相補型-トランスフォーマー」を、SAMSUNG（サムスン電子｛72,500ウォン ▼400 -0.55%｝）の28ナノプロセスを通じて世界で初めて開発したと6日に明らかにした。小型のAI半導体チップ1つでGPTなどのLLMを実装できるようになった。

研究チームは、人間の脳の構造と機能を模倣して設計されたコンピューティングシステム「ニューロモルフィックコンピューティング」技術を活用した。ニューロモルフィックコンピューティングは、脳の神経細胞（ニューロン）とその接合部位（シナプス）を模倣した回路を使用して、従来のコンピューティングシステムよりもエネルギー効率を高めながらデータを処理する。

研究チームが活用したのは、ニューロモルフィックコンピューティング技術の中でも「スパイキングニューラルネットワーク（SNN）」だ。リアルタイムで複雑な時系列データを分析するのに適した情報処理方法だ。

従来のニューロモルフィックコンピューティング技術は、画像認識やビデオ分析などの視覚データ処理に使用されるディープラーニングモデル「畳み込みニューラルネットワーク（CNN）」よりも不正確で、単純な画像分類作業のみ可能だった。今回の研究論文の第1著者であるKAISTのキム・サンヨプ博士は、ニューロモルフィックコンピューティング技術の精度をCNNレベルにまで引き上げた。画像分類だけでなく、様々な応用が可能なこの「相補型-深層ニューラルネットワーク(C-DNN)」技術を、今年2月に米国で開かれた「国際固体素子回路会議(ISSCC)」で初めて披露した。

スパイキングニューラルネットワーク(SNN)と深層ニューラルネットワーク(DNN)を組み合わせ、入力データの重さによって異なるニューラルネットワークに割り当てることで、電力を最小限に抑える技術だ。原理は人間の脳に似ている。人間の脳は、考え事が多いときはエネルギー消費が多く、考え事が少ないときはエネルギー消費が少ない。コンピューターも入力値が大きいときは電力消費が多く、入力値が小さいときは電力消費が少ない。研究チームは、小さな入力値はSNNに割り当て、大きな入力値はDNNに割り当てるなど、電力を効率的に活用する方法を見つけた。

今回の研究では、キム博士が昨年発表した相補型-深層ニューラルネットワーク技術をLLMに適用し、超低消費電力・高性能のオンデバイスAIの開発が可能であることを実証した。これは、今まで理論的な研究にとどまっていた内容を世界初のAI半導体の形で実装したということになる。

研究チームは、ニューロモルフィックネットワーク基盤のAIが文章生成、翻訳、要約などの高度な言語処理作業を正常に実行できることを確認した。DNN構造をSNNに変換する方法を独自に開発し、情報処理作業に適用した結果、従来のエネルギー効率を維持しながら精度も向上させることができた。

これにより、GPT-2大規模モデルの約7億800万に達するパラメーター（媒介変数）を約1億9,100万に削減した。4億200万のパラメーターを使用していた従来の翻訳用T5(Text-to-Text Transfer Transformer)モデルでは、パラメーター数を7,600万に減らした。パラメーターを減らすことで、言語モデルのパラメーターを外部メモリから読み込む作業に消費される電力が約70%削減された。

これにより、AI半導体企業であるNVIDIAが開発した「A100」に比べて電力消費量を625倍も削減しながら、0.4秒でGPT-2モデルを活用した言語生成を行うことが可能になった。T5モデルを活用した言語翻訳は0.2秒で動作する。パラメーター数を減らしながら、超低消費電力でも処理が可能なニューロモルフィックコンピューティングをLLMに適用したのだ。

研究を主導したユ・ヘジュン教授は、「今回の研究は、人工知能半導体の電力消費の問題を解消しただけでなく、GPT-2のような実際の大規模言語モデルの応用を成功させたことに大きな意義がある。」と述べた。

科学技術情報通信部のチョン・ヨンス情報通信産業政策官は、「AI半導体がNPUとPIMだけでなく、ニューロモルフィックコンピューティングに発展できる可能性を確認した。」とし、「大統領主催の半導体民生討論会でAI半導体の重要性が強調されたように、今後も世界的な研究成果を持続的に出せるように積極的に支援する。」と述べた。

(ソウル=news1）キム・ミョンソプ記者=政府は2047年まで、SAMSUNGとSK hynix（SKハイニックス）などの民間企業が622兆ウォン（約69兆1,260億円）を投入する京畿道南部一帯の「半導体メガクラスター」構築支援を強化する。世界最大の半導体メガクラスターを建設することで、650兆ウォン（約72兆2,740億円）の生産誘発効果があると見て、インフラ・投資環境造成、半導体生態系強化、超格差技術および人材確保などを支援する。写真は17日、ソウル市鍾路区の大韓民国歴史博物館で、来館者が韓国の半導体技術発展の歴史資料を見ている様子。2024.1.17/news1 Copyright (C) /写真=（ソウル=news1）キム・ミョンソプ記者

<世界初の相補型-トランスフォーマーAI半導体/画像=チョ・スア>

原文：https://www.unicornfactory.co.kr/article/2024030609153871451