「ＡＩチップを買うお金がない」 旧型ゲームチップで研究する大学
人工知能（ＡＩ）の研究において重要な役割を果たしている韓国の大学が、最新チップを入手できず、大型言語モデル（ＬＬＭ）を基盤にした生成型ＡＩの研究がまともにできないことが分かった。ソウル大学やＫＡＩＳＴなどの主要大学さえ、政府支援事業に選ばれても、割り当て予算が少なく、ＡＩチップを十分に手に入れることができなかった。チップを確保しても、電力不足で大学施設で駆動できない状況だ。
ＫＡＩＳＴのＡ教授は２日、「オープンＡＩの『ソラ』のような生成型ＡＩモデルを作るためには、ＮＶＩＤＩＡの最新のグラフィック処理装置（ＧＰＵ）数百個が必要だ」とし、「政府事業を受注しても、ＮＶＩＤＩＡのＧＰＵを多数購入することは不可能で、旧型ゲーム用ＧＰＵで研究している」と話した。
「ソラ」とは、動画生成ＡＩサービスだ。このサービスを作るためには、複数の演算を同時に遂行できるＧＰＵのような「ＡＩ加速器（学習、推論に特化したＡＩ半導体）」が必要だ。ＧＰＵは、ＮＶＩＤＩＡが世界中で８０％を占めており、呼び値が買値である状況だ。特に、ＮＶＩＤＩＡの最新のＧＰＵであるＨ１００の価格は、１個当たり５０００万ウォン程度だという。Ａ教授は、「私たちが持っている旧型ゲーム用ＧＰＵで、ソラと似たサービスを作るには１４８年がかかると分析された」と話した。
苦労してチップを手に入れても、電力問題を解決しなければならない。ソウル大学コンピュータ工学部のキム・ゴンヒ教授は、「ＧＰＵを追加で稼動したいが、学校側から電力の追加供給は不可能だという返事が来た」とし、「教授たちが直接、電力が残る建物を探し回らなければならないのが現状だ」と話した。
予算を確保したとしても、装置購入に伴う審議を経なければならない。国家研究開発（Ｒ＆Ｄ）事業において研究装置が１億ウォンを超えれば、国家研究施設装置センター（ＮＦＥＣ）の審議を受けなければならず、結果が出るのに通常３ヵ月以上かかる。光州（クァンジュ）科学技術院（ＧＩＳＴ）ＡＩ大学のキム・ジョンウォン院長は、「一般的にＡＩ研究には、ＮＶＩＤＩＡのＧＰＵが少なくとも８個必要だ」とし、「ＧＰＵ８個とサーバーの購買価格だけでも、およそ５億ウォンだ。その予算を確保しても、審議を経れば実際に研究するまでずっと時間が遅れる」と話した。キム院長は、「大学が、ＡＩチップを共同で使用する研究センターを作るなどの代案が必要だ」と助言した
구형팁 연구해도 할 수 있는 것은 이미 구형의 한국
인공지능(AI)의 연구에 대해 중요한 역할을 이루어 있는 한국의 대학이, 최신 팁을 입수하지 못하고, 대형 언어 모델(LLM)을 기반으로 한 생성형 AI의 연구를 온전히 할 수 없는 것을 알았다.서울 대학이나 KAIST등의 주요 대학마저, 정부 지원 사업으로 선택되어도, 할당 예산이 적고, AI팁을 충분히 손에 넣을 수 없었다.팁을 확보해도, 전력 부족하고 대학 시설에서 구동할 수 없는 상황이다.
KAIST의 A교수는 2일, 「오픈 AI의 「소라」와 같은 생성형 AI모델을 만들기 위해서는, NVIDIA의 최신의 그래픽 처리 장치(GPU) 수백개가 필요하다」라고 해, 「정부 사업을 수주해도, NVIDIA의 GPU를 다수 구입하는 것은 불가능하고, 구형게임용 GPU로 연구하고 있다」라고 이야기했다.
「소라」란, 동영상 생성 AI서비스다.이 서비스를 만들기 위해서는, 복수의 연산을 동시에 수행할 수 있는 GPU와 같은 「AI가속기(학습, 추론에 특화한 AI반도체)」가 필요하다.GPU는, NVIDIA가 온 세상에서 80%를 차지하고 있어 호가가 매입가인 상황이다.특히, NVIDIA의 최신의 GPU인 H100의 가격은, 1개 당 5000만원 정도라고 한다.A교수는, 「우리가 가지고 있는 구형게임용 GPU로, 소라와 닮은 서비스를 만들려면 148년이 걸린다고 분석되었다」라고 이야기했다.
고생하고 팁을 손에 넣어도, 전력 문제를 해결해야 한다.서울 대학 컴퓨터 공학부의 김·곤히 교수는, 「GPU를 추가로 가동하고 싶지만, 학교측으로부터 전력의 추가 공급은 불가능하다고 하는 대답이 왔다」라고 해, 「교수들이 직접, 전력이 남는 건물을 찾아 돌지 않으면 안 되는 것이 현상이다」라고 이야기했다.
예산을 확보했다고 해도, 장치 구입에 수반하는 심의를 거치지 않으면 안 된다.국가 연구 개발(R＆D) 사업에 대해 연구 장치가 1억원을 넘으면, 국가 연구 시설 장치 센터(NFEC)의 심의를 받지 않으면 안되어, 결과가 나오는데 통상 3개월 이상 걸린다.광주(광주) 과학기술원(GIST) AI대학의 김·종원 원장은, 「일반적으로 AI연구에는, NVIDIA의 GPU가 적어도 8개 필요하다」라고 해, 「GPU8개와 서버의 구매 가격만으로도, 대략 5억원이다.그 예산을 확보해도, 심의를 거치면 실제로 연구할 때까지 훨씬 시간이 늦는다」라고 이야기했다.김 원장은, 「대학이, AI팁을 공동으로 사용하는 연구 센터를 만드는 등의 대안이 필요하다」라고 조언 한
「AI팁을 살 돈이 없다」 구형게임 팁으로 연구하는 대학
인공지능(AI)의 연구에 대해 중요한 역할을 이루어 있는 한국의 대학이, 최신 팁을 입수하지 못하고, 대형 언어 모델(LLM)을 기반으로 한 생성형 AI의 연구를 온전히 할 수 없는 것을 알았다.서울 대학이나 KAIST등의 주요 대학마저, 정부 지원 사업으로 선택되어도, 할당 예산이 적고, AI팁을 충분히 손에 넣을 수 없었다.팁을 확보해도, 전력 부족하고 대학 시설에서 구동할 수 없는 상황이다.
「소라」란, 동영상 생성 AI서비스다.이 서비스를 만들기 위해서는, 복수의 연산을 동시에 수행할 수 있는 GPU와 같은 「AI가속기(학습, 추론에 특화한 AI반도체)」가 필요하다.GPU는, NVIDIA가 온 세상에서 80%를 차지하고 있어 호가가 매입가인 상황이다.특히, NVIDIA의 최신의 GPU인 H100의 가격은, 1개 당 5000만원 정도라고 한다.A교수는, 「우리가 가지고 있는 구형게임용 GPU로, 소라와 닮은 서비스를 만들려면 148년이 걸린다고 분석되었다」라고 이야기했다.
예산을 확보했다고 해도, 장치 구입에 수반하는 심의를 거치지 않으면 안 된다.국가 연구 개발(R＆D) 사업에 대해 연구 장치가 1억원을 넘으면, 국가 연구 시설 장치 센터(NFEC)의 심의를 받지 않으면 안되어, 결과가 나오는데 통상 3개월 이상 걸린다.광주(광주) 과학기술원(GIST) AI대학의 김·종원 원장은, 「일반적으로 AI연구에는, NVIDIA의 GPU가 적어도 8개 필요하다」라고 해, 「GPU8개와 서버의 구매 가격만으로도, 대략 5억원이다.그 예산을 확보해도, 심의를 거치면 실제로 연구할 때까지 훨씬 시간이 늦는다」라고 이야기했다.김 원장은, 「대학이, AI팁을 공동으로 사용하는 연구 센터를 만드는 등의 대안이 필요하다」라고 조언 한