미국의 대표적 빅테크인 구글과 ‘키미 K3 쇼크’를 불러온 중국 인공지능(AI) 스타트업 문샷AI가 나란히 연산량을 줄이는 효율화 전략을 들고나왔다. 연산량을 줄이면 통상 메모리 수요도 줄지만 구글의 AI 모델 특화 칩 생산과 문샷AI의 ‘거대 파라미터(매개변수)’ 전략은 거꾸로 메모리 수요 확대 기회가 될 수 있다는 전망도 제기된다. AI 기술 개발이 새로운 수요를 몰고와 한국 고대역폭메모리(HBM) 업계에 훈풍이 불 수 있다는 의미다. 20일(현지 시간) 미국 정보기술(IT) 전문 매체인 디인포메이션은 소식통을 인용해 구글이 ‘프로즌 v2’라는 내부 코드명을 지닌 새 AI 칩을 개발하고 있다고 보도했다. 프로즌 v2는 구글이 엔비디아의 그래픽처리장치(GPU) 의존도를 낮추기 위해 자체적으로 개발한 맞춤형 칩인 텐서처리장치(TPU)와는 별도로 개발되고 있다. 2028년 데이터센터 서버에 배치하는 것이 목표다. 이날 소식이 전해지자 알파벳 주가는 1.51% 상승 마감했다. TPU는 구글이 클라우드(인터넷으로 연결된 대규모 가상 저장 공간) 임대를 통해 고객사들이 이용할 수 있는 범용 칩이다. 반면 프로즌 v2는 칩 자체에 제미나이의 데이터 처리 방식과 가중치 등 주요 정보를 탑재해 제미나이 구동 능력을 극대화한 특화 칩이다. 모바일 바다상어이야기 과거 제프 딘 구글 수석과학자가 추진했던 프로즌 초기 버전의 아이디어를 활용했다. 구글은 프로즌 v2로 제미나이를 구동하면 전력 단위당 토큰 처리량이 TPU보다 6∼10배 늘고 응답 속도도 빨라질 것으로 기대하고 있다. 실행할 때마다 반복하던 연산 단계(아키텍처)를 칩 자체에 고정(하드코딩)했기 때문이다. 구글은 다만 아직 이 칩에 얼마나 많은 정보를 넣을지 결정하지 않은 상태이며 대규모 양산까지는 구상하지 않는 것으로 전해졌다. 구글이 제미나이용 칩을 개발하는 배경은 연산 자원 부족 사태를 완화하기 위한 전략이라는 해석이 나온다. 구글은 3대 클라우드 기업임에도 최근 스페이스X에 매월 9억 2000만 달러(약 1조 3566억 원)를 지불하며 데이터센터를 임차하는 계약을 체결했다. 내부 개발용 연산 자원까지 부족해지자 대형 고객인 메타의 컴퓨팅 사용량을 제한했다는 보도까지 나왔다. - 구글의 AI 칩 라인업 확장은 삼성전자(005930)에 호재가 될 수 있다. 디인포메이션은 올해 6월 TSMC의 생산능력이 포화되면서 구글이 10세대 TPU 핵심 부품 생산을 삼성전자 파운드리(반도체 위탁 생산) 사업부에 맡기는 방안을 논의 중이라고 보도했다. 이달 초에는 앤트로픽이 삼성전자와 AI 칩 생산을 협의 중이라고 전했다. 레알야마토 맞춤형 칩 전략을 강조하는 SK하이닉스도 가능성이 열려 있다. 디인포메이션은 구글이 외부의 설계와 제조 파트너를 프로젝트에 참여시킬 수 있다고 전했다. 키미 K3 또한 연산 효율성을 장.으로 앞세웠지만 속을 들여다보면 ‘메모리 수요 증가’ 가 예상된다고 블룸버그통신은 전했다. 키미 K3는 파라미터 수가 2조 8000억 개로 중국에서 나온 모델 가운데 가장 크다. 반면 컴퓨팅(연산 처리) 효율성을 나타내는 지표인 ‘희소비율(sparsity ratio)’은 사상 최고 수준이다. 키미는 거대한 모델을 여러 개의 작은 신경망(모듈)로 쪼개 각자 특화한 뒤 필요한 부분만 사용하도록 설계했다. 구글의 프로즌 v2가 질문을 고정해 효율을 높였다면 키미는 매번 다른 조합으로 토큰 사용을 줄인 셈이다. 다만 키미의 이 모델이 구동되려면 2조 8000억 개의 매개변수 자체는 모두 메모리에 저장돼야 한다. 블룸버그는 저정밀도 데이터 형식으로 모델을 압축하더라도 1.4테라바이트의 메모리가 필요하다고 분석했다. 기존 비교군 중에서는 엔비디아의 ‘블랙웰 GB300’ 시스템 규모의 AI 랙 시스템이 필요하다는 것이다. 키미의 등장이 SK하이닉스와 삼성전자 수요로 이어질 수 있다는 전망이 나오는 이유다. 특히 중국 당국은 자국 AI 기업의 생산을 미국 파운드리에 맡기지 않도록 통제하려는 입장이어서 한국 기업에 더 유리한 상황이 될 수 있다. 0000; font