사진=Unsplash
사진=Unsplash

[다이어리포인트=엄주용 기자] 구글이 인공지능(AI) 모델의 메모리 사용량을 획기적으로 줄이는 압축 기술 '터보퀀트(TurboQuant)'를 내놓으면서 글로벌 반도체 시장이 요동쳤다.

지난 24일(현지 시각) 구글 리서치가 공식 블로그와 SNS를 통해 공개한 이 기술은 AI 모델이 대화를 처리할 때 임시 저장하는 핵심 데이터인 KV(Key-Value) 캐시 메모리를 기존 대비 최소 6분의 1 수준으로 줄이는 양자화 알고리즘이다.

터보퀀트의 핵심은 기존 16비트 또는 32비트 방식으로 저장하던 KV 캐시를 최대 3비트까지 압축하면서도 모델 정확도 손실이 없다는 점이다. 엔비디아 H100 GPU 환경에서 어텐션 연산 속도는 32비트 대비 최대 8배 빠른 것으로 나타났다. 다만 이 수치는 AI 전체 추론 속도가 아닌 어텐션 연산 구간에 한정된 것으로 실제 서비스 전체 응답 속도 향상 폭은 이보다 낮을 수 있다. 이 기술은 오는 4월 머신러닝 분야 주요 학술대회인 ICLR 2026에서 정식 발표될 예정이다.

시장의 반응은 즉각적이었다. 발표 다음 날인 26일 삼성전자는 전일 대비 4.71% 하락한 18만100원에, SK하이닉스는 6.23% 급락한 93만3000원에 장을 마감했다. AI 수요 확대의 핵심 수혜주로 꼽혀온 고대역폭메모리(HBM) 업체들이 직격탄을 맞은 것이다. 터보퀀트가 실제 상용화될 경우 AI 서버 한 대에 필요한 메모리 용량이 크게 줄어들어 HBM 수요 구조 자체가 흔들릴 수 있다는 우려가 투자심리를 짓눌렀다.​

그러나 업계에서는 충격이 과도하다는 반론도 만만치 않다. 반도체 업계 전문가들은 터보퀀트가 아직 연구 논문 단계이며 실제 상용 AI 서비스에 적용되기까지는 상당한 시간이 필요하다고 지적한다. 오히려 메모리 효율이 높아지면 AI 모델을 더 저렴하게 운용할 수 있어 AI 서비스 확산이 가속화되고 장기적으로 메모리 수요가 늘어날 수 있다는 낙관론도 제기된다.

구글은 터보퀀트가 LLM뿐 아니라 벡터 검색 엔진에도 적용 가능해 검색 서비스의 속도와 효율을 동시에 높일 수 있다는 점을 강조했다. 이번 기술이 실제 구글 검색과 AI 제품에 어느 시점에 어떤 방식으로 적용될지에 관심이 모이는 가운데, 반도체 시장은 당분간 기술 상용화 속도를 예의 주시하는 관망세가 이어질 것으로 보인다.