다음 AI 요약 서비스, 업스테이지 '솔라'와 세레브라스 칩으로 1초대 초고속 검색 구현

국내 대표 AI 스타트업 업스테이지가 자사의 거대언어모델(LLM)인 '솔라(Solar) 31B'를 미국 반도체 기업 세레브라스(Cerebras)의 웨이퍼규모엔진(WSE) 기반으로 구동하여, 포털 사이트 다음(Daum)의 AI 요약 서비스 및 B2B AI 솔루션에 본격 적용한다고 밝혔습니다.

업스테이지는 최근 AXZ 인수를 마무리한 뒤, 이번 달 1일부터 다음에 솔라 모델 기반의 AI 요약 기능을 제공하고 있습니다. 특히 이번 도입은 AI 서비스의 핵심 과제인 '추론 속도'를 획기적으로 단축했다는 점에서 업계의 이목을 끌고 있습니다.

1초의 차이가 만드는 검색 경험의 혁신

업스테이지가 공개한 데모 시연에 따르면, 세레브라스 WSE 위에서 구동되는 AI 요약 서비스는 사용자가 키워드를 검색했을 때 불과 1~2초 내에 답변을 생성해 내는 성능을 입증했습니다. 이는 기존 엔비디아(NVIDIA) 칩을 기반으로 한 비교군 대비 최소 1초 이상 빠른 추론 속도입니다.

일반적으로 디지털 마케팅과 포털 검색 환경에서 '1초'의 지연 시간(Latency)은 사용자의 이탈률과 직결되는 매우 민감한 요소로 관측됩니다. 생성형 AI 검색이 대중화되는 시점에서, 사용자가 체감하는 대기 시간을 절반 가까이 줄인 것은 다음(Daum) 검색 플랫폼의 사용자 유지율(Retention)과 만족도를 크게 높일 수 있는 강력한 무기가 될 것으로 추정됩니다.

엔비디아 대안으로 증명된 세레브라스의 잠재력

이번 사례는 하드웨어 측면에서도 중요한 시사점을 남깁니다. 현재 글로벌 AI 시장은 엔비디아의 GPU에 크게 의존하고 있으나, 높은 비용과 공급 부족 문제가 지속적으로 제기되어 왔습니다. 이러한 맥락에서 업계에서는 세레브라스의 WSE가 초고속 추론(Inference) 영역에서 훌륭한 대안이 될 수 있을 것으로 기대하고 있습니다.

실제로 대규모 트래픽이 발생하는 대형 포털의 상용 서비스에 세레브라스 기반의 LLM이 안정적으로 도입되어 우수한 성능을 냈다는 사실은, 향후 AI 인프라 시장의 다변화를 촉진할 중요한 레퍼런스로 평가받을 만합니다.

실시간 처리가 필수적인 B2B 산업으로의 확장

업스테이지는 포털 검색을 넘어, 추론 속도가 비즈니스의 핵심 경쟁력이 되는 다양한 산업 분야로 세레브라스 활용 범위를 넓혀갈 계획입니다. 대표적으로 언급된 분야는 다음과 같습니다.

• 금융 산업: 실시간 이상 거래 탐지 및 초고속 고객 맞춤형 금융 상품 추천
• 보험 산업: 즉각적인 약관 분석 및 실시간 고객 CS 대응 자동화
• 제조 산업: 생산 라인의 실시간 데이터 분석 및 공정 최적화 지시

이처럼 즉각적인 데이터 처리와 판단이 요구되는 B2B 엔터프라이즈 환경에서, 지연 없는 AI 모델의 도입은 기업의 생산성을 극대화하는 핵심 열쇠가 될 것으로 전망됩니다.

BARO 인사이트

포털 다음(Daum)의 AI 요약 서비스가 1~2초대로 빨라졌다는 것은, 검색 유저들이 기존의 웹페이지 링크를 클릭하기보다 최상단에 노출되는 AI 요약 결과에 더욱 의존하게 될 것임을 암시합니다. 이는 퍼포먼스 마케터와 SEO 전문가들에게 새로운 과제를 던져줍니다. 이제 브랜드의 콘텐츠는 단순히 키워드에 맞춰 상위 노출되는 것을 넘어, 업스테이지의 '솔라'와 같은 LLM이 빠르고 정확하게 읽어내어 요약할 수 있도록 구조화된 데이터 형태로 최적화(LLMO, Large Language Model Optimization)되어야 합니다.

또한, B2B 영역에서 AI 추론 속도의 혁신은 마케팅 에이전시의 업무 자동화에도 큰 영향을 미칠 것입니다. 금융이나 제조뿐만 아니라 광고 산업에서도 실시간 입찰(RTB) 데이터 분석, 초개인화된 광고 소재의 실시간 생성 및 A/B 테스트 등에서 초고속 AI 모델을 활용할 여지가 많아졌습니다. BARO Interactive 역시 이러한 하드웨어 및 모델의 발전 트렌드를 예의주시하며, 자사의 데이터 기반 퍼포먼스 마케팅 자동화 솔루션에 지연 없는 실시간 AI 기술을 접목하여 광고주의 캠페인 효율을 극대화하는 방안을 지속적으로 연구해 나갈 것입니다.