Hlib Chabaniuk

스플렁크, AI 토큰 비용 추적 강화로 관찰 수요 확대 대응

스플렁크, AI 토큰 비용 추적 강화로 관찰 수요 확대 대응
AI 토큰 비용 최적화

기업들이 생성형 AI와 코딩 에이전트 도입을 늘리면서 토큰 사용량과 비용 대비 성과를 가시화해야 한다는 요구가 커지고 있다. 스플렁크는 AI 관찰 기능이 토큰 낭비를 줄이고 운영 효율을 높이는 핵심 도구로 자리잡고 있다고 진단한다.

하이라이트

  • Splunk, Cisco 자회사, 'Splunk Agent Observability'에 토크노믹스 기능을 도입해 실시간 AI 토큰 비용 추적과 관리 기능을 강화함.
  • 오픈소스 및 오픈웨이트 모델 확산으로 중소·개인도 AI 모델 구축 가능해지며 AI 관찰 및 비용 관리 수요가 시장 전반으로 확대 중임.
  • Splunk 한국지사장에 따르면, LG전자 등 국내 약 600개 고객사 확보와 함께 5~6년간 연평균 두 자릿수 성장 기록 및 내년에도 두 자릿수 성장 목표.

AI 토큰 지출 관리와 관찰 기능 확대

서울경제신문을 인용한 Seoul Economic Daily에 따르면, Cisco 자회사 Splunk의 사업을 총괄하는 카말 하티 수석부사장은 16일 미국 콜로라도주 덴버에서 열린 인터뷰에서 AI 관찰 능력이 고객들이 주목하는 새로운 영역이며 앞으로 AI의 중요한 축이 된다고 밝혔다.

AI 관찰 능력은 AI 에이전트를 실시간으로 살피면서 시스템을 관리하고 중요도에 따라 문제를 처리하는 기능이다. 기업은 이를 통해 에이전트가 토큰을 어디에, 얼마나, 어떤 목적으로 쓰는지 확인할 수 있고, 통제 불능이나 예측 불가능성, 편향성, 중복 활동으로 인한 왜곡된 의사결정과 토큰 낭비를 줄일 수 있다.

하티 수석부사장은 자신이 아는 거의 모든 기업이 토큰 문제를 겪고 있다고 말한다. 기업들이 AI 도입과 함께 토큰 사용을 늘렸지만 가장 큰 예산을 투입하면서도 투자수익률을 명확히 알지 못하는 경우가 많고, 세부 소비량과 특정 에이전트의 성과를 연결하지 못하면 사실상 눈을 가리고 운영하는 것과 다르지 않다는 설명이다.

이 같은 문제를 해결하기 위해 Splunk는 'Splunk Agent Observability' 서비스에 토크노믹스 기능을 도입했다. 이를 통해 비용 청구 이전에 실시간 에이전트 관리로 AI 비용이 언제, 어디서, 왜 발생하는지 파악할 수 있게 했다.

오픈 모델 확산과 한국 수요 증가

오픈AI와 Anthropic의 모델 관련 이슈도 AI 관찰 중요성을 키우는 배경으로 거론된다. 하티 수석부사장은 주요 사건들이 알려지면서 고객들 사이에서 대응 필요성에 대한 인식이 커지고 있으며, 1년 전만 해도 흥미로운 주제였던 AI 관찰이 이제는 필수 영역이 됐다고 설명한다.

AI 코딩 도구의 확산도 토큰 소비 급증을 이끈다. 비크람 차터지 Splunk 수석 디렉터는 이날 패널 토론에서 비용 측면에서 뚜렷한 패턴이 나타나고 있으며, 그 중심에 코딩 에이전트가 있다고 말했다. Splunk 보안을 총괄하는 존 모건 수석부사장도 현재 토큰 사용이 주요 AI 공급사와 대기업에 집중돼 있지만 점차 더 넓은 시장으로 확산하면서 변화가 시작되고 있다고 본다.

폐쇄형 중심이던 시장에서 오픈소스와 오픈웨이트 모델이 퍼지는 점도 추적 수요를 키운다. Nvidia Nemotron, Google Gemma 같은 모델이 등장하면서 중소기업과 개인도 AI 모델을 구축할 수 있게 됐고, AI 관리가 특정 기업만의 과제가 아니라는 의미다. 하오 양 Splunk 부사장 겸 AI 수석은 1년 전에는 트래픽의 70%가 최첨단 폐쇄형 모델로 향했지만 지금은 반대로 70%가 다양한 오픈 모델로 향하고 있다고 설명한다.

토큰 사용 전략이 단순한 최대화에서 효율화로 이동하면서 AI 관찰 수요는 더 커질 전망이다. 차터지 수석 디렉터는 예산 급증을 계기로 시장이 성숙 단계에 접어들고 있으며, 에이전트의 의사결정을 개선하는 것만으로도 상당한 효율 향상이 가능하다고 내다본다.

한국에서도 관련 수요가 늘고 있다. LG전자를 포함한 국내 고객사는 약 600개사이며, 최원식 Splunk 한국지사장은 국내 사업이 지난 5~6년 동안 연평균 두 자릿수 성장을 이어왔고 소버린 AI와 보안 수요를 바탕으로 내년에도 두 자릿수 성장을 목표로 하고 있다고 밝혔다.

우리 매체는 SK그룹이 메모리 업황 호조를 배경으로 SK hynix를 그룹의 핵심 축으로 재정립하며, 임원 250명 대상 면담과 조직 재편 검토를 병행하고 있다고 전한 바 있습니다. 또한 솔리다임 구조 개편, AI컴퍼니 출범, 대규모 출자 계획 등을 통해 그룹의 AI 역량과 투자 축이 반도체 중심으로 모이고, 이에 맞춰 인사·행사 일정 조정까지 이어질 수 있다는 흐름을 짚었습니다.

이 자료는 제3자의 의견을 포함할 수 있으며, 이 웹페이지의 데이터 및 정보는 우리의 면책 조항에 따라 투자 조언을 구성하지 않습니다. 우리는 엄격한 편집 무결성을 준수하지만, 이 게시물에는 파트너의 제품에 대한 언급이 포함될 수 있습니다.