← JellyAI

AI 비용 폭탄: 토큰 사용료로 흔들리는 AI 산업 수익성

news
AI 모델 운영 비용, 특히 토큰 사용료가 예상을 뛰어넘는 수준으로 치솟아 AI 서비스를 제공하는 기업들이 심각한 수익성 압박을 받고 있습니다. 이는 단순히 기술적인 문제가 아니라, 대규모 언어 모델(LLM) 기반 제품 및 서비스의 가격 구조를 근본적으로 재고하게 만드는 비즈니스 모델의 위협입니다. 앞으로는 AI 기업들이 비용 효율성을 최우선 과제로 삼아 모델 경량화, 오픈소스 모델 활용, 하드웨어 최적화 경쟁에 돌입하며 AI 솔루션 개발 및 배포 방식에 큰 변화가 예상됩니다. 먼저 영향을 받는 곳은 LLM 기반 AI 비서, 콘텐츠 생성, 고객 서비스 챗봇 등을 제공하는 SaaS 기업들이며, 이들은 서비스 가격 인상이나 수익 모델 재조정을 강하게 압박받을 것입니다. 개발사들은 특정 업무에 특화된 소형 모델을 적극 도입하고, 기업들은 내부 데이터로 미세 조정한 경량 모델을 온프레미스에 구축하여 비용을 절감하는 한편, 실시간 대화 서비스에서는 응답 생성 방식 최적화로 토큰 사용량을 최소화할 것입니다.
원문 보기

Related reads

같이 보면 좋은 글