[데일리한국 장정우 기자] SK텔레콤(SKT)이 개발 중인 ‘텔코 LLM’(통신업에 특화된 거대언어모델)을 오는 6월 선보인다. 

SKT는 30일 서울 중구 SKT타워에서 개최한 텔코 LLM 설명회를 통해 6월에 한국어 기반의 텔코LLM을 출시한 이후 해외 통신사와의 논의를 통해 글로벌 버전 개발 및 해외 진출에도 나설 계획이라고 밝혔다. 

에릭 데이비스 SKT AI 테크 컬래버레이션 담당은 “기존 LLM은 개체 인식, 상품 선택, 의도 파악 등 통신업에서 중요한 사항을 인식하지 못하고 상품과 관련된 내용도 영어 외에 한국어 데이터가 없어 통신업에 특화된 LLM이 필요한 상황”이라고 설명했다.

SKT의 텔코LLM은 오픈AI, 앤트로픽과의 협력을 통해 통신사의 서비스, 상품, 혜택 등의 데이터를 수집 및 학습시켜 개발되고 있다. 관련 데이터를 ‘에이닷엑스’, ‘GPT’, ‘클로드’ 등 범용모델 중심으로 학습시켜 활용하는 ‘멀티LLM’ 전략을 펼치는 것이 특징이다.

이를 통해 AI콘택센터, 유통망, 네트워크 운용, 사내 업무 등 통신업 전반에 최적화된 LLM을 사용할 수 있다.

고객센터에서 상담 중에는 고객에게 필요한 정보를 사내 데이터 기반으로 빠르게 답변 받을 수 있으며, 상담이 종료된 이후에도 상담 요약, 통계, 후속 업무까지도 안내 받을 수 있다. 또한 상담사에게 폭언이나 문제되는 발화가 발생할 때 상담사를 보호하기 위한 시스템 개입도 가능해진다.

정민영 SKT AI플랫폼 담당은 멀티 LLM 전략에 대해 “속도와 비용의 문제 때문에 어느정도 품질을 유지하면서 가장 빠르고 저렴한 모델을 찾는 것이 가장 중요하다”며 “모든 LLM의 결과를 보고 실시간으로 답변을 결정하기도 하지만 수요가 있는 부서와 개발팀의 평가를 거쳐 적합한 LLM을 결정하는 식으로 비용을 컨트롤하기도 한다”고 밝혔다.

그는 이어 “기술적으로 한국 외에도 표준용어를 공유하는 곳이 많아서 글로벌 확장이 손쉽게 될 것”이라고 덧붙였다.