"어느 회사의 AI 모델을 쓰시나요?" 고객분들께 자주 듣는 질문입니다. 저희 대답은 대개 "경우에 따라 다릅니다"입니다.
하나에 묶이지 않는 이유
모델마다 잘하는 일이 다릅니다. 긴 문서를 잘 읽는 모델이 있고, 중국어를 더 자연스럽게 쓰는 모델이 있으며, 싸고 빨라서 대량의 단순 작업에 알맞은 모델도 있습니다. 프로젝트를 한 회사의 모델에 묶어 두면 이런 선택지를 미리 포기하는 셈입니다. 게다가 모델은 아주 빠르게 바뀝니다. 오늘 가장 좋은 모델이 몇 달 뒤에도 가장 좋으리라는 보장은 없습니다.
모델을 고르는 방법
하나의 작업을 두고 여러 회사의 모델을 같은 실제 사례로 테스트한 뒤, 품질, 비용, 속도, 규정 준수 요건의 네 가지를 비교합니다. 중국 내 프로젝트에서는 DeepSeek, Qwen, Kimi, Zhipu GLM, Doubao를, 해외 프로젝트에서는 OpenAI, Claude, Gemini, Llama를 주로 씁니다. 한 시스템 안에서 두세 개의 모델이 일을 나눠 맡는 경우도 흔합니다.
데이터를 다루는 방식
- 고객 데이터로 모델을 학습하지 않는 기업용 API를 우선적으로 씁니다
- 데이터가 민감한 경우에는 오픈소스 모델을 고객의 자체 서버나 로컬 기기에 배포합니다
- 데이터 접근 권한은 꼭 필요한 만큼만 받고, 데이터를 어떻게 쓸지는 계약서에 명시합니다
- 로컬에서 처리할 수 있는 데이터는 업로드하지 않습니다
나중을 위한 여지
모델을 바꾸는 비용은 시스템을 설계할 때부터 고려합니다. 나중에 더 좋은 모델이 나오면 바꿔 끼우고 같은 사례로 한 번 테스트해서, 문제가 없으면 바로 쓸 수 있습니다.