기억하는 AI를 만들며 배운 세 가지
2026.08 · 자체 서비스 「세이투」 구축 기준 · 화면은 실화면 · 읽는 시간 약 4분
AI가 말을 하게 만드는 것 자체는 하루면 됩니다. 어려운 건 대화가 쌓인 다음입니다. 저희가 직접 만들어 운영 중인 AI 대화 서비스를 세우면서, 정작 손이 많이 갔던 곳은 AI가 아니었다는 것을 세 가지로 적었습니다. AI를 붙인 서비스를 검토 중이시라면 견적을 받기 전에 읽어 두시면 좋습니다.
하나. 진짜 난이도는 「대화」가 아니라 「기억」입니다
AI를 붙여서 대화하게 만드는 일은 생각보다 쉽습니다. 문제는 그 대화가 수백 번 쌓였을 때입니다. 사람은 지난주에 한 이야기를 이번 주에 이어서 합니다. AI는 그냥 두면 「지난주에 말했잖아」에 딴소리를 합니다.
그래서 필요한 것이, 쌓인 대화 중에서 지금 이 순간에 필요한 것만 골라 다시 꺼내 오는 구조입니다. 전부 기억하게 만들면 비용이 감당이 안 되고, 안 하면 서비스가 얕아집니다. 저희 경험으로는 이 구조가 대화 서비스 품질의 8할이었습니다.
둘. 회원·결제·관리자가 AI보다 손이 많이 갑니다
겉으로 보면 AI가 서비스의 전부처럼 보입니다. 실제로 만들어 보면 일의 절반 이상이 AI 바깥에 있습니다 — 가입과 로그인, 이용권, 결제, 환불 처리, 그리고 운영자가 들여다볼 관리자 화면입니다.
이 부분은 화려하지 않은데 빠지면 서비스가 성립하지 않습니다. 그리고 새로 만들 때마다 같은 것을 다시 만들게 되는 자리이기도 합니다. 저희는 운세·심리테스트 서비스를 수년간 직접 운영하면서 이 부분을 공용으로 만들어 두었고, 새 서비스를 열 때는 그 위에 올립니다.
셋. 쓴 만큼 돈이 나가므로, 원가를 먼저 짭니다
AI는 손님이 한 번 쓸 때마다 돈이 나갑니다. 이 구조에서 원가 설계를 하지 않으면 손님이 늘수록 적자가 늘어나는 서비스가 됩니다. 매출이 오르는데 통장이 마르는, 가장 곤란한 형태입니다.
그래서 어떤 대화에 좋은 모델을 쓰고 어떤 대화에 가벼운 모델을 쓸지를 처음에 정해 둡니다. 첫 인사와 짧은 되묻기까지 비싼 모델로 받을 이유가 없습니다.
「운영 원가 설계」AI 견적을 받으실 때 이 한 가지는 꼭 물어보십시오견적을 받으실 때 「손님 한 명이 한 달 쓰면 AI 비용이 얼마나 나가는 구조입니까」를 물어보시길 권합니다. 이 질문에 답을 못 하는 곳은 만들어는 봤어도 운영은 안 해 본 곳입니다. 만드는 값은 한 번이지만 이 비용은 매달 나갑니다.
정리
- AI를 말하게 하는 것은 쉽고, 기억하게 하는 것이 어렵습니다
- 일의 절반 이상은 AI가 아니라 회원·결제·관리자에 들어갑니다
- 쓴 만큼 나가는 비용이라, 원가 설계를 안 하면 잘될수록 손해입니다
저희는 남의 서비스를 만들어 넘기고 끝내는 것이 아니라, 저희 서비스를 저희가 만들어 운영합니다. 위 세 가지는 그 자리에서 실제로 부딪쳐 본 것들이라, 견적서에는 잘 안 적히지만 문을 연 뒤에 반드시 만나게 되는 것들입니다.