AI Agent 비용 줄이기: API, 구독, OAuth, 토큰 이야기

지난 글에서는 Telegram 그룹방을 주제별 AI 업무공간으로 나누어 쓰는 경험을 정리했습니다. 블로그 방, 연구 방, 브리핑 방처럼 공간을 나누면 AI Agent에게 일을 맡기기가 훨씬 편해집니다. 그런데 실제로 이렇게 쓰기 시작하면 곧 다른 질문이 따라옵니다. “이렇게 매일 시키면 비용은 얼마나 나올까?”라는 질문입니다.

 

처음에는 AI Agent 비용을 막연하게 생각했습니다. ChatGPT 구독료처럼 한 달에 얼마를 내면 끝나는 구조라고 여겼습니다. 하지만 Hermes Agent를 실제로 쓰면서 보니 비용은 조금 더 여러 층으로 나뉘어 있었습니다. 어떤 일은 구독 서비스 안에서 처리되고, 어떤 일은 API 호출로 계산되며, Google Drive나 Gmail을 쓰기 위해서는 OAuth 인증도 필요했습니다. 겉으로는 Telegram에 한 문장을 보내는 일이지만, 안쪽에서는 모델 호출, 도구 사용, 파일 읽기, 업로드, 토큰 계산이 함께 움직이고 있었습니다.

 

오늘 글은 비용을 겁주기 위한 글이 아닙니다. 오히려 비용 구조를 조금만 이해하면 개인 사용자도 훨씬 덜 불안하게 AI Agent를 쓸 수 있다는 이야기에 가깝습니다. 특히 교육전문직 업무처럼 반복 자료 정리, 글쓰기, 브리핑, 문서 초안 작성이 많은 환경에서는 비용을 아끼는 방식이 곧 업무 설계 방식과 연결됩니다.

 

1. 구독형 AI와 API형 AI는 돈이 나가는 방식이 다르다

 

가장 먼저 구분해야 할 것은 구독형 서비스와 API형 사용입니다. ChatGPT, Claude, Perplexity 같은 서비스는 대체로 월 구독료를 내고 웹이나 앱에서 사용합니다. 사용자는 “이번 질문에 몇 원이 들었는지”를 크게 의식하지 않습니다. 정해진 한도 안에서 쓰다가 제한이 걸리거나 속도가 느려지는 정도로 체감합니다.

 

반면 API는 호출한 만큼 비용이 계산됩니다. AI Agent가 모델에게 질문을 보내고 답을 받을 때 입력한 글자, 읽은 파일, 생성한 답변의 양이 비용에 영향을 줍니다. 정확히는 글자 수가 아니라 토큰이라는 단위로 계산됩니다. 긴 문서 여러 개를 읽히고, 자세한 보고서를 만들게 하고, 다시 수정 요청을 반복하면 비용이 조금씩 쌓입니다.

 

처음에는 이 방식이 부담스럽게 느껴졌습니다. 하지만 업무용 복사기나 문자 발송 비용을 생각해 보면 아주 낯선 구조는 아닙니다. 많이 쓰면 비용이 늘고, 불필요한 출력이나 반복을 줄이면 비용이 줄어듭니다. 차이는 AI Agent에서는 그 사용량이 대화와 파일 처리 속에 숨어 있다는 점입니다.

 

2. 토큰은 ‘AI가 읽고 쓰는 작업량’에 가깝다

 

토큰이라는 말을 처음 들으면 기술 용어처럼 느껴집니다. 저도 처음에는 모델별 가격표를 보며 조금 멀게 느꼈습니다. 그런데 실제 사용에서는 토큰을 “AI가 읽고 쓰는 작업량”으로 이해하면 충분했습니다.

 

예를 들어 “내일 일정 알려줘”처럼 짧은 요청은 읽을 내용도 적고 답변도 짧습니다. 반면 “이 30쪽짜리 자료를 읽고 교육전문직 연수 기획안으로 재구성해줘”라고 하면 AI가 읽어야 할 입력이 커집니다. 여기에 “표로 정리해줘”, “문체를 부드럽게 바꿔줘”, “다시 2쪽 분량으로 줄여줘” 같은 후속 요청이 이어지면 출력 토큰도 늘어납니다.

 

블로그 원고 준비도 마찬가지입니다. 매일 목차를 확인하고, 이전 글을 읽고, 다음 글을 쓰고, Word 파일과 이미지를 만들고, Google Drive에 올리는 과정은 단순 답변보다 작업량이 큽니다. 다만 이 작업은 제가 직접 하면 훨씬 긴 시간이 드는 일입니다. 그래서 비용을 판단할 때는 “무료냐 유료냐”보다 “이 비용으로 어느 정도 시간을 줄였는가”를 함께 보게 됩니다.

 

3. 비용을 줄이는 첫 방법은 요청을 작게 나누는 것이다

 

AI Agent에게 일을 맡길 때 처음부터 너무 큰 요청을 던지면 비용과 품질이 함께 흔들릴 수 있습니다. “교육전문직 AI 활용 연수 전체를 설계해줘”라고 하면 Agent는 넓은 범위를 한 번에 추측해야 합니다. 결과가 길어지고, 다시 고쳐야 할 가능성도 커집니다.

 

요즘은 요청을 조금 더 작게 나누려고 합니다. 먼저 “연수 대상과 목표를 기준으로 큰 목차를 잡아줘”라고 하고, 다음에는 “1차시 활동안을 자세히 써줘”라고 합니다. 문서 검토도 “전체를 완전히 다시 써줘”보다 “표현이 딱딱한 문단만 자연스럽게 바꿔줘”처럼 범위를 좁힙니다.

 

이 방식은 비용만 줄이는 것이 아닙니다. 결과물을 검토하기도 쉬워집니다. 교육현장 업무에서 실수 없이 문서를 다루려면 사람이 중간중간 판단해야 합니다. 작은 단위로 맡기면 AI Agent가 어디까지 잘했고 어디부터 사람이 고쳐야 하는지 보입니다. 비용 절감과 검토 책임이 같은 방향으로 움직이는 셈입니다.

 

4. 매번 긴 배경 설명을 반복하지 않게 만드는 것도 절약이다

 

Telegram 방을 주제별로 나눈 이유도 비용과 연결됩니다. 매번 “나는 교육공학 박사이고, 교육전문직 관점에서 블로그를 쓰고 있으며, 티스토리 카테고리는 AI Agents이고…”처럼 긴 배경을 반복한다면 그 설명도 모두 입력 토큰이 됩니다. 대화방의 목적, 로컬 폴더, 목차 파일, 작성 스타일이 정리되어 있으면 반복 설명을 줄일 수 있습니다.

 

Hermes Agent에서는 작업 폴더와 목차 파일을 정해 두는 방식이 도움이 되었습니다. 블로그 글을 준비할 때마다 Agent는 `00_목차.md`를 확인하고, `01_초안`과 `02_발행완료` 폴더를 봅니다. 사람은 긴 설명을 다시 쓰지 않아도 되고, Agent는 필요한 자료를 기준으로 다음 작업을 찾습니다.

 

교육청이나 학교 업무에서도 비슷합니다. 연수 계획서 양식, 공문 예시, 보고서 형식, 자주 쓰는 문구를 폴더에 정리해 두면 매번 긴 요구사항을 새로 쓰지 않아도 됩니다. 물론 민감정보는 빼고, 접근 권한을 신중히 정해야 합니다. 잘 정리된 업무 맥락은 편의성뿐 아니라 비용 절약에도 도움이 됩니다.

 

5. OAuth는 비용보다 ‘권한’의 문제로 봐야 한다

 

AI Agent를 쓰다 보면 Gmail, Calendar, Google Drive 같은 서비스를 연결하고 싶어집니다. 이때 등장하는 것이 OAuth입니다. OAuth는 비밀번호를 AI Agent에게 알려 주는 방식이 아니라, 정해진 범위의 권한을 허락하는 방식입니다. 예를 들어 Drive 파일을 업로드하거나 Calendar 일정을 읽으려면 해당 권한이 필요합니다.

 

처음에는 OAuth 설정이 조금 번거롭게 느껴졌습니다. Google Cloud에서 API를 켜고, 클라이언트 정보를 만들고, 인증을 거쳐야 하기 때문입니다. 하지만 이 과정은 비용보다 안전과 권한 관리에 가깝습니다. AI Agent가 어떤 서비스에 접근할 수 있는지, 읽기만 할지 쓰기도 할지, 공유 범위를 바꿀 수 있는지 정하는 과정입니다.

 

저는 블로그 자동화에서도 선을 정해 두었습니다. Hermes Agent가 원고와 이미지를 만들고 Google Drive에 업로드는 하지만, 티스토리에 자동 발행하지는 않습니다. Drive 공유 범위도 함부로 전체 공개로 바꾸지 않습니다. 마지막 발행과 공개 판단은 사람이 합니다. 비용을 줄이는 것만큼 중요한 것은 권한을 작게 열어 두는 일입니다.

 

6. 싼 모델과 좋은 모델을 섞어 쓰는 감각이 필요하다

 

AI Agent 비용을 줄이려면 모든 작업에 가장 비싼 모델을 쓸 필요는 없습니다. 간단한 분류, 파일명 정리, 짧은 요약, 형식 변환은 상대적으로 가벼운 모델로도 충분할 때가 많습니다. 반대로 긴 글의 구조를 잡거나, 교육적 맥락을 살려 문장을 다듬거나, 오류가 나면 원인을 찾아 고쳐야 하는 작업은 더 성능 좋은 모델이 필요할 수 있습니다.

 

사람 업무에서도 비슷합니다. 모든 일을 최고 의사결정자가 직접 처리하지 않습니다. 단순 정리는 실무자가 하고, 중요한 판단은 책임자가 합니다. AI Agent도 마찬가지로 볼 수 있습니다. 작은 일은 가볍게, 중요한 일은 신중하게 맡기는 구분이 필요합니다.

 

개인 사용자인 저에게는 이 감각이 아직 실험 중입니다. 어떤 모델이 글쓰기에는 자연스럽고, 어떤 모델이 코드를 고치는 데 안정적인지, 어떤 작업은 굳이 큰 모델을 쓰지 않아도 되는지 계속 비교하게 됩니다. 비용 절감은 단순히 싼 것을 고르는 문제가 아니라 일의 성격에 맞게 모델을 배치하는 문제였습니다.

 

7. 교육현장 도입에서는 ‘예산’보다 ‘사용 기준’이 먼저다

 

학교나 교육청에서 AI Agent를 도입한다면 비용 이야기는 더 중요해집니다. 개인은 조금 써 보고 조정할 수 있지만, 기관은 예산, 보안, 개인정보, 책임 소재를 함께 봐야 합니다. “한 달에 얼마인가”만으로는 충분하지 않습니다. 누가 어떤 업무에 사용할지, 어떤 자료는 넣으면 안 되는지, 결과물 검토는 누가 할지, API 사용량은 어떻게 확인할지 기준이 필요합니다.

 

교육현장에서는 무료 도구를 선호하는 경향이 있습니다. 예산이 제한되어 있으니 자연스러운 일입니다. 하지만 무료라는 이유만으로 권한과 데이터 흐름을 확인하지 않고 쓰는 것은 위험할 수 있습니다. 반대로 유료 도구라도 사용 범위와 비용 상한, 로그 확인, 개인정보 제외 원칙이 있으면 더 안전하게 운영할 수 있습니다.

 

AI Agent의 비용 문제는 결국 업무경감의 지속 가능성과 연결됩니다. 한두 번 신기하게 써 보는 수준을 넘어 매일 쓰려면 비용이 예측 가능해야 합니다. 그리고 예측 가능하려면 사용 기준이 있어야 합니다. 저는 개인 블로그 자동화 실험을 하면서 이 기준을 조금씩 배워 가고 있습니다.

 

마무리하며

 

AI Agent를 쓰면서 비용은 피하고 싶은 주제가 아니라, 오히려 빨리 이해해야 할 주제라는 생각이 들었습니다. API, 구독, OAuth, 토큰은 어렵게 들리지만 실제로는 “무슨 일을 얼마나 맡길 것인가”, “어떤 권한을 열어 줄 것인가”, “사람이 어디서 확인할 것인가”의 문제로 이어집니다.

 

저에게 비용을 줄이는 가장 현실적인 방법은 무조건 적게 쓰는 것이 아니었습니다. 반복 설명을 줄이고, 작업 단위를 작게 나누고, 권한을 필요한 만큼만 열고, 중요한 작업에는 좋은 모델을 쓰는 방식이었습니다. 그렇게 해야 AI Agent가 일회성 장난감이 아니라 매일 쓸 수 있는 업무 도구가 됩니다.