일하는 ai

62. AI 한도의 절반은 낭비였습니다 토큰

9 min read

-

클로드나 챗GPT 같은 AI 비서를 업무에 붙여 쓰다 보면, 비싼 요금제를 끊어도 점심 전에 한도가 막혀 버리는 순간이 온다. 메이커 에반은 그 원인을 모델이 실제로 읽는 정보량에서 찾고, RTK가 결과를 먼저 요약해 AI에게 넘기는 방식으로 사용량과 답변 품질을 함께 다듬는 경험을 설명한다.

flowchart LR
A[비싼 요금제도 반나절이면 막히는 AI 비서 한도] --> B[프롬프트와 작업 결과를 모델이 뒤에서 많이 읽음]
B --> C[RTK가 긴 결과를 먼저 요약해서 전달]
C --> D[같은 요금제로 더 오래 쓰고 답이 더 깔끔해짐]

핵심 요약

  • AI 비서는 주고받은 말과 읽은 자료까지 단어 수처럼 계산돼 사용량이 빠르게 쌓인다고 설명한다.
  • 사용자가 배경 설명을 과하게 붙이거나, AI가 파일·검색 결과를 길게 읽을수록 한도가 빨리 닳고 답도 횡설수설해진다고 짚는다.
  • RTK는 긴 결과를 먼저 받아 짧게 요약한 뒤 AI에 넘기는 보조 역할로 소개된다.
  • 일주일 사용 후 체감으로는 점심 전에 막히던 흐름이 저녁 넘게 가고, 같은 요금제로 두 배 더 쓰는 느낌을 받았다고 말한다.
  • 광고하는 80~90% 절감이 모든 작업에 그대로 나오진 않지만, 평균적으로는 한도가 늦게 차는 변화가 분명했다고 정리한다.

왜 지금 중요한가

영상에서는 특히 클로드 같은 AI 비서가 점점 비싸지고, 같은 돈으로 시킬 수 있는 양은 줄어드는 분위기를 먼저 꺼낸다. 지난달엔 되던 작업이 이번 달엔 막히는 경험이 반복되니, 같은 요금제로 얼마나 오래 버티느냐가 바로 생산성 문제가 된다는 맥락이다.

주요 내용

1. 한도가 빨리 닳는 이유를 컨설턴트 비유로 풀어낸다

AI 비서를 외국인 컨설턴트에 비유하는 대목이 가장 이해가 쉽다. 시간당 과금이 아니라 주고받은 말 한마디, 읽은 자료 한 줄까지 전부 계산된다고 두고, 사용자가 회사 창립부터 어제 점심 메뉴까지 다 설명해 버리면 그만큼 사용량이 쌓인다고 말한다. 정보가 많아질수록 돈만 빠지는 게 아니라, 정작 중요한 포인트를 놓쳐서 답이 산만해지는 문제도 같이 생긴다고 연결한다.

2. 진짜 낭비는 답변과 작업 결과를 다시 읽는 구간에 있다

에반은 낭비가 가장 큰 자리를 답변 쪽에서 찾았다고 말한다. AI에게 “확인 좀 해봐”라고 시키면 파일을 열고, 검색하고, 결과를 받아보는 과정이 뒤에서 길게 이어지는데, 화면에 짧게 보이더라도 모델은 그 내용을 빠짐없이 다시 읽는다. RTK는 바로 이 지점에서 긴 결과를 먼저 받아 “결과는 이거고 문제는 두 개입니다”처럼 짧게 정리해 주는 보조로 설명된다.

3. RTK를 끼우면 사용량과 답변 품질이 같이 달라진다

이 도구를 쓰면 두 가지가 바뀐다고 정리한다. 첫째는 사용량 감소다. 둘째는 답변 품질이다. 쓸데없는 정보가 덜 들어가니 AI가 “정신 차린다”는 표현을 쓰는데, 횡설수설이 줄고 답이 한 번에 나온다고 말한다. 응답 속도도 빨라져서, 같은 한 시간 안에 체감상 1.5배쯤 더 끝내는 기분이라고 덧붙인다.

4. 설치는 짧고, 평가는 일주일 단위로 보라고 권한다

설치는 공식 사이트 안내를 따라가면 5분이 안 걸리고, 한 번 깔면 이후에는 AI 비서를 다시 켤 때 뒤에서 자동으로 동작한다고 설명한다. 다만 모든 경로를 RTK가 잡아주는 건 아니어서, AI 비서가 자체적으로 정보를 가져오는 일부 경로는 손을 못 댄다고 단점도 짚는다. 그래서 광고 문구처럼 모든 작업에서 80~90% 절감이 고정으로 나오진 않지만, 일주일 정도 써 보면서 한도가 얼마나 늦게 차는지 비교해 보라고 권한다.

원문 발화 하이라이트

  • [00:07] “제일 비싼 요금제 끊었는데 점심 먹기도 전에 오늘 사용량 다 썼습니다. 하고 막혀 버리는 거.”
  • [01:05] “우리가 사정을 너무 많이 풀어 줘요. 오늘 어떤 일을 해 주세요? 하면 끝낼 걸 회사 창립부터 어제 점심 메뉴까지 다 읊어 주는 거예요.”
  • [01:50] “알고 보니 한도 절반은 안 봐도 되는 정보를 AI한테 읽힌 값이었어요.”
  • [02:24] “AI 비서 옆에 똑똑한 보조 한 명 붙여 놓는 거예요.”
  • [03:57] “광고하는 80에서 90% 절감이 모든 작업에서 그대로 나오는 건 아니에요.”

바로 실행해 보기

  • 공식 사이트 설치 안내를 따라 RTK를 먼저 깔고, 쓰던 AI 비서를 다시 켜서 뒤에서 자동으로 붙는 상태를 만든다.
  • 설치 전후를 일주일 단위로 나눠서, 점심 전에 막히는지 저녁 넘게 가는지와 빨간 사용량 경고를 보는 빈도를 직접 비교해 본다.
  • AI에게 일을 시킬 때는 배경 설명을 길게 늘어놓는 방식과 꼭 필요한 맥락만 주는 방식을 각각 써 보고, 답이 한 번에 나오는지 다시 물어볼 일이 줄어드는지 확인한다.

참고

영상 메타

수집 품질

  • 자막 세그먼트: 165개
  • 자막 문자수: 3005자
  • 챕터 추출: 17개
  • 콘텐츠 생성: Subagent 기반

AI 생성 도구를 활용해 초안을 구성했고, 원영상 발화와 공개 자료를 교차 확인해 정리했습니다.

그래프 뷰

백링크