처음엔 그냥 자극적인 문장이라고 생각했다.
“AI는 초딩 수준.”
요즘 모델이 하는 걸 보면, 이 말은 분명 기술적으로 거칠다. 그런데도 그 문장이 오래 남았다. 이유는 하나였다. 이 말이 모델의 능력을 평가하는 말이 아니라, 사람의 책임을 어디까지 놓쳤는지를 묻는 말처럼 들렸기 때문이다.
AI 활용 고지: 이 글은 생성형 AI를 활용해 구조화한 뒤, 사람의 해석과 편집을 거쳐 작성했습니다.
flowchart LR A[AI가 다 해줄 거라는 기대] --> B[검증 생략] B --> C[빠른 산출, 느린 신뢰] D[AI를 초안 엔진으로 배치] --> E[사람 검증/판단] E --> F[속도와 신뢰 동시 확보]
예전에는 일을 잘한다는 게 정답을 빨리 내는 능력이라고 믿었다. 지금은 다르다. 정답보다 먼저 필요한 건 누가 어디까지 책임지는지 설계하는 능력이다. 성능 좋은 모델 하나 붙였다고 조직이 자동으로 좋아지지는 않는다. 오히려 책임선이 흐려진 조직은 모델이 좋아질수록 더 크게 흔들린다.
유창함은 정확함의 증거가 아니다
AI가 무서운 이유는 틀려서가 아니다. 틀릴 때도 너무 그럴듯해서다.
문장은 매끈하고, 논리는 그럴듯하고, 자신감까지 있다. 그래서 사람은 쉽게 방심한다.
문제는 그 다음이다.
- 숫자 하나가 틀리고,
- 출처 하나가 비고,
- 맥락 한 줄이 빠진다.
그 순간 결과물은 초안이 아니라 리스크가 된다.
속도 중독은 생산성을 닮은 착각이다
AI를 도입하면 초안 속도는 정말 빨라진다. 여기까지는 사실이다. 다만 팀이 자주 놓치는 게 있다. 초안 속도와 최종 품질은 다른 지표라는 점이다.
현장에서 자주 보는 장면은 이렇다.
- 작성은 빨라졌는데,
- 검증/수정은 길어지고,
- 발행 후 정정 비용이 커진다.
시간을 번 게 아니라 시간의 성격이 바뀐 것이다. 앞단 생산 시간을 줄이고, 뒷단 신뢰 비용을 키운 셈이다.
짧은 실제 장면을 하나 떠올려보자.
한 팀이 금요일 저녁에 제안서 초안을 AI로 빠르게 완성해 보냈다. 월요일 아침, 고객이 딱 한 줄을 지적했다. “3페이지 시장 수치 출처가 어디죠?” 팀은 그 순간부터 본문 전체를 다시 뒤졌다. 이미 보낸 문서였기 때문에 수정만으로 끝나지 않았다. 신뢰를 다시 설명하는 메일, 내부 확인 회의, 일정 재조정이 연달아 붙었다.
초안은 2시간 빨라졌지만, 복구에는 2일이 걸렸다. 이게 지금 많은 팀이 겪는 현실이다.
”누가 최종 확인하나”가 없는 조직은 반복해서 다친다
결과가 좋으면 모두 AI를 칭찬한다. 결과가 나쁘면 모두 침묵한다.
이 장면이 반복되는 이유는 단순하다. 처음부터 최종 확인 책임자가 없었기 때문이다.
AI 시대에 제일 먼저 정해야 할 건 프롬프트가 아니다.
- 누가 사실을 닫는지
- 누가 발행 버튼을 누르는지
- 누가 잘못됐을 때 설명하고 책임지는지
이 세 가지가 정해지지 않으면, 모델을 바꿔도 사고 패턴은 바뀌지 않는다.
같은 문제가 어떻게 커지는지, 한 장면으로 보면
이 문제는 사실 한 사람의 실수에서 시작한다.
마감이 촉박한 실무자는 “일단 빨리”를 선택하고, AI가 만든 초안을 거의 그대로 넘긴다. 처음엔 별일 없다. 오히려 생산성이 좋아졌다는 칭찬을 듣는다. 하지만 이런 선택이 몇 번 반복되면 작은 오차가 쌓이고, 어느 순간 개인의 평판이 조용히 닳기 시작한다.
그 다음 타격은 팀으로 간다.
리더는 속도와 품질을 동시에 지켜야 하는데, 설계 없이 AI를 밀어 넣으면 둘 중 하나를 포기하게 된다. 속도를 잡으면 품질이 흔들리고, 품질을 잡으면 일정이 터진다. 여기서 중요한 건 리더의 역량보다 구조다. 문제는 사람이 아니라, “누가 언제 무엇을 검증하는가”가 빠진 프로세스다.
이 흐름은 결국 경영 숫자까지 올라간다.
초기에는 인건비 절감처럼 보인다. 하지만 뒤에서 정정 비용, 재작업 비용, 브랜드 신뢰 비용이 붙기 시작하면 계산이 달라진다. 절감한 비용보다 복구 비용이 더 커지는 순간, AI 도입은 성과가 아니라 부채가 된다.
그리고 마지막 판단은 언제나 고객이 내린다.
고객은 우리 내부 사정을 모른다. 고객이 보는 건 결과물 하나뿐이다. 그 결과가 믿을 만하면 다시 오고, 아니면 바로 떠난다. 그래서 고객 확보의 본질은 트래픽이 아니라 신뢰라는 말이 나온다.
이 장면을 더 크게 보면 교육과 사회의 문제로도 이어진다.
앞으로 중요한 능력은 “정답을 빨리 만드는 능력”만이 아니다. “그 정답의 근거를 끝까지 확인하는 습관”이 점점 더 중요해진다. 결국 AI 시대의 경쟁력은 지식량보다 검증 습관의 밀도에서 갈릴 가능성이 크다.
해법은 거창하지 않다: 역할을 다시 나누는 것
내가 지금 가장 현실적이라고 보는 구조는 단순하다.
- AI는 초안과 대안을 넓게 만든다.
- 사람은 사실과 맥락을 닫는다.
- 최종 책임자는 대외 발신을 결정한다.
AI에게 맡길 것:
- 초안/후보안 3~5개
- 비교표/체크리스트 생성
- 반복 포맷 자동화
사람에게 남길 것:
- 출처·수치·인용 확정
- 우선순위 결정
- 법무/브랜드 리스크 판단
- 최종 발행 승인
flowchart TD R[요청] --> A1[AI: 초안/후보안] A1 --> H[사람: 팩트 검증] H --> E[사람: 맥락 편집] E --> D[사람: 최종 결정] D --> P[발행/실행]
핵심은 AI를 낮춰보는 게 아니다. 오히려 반대다. AI를 강하게 쓰고 싶다면, AI가 잘하는 일과 사람이 책임져야 할 일을 냉정하게 분리해야 한다.
결국 고객 확보는 이 질문으로 수렴한다
“우리는 빠른가?”보다 중요한 질문은 “우리는 믿을 만한가?”다.
콘텐츠든 제품이든 고객은 결국 신뢰가 높은 쪽으로 이동한다.
그래서 AI 시대의 성장 공식은 생각보다 단순하다.
- AI로 속도를 확보하고
- 사람 검증으로 신뢰를 확보하고
- 그 루틴을 지치지 않게 반복한다
이 루프가 돌아가기 시작하면, 성과는 운이 아니라 구조가 된다.
마지막 문장
“AI는 초딩 수준”이라는 말은 기술 평가로는 거칠다.
하지만 운영 원칙으로는 유효하다.
그 문장은 우리에게 이렇게 묻는다.
너는 지금, AI에게 맡기면 안 되는 일을 맡기고 있지 않니?
이 질문에 끝까지 답하는 팀만이, 속도와 신뢰를 함께 가져간다.
그리고 오늘 당장 시작할 수 있는 건 단 하나다.
다음 발행물부터는 ‘출처·수치 최종 확인 담당자’ 이름을 문서 맨 아래에 명시해보자. 구조는 작은 습관에서 바뀐다.
다음 읽기
원본
- [한글더빙] “AI는 고작 초딩 수준” 카파시가 폭로한 챗GPT 실체 (YouTube) https://youtu.be/zT6n7dO7—8?si=4Yv2S5VE4HKs-WZG