다시 길어지는 요청
요즘 AI는 짧게 말해도 다 알아듣는다고들 한다. 실제로 그렇다. 얼마 전까지는 원하는 결과를 얻으려면 조건을 하나하나 적어야 했지만, 지금은 한 줄이면 된다. 모델이 좋아질수록 AI는 내가 말하지 않은 부분까지 알아서 정해서 만든다.
그런데 하나의 프로젝트를 며칠째 이어서 만들다 보면 이상한 일이 생긴다. 짧았던 요청문에 조건이 하나둘 붙고, 지난번에 말한 기준을 다시 적고, 그래도 어긋난 곳을 또 설명하게 된다. 문제가 생길 때마다 우리가 가장 먼저 고치는 것은 결국 요청문이다.
예를 들어보자. 내 사업의 현황을 한눈에 보는 대시보드를 바이브코딩으로 만든다고 하자. 이번 주 판매가 얼마나 나왔는지, 문의는 얼마나 들어왔는지, 콘텐츠 반응은 어떤지를 한 화면에 모아 보는 프로젝트다.
"이번 주 판매를 보여주는 화면을 만들어줘."
이 한 줄이면 화면이 나온다. 부탁하지 않았는데 상품별 판매 비중이 붙어 있고, 지난 7일 추이가 그래프로 그려져 있고, 환불 주문도 따로 표시되어 있다. 짧게 말했는데 기대보다 잘 나온다.
여기까지는 순조롭다. 문제는 그다음부터다.
문의 현황 화면을 새로 만들었더니, 멀쩡하던 판매 화면이 환불을 다시 포함해서 계산하고 있다. 콘텐츠 반응 화면을 붙였더니, 이번에는 조회수가 늘어난 것을 구매 가능성이 커진 것처럼 해석한다. 나는 조회수를 관심 신호로만 보는데, AI는 그렇게 보지 않았다.
그래서 조건을 붙인다.
"환불된 주문은 매출에서 빼줘."
"조회수는 매출과 연결해서 해석하지 마."
그 순간에는 좋아진다. 그런데 다음 기능을 붙이면 또 다른 곳이 어긋난다. 문의 화면은 멀쩡한데 판매 숫자가 지난번과 달라져 있고, 판매를 고치면 콘텐츠 화면이 흔들린다.
문제는 결과가 완전히 틀리지 않는다는 데 있다. 대체로 그럴듯하다. 그래서 한눈에 잡히지 않는다. 화면마다 숫자를 다시 열어보고, 지난번 화면과 나란히 놓고, AI가 어떤 기준으로 계산했는지 따라가야 한다.
기능 하나를 붙였을 뿐인데, 새로 만드는 시간보다 이미 만든 것을 다시 검수하는 시간이 더 오래 걸린다.
이쯤 되면 이상한 생각이 든다.
"요즘은 짧게 말해도 다 알아듣는다던데, 나는 왜 다시 길게 쓰고 있지?"
짧은 요청 뒤에 숨은 결정
"판매 화면을 만들어줘"라는 한 줄 뒤에는 사실 많은 결정이 숨어 있다. 매출에 환불된 주문을 포함할지, 테스트 결제는 제외할지, 세트 상품은 어떻게 셀지 같은 것들이다.
요청이 짧아졌다고 이 결정들이 사라진 것은 아니다. 누군가 대신 정하고 있을 뿐이다. 그 누군가가 AI다.
AI는 내가 말하지 않은 결정을 가장 흔하고 그럴듯한 쪽으로 정한다. 세상의 대시보드들이 대체로 그렇게 만들어져 있으니, 그렇게 만드는 것이 맞다고 추측하는 것이다. 모델이 좋아진다는 것은 이 추측이 점점 더 그럴듯해진다는 뜻이다.
짧게 끝나는 일이라면 이것으로 충분하다. 요약을 부탁하거나, 아이디어를 정리하거나, 문장을 다듬는 일은 흔하고 그럴듯한 결과면 된다.
하지만 내 사업의 기준은 흔한 쪽과 다를 때가 많다. 무엇을 매출로 볼지, 무엇을 문의로 셀지는 사업마다 다르다. AI의 추측이 내 기준과 다른 곳에서 결과가 어긋나고, 우리는 어긋난 곳마다 조건을 말로 덧붙인다.
그래서 짧았던 요청은 다시 길어진다.
처음에는 요청문이었다.
이번 주 판매 화면을 만들어줘.
조금 지나면 조건문이 된다.
이번 주 판매 화면을 만들어줘.
단, 환불 주문은 매출에서 제외하고,
테스트 결제도 빼고,
세트 상품은 개별 상품으로 풀어서 계산해줘.
더 지나면 작은 운영 매뉴얼이 된다.
이번 주 판매 화면을 만들어줘.
먼저 공식 판매 자료를 확인하고,
매출은 환불을 뺀 순매출로 계산하고,
지난번 대시보드의 계산 방식은 그대로 유지하고,
숫자가 맞는지 요약 카드와 그래프를 대조해줘.
불확실한 기준은 임의로 정하지 말고 먼저 물어봐.
이렇게 쓰면 결과는 확실히 좋아진다. 하지만 여기서 알아차려야 할 것이 있다.
기준도, 절차도, 검증도 전부 대화 안에만 있다.
짧은 말이 통하는 관계를 떠올려 보자.
10년 같이 일한 직원에게는 "그거 이번 주 것도 해줘" 한마디면 된다. 무엇이 매출이고 무엇을 빼야 하는지 다시 말할 필요가 없다. 짧은 말이 통하는 것은 말솜씨 덕분이 아니다. 그 한마디 뒤에 쌓여 있는 맥락 덕분이다.
AI와 일할 때도 똑같다. 짧게 말해도 내 뜻대로 나오는 사람은 따로 있다. 자기 기준이 이미 어딘가에 남아 있어서, AI가 추측하기 전에 그것을 먼저 보게 만든 사람이다.
그렇다면 AI에게는 왜 그 맥락이 쌓이지 않을까. 이 질문에 답하려면 우리가 AI를 어떤 존재로 오해하고 있는지부터 봐야 한다.
AI에 대한 가장 큰 오해
우리는 무의식적으로 AI를 어제 같이 일한 동료처럼 대한다.
지난번에 한 번 설명했으니 이번에도 알아들을 거라고 기대한다. 한 번 정해준 기준이니 다음에도 그대로 지킬 거라고 믿는다. "아까 말했잖아", "지난번처럼 해줘", "이 프로젝트에서는 원래 그렇게 하기로 했잖아"라고 생각한다.
그런데 AI는 그런 동료가 아니다.
AI에 가까운 모습은 실력은 뛰어난데, 매일 아침 처음 출근하는 직원이다. 이 직원은 빠르고 이해력도 좋다. 시키면 금방 만든다. 다만 그날 책상 위에 놓인 것만 가지고 일한다.
당신이 말해준 것은 직원 앞 책상에 메모처럼 올라간다. 그런데 이 책상에는 정해진 크기가 있다. 직원이 한 번에 펼쳐놓고 볼 수 있는 분량에는 한계가 있다. 이 책상을 컨텍스트 윈도우라고 부른다. 이름은 어렵지만 뜻은 단순하다.
컨텍스트 윈도우 = AI가 지금 이 작업에서 동시에 펼쳐볼 수 있는 자료의 크기
대화가 길어지면 책상이 점점 찬다. 처음에 올려둔 메모 위로 새 요청과 새 자료가 쌓이고, 먼저 올려둔 메모부터 가장자리로 밀려난다.
그래서 긴 대화의 후반부에서 AI가 앞에서 정한 기준을 슬그머니 어기는 일이 생긴다.
지금까지 나눈 하나의 대화, 열려 있는 창 하나가 이 직원의 하루다. 이 하나의 대화를 세션이라고 부른다.
세션 = AI와 나누는 하나의 대화 (창 하나)
세션을 닫고 새 창을 열면 책상은 다시 비워진 채로 하루가 시작된다.
여기까지 읽으면 이런 반론이 떠오를 수 있다.
"요즘 AI는 지난 대화도 기억하던데?"
맞다. 요즘 AI 도구들은 지난 대화에서 중요해 보이는 내용을 따로 적어두었다가 다음 대화에 꺼내 온다. 대화가 길어지면 앞부분을 요약해 책상을 비우기도 하고, 책상 자체도 계속 넓어지고 있다. 모델이 좋아질수록 이런 기능은 더 좋아질 것이다.
비유로 말하면 이 직원에게 개인 수첩이 생긴 것이다. 퇴근하기 전에 오늘 들은 이야기 가운데 중요해 보이는 것을 수첩에 적어 두고, 다음 날 아침 출근해서 그 수첩부터 펼쳐 본다. 책상은 여전히 매일 비워지지만, 수첩 덕분에 완전히 빈손으로 시작하지는 않는다.
그런데 그 수첩에 무엇이 적혀 있는지 보자.
직원이 대화를 듣고 중요해 보인다고 판단한 것이다. 당신이 기준으로 정해 준 매뉴얼이 아니다. 무엇을 적을지는 직원이 고르고, 적은 내용도 원래 대화를 자기 말로 줄여 쓴 것이다. "환불은 매출에서 뺀다"는 남았는데 "테스트 결제도 뺀다"는 빠질 수 있고, 지나가듯 한 말이 규칙처럼 남을 수도 있다.
그리고 이보다 더 근본적인 한계가 있다.
한 번도 정한 적 없는 기준은, 어떤 기억 기능으로도 남지 않는다.
앞에서 본 "판매 화면을 만들어줘" 한 줄을 떠올려 보자. 그 아래에는 환불을 뺄지, 테스트 결제를 뺄지, 세트 상품을 어떻게 셀지 같은 결정이 깔려 있었다. 이 가운데 상당수는 당신도 아직 내리지 않은 결정이다. 머릿속에 막연히 있거나, 결과를 보고 나서야 "이건 아닌데" 하고 알게 된다.
내리지 않은 결정은 AI가 기억할 수도, 알아낼 수도 없다. 그런 결정은 매번 AI가 추측으로 정한다.
추측은 매번 조금씩 다르다. 어떤 때는 매출 기준을 더 잘 챙기고, 어떤 때는 화면 구성 요청을 더 우선한다. 어떤 때는 빠진 부분을 물어보고, 어떤 때는 문맥상 그럴듯한 방향으로 정해 버린다. 같은 요청을 해도 결과가 매번 조금씩 달라지는 이유다.
여기서 또 다른 오해가 생긴다.
"AI가 아직 덜 똑똑해서 그런가?"
"모델이 더 좋아지면 해결되겠지."
모델이 좋아지면 분명 달라지는 것이 있다. 책상은 넓어지고, 기억은 길어지고, 추측은 더 그럴듯해진다.
그런데 바로 그 마지막이 문제다. 더 똑똑한 모델은 내가 정하지 않은 기준을 더 그럴듯하게 추측한다. 결과가 그럴듯할수록 어긋난 곳은 더 찾기 어렵다. 앞에서 본 긴 검수가 사라지는 것이 아니라, 어긋남이 더 잘 숨는 것이다.
모델이 아무리 좋아져도 가져갈 수 없는 일이 있다. 당신의 사업에서 무엇을 매출로 볼지, 무엇을 문의로 셀지, 무엇을 성공으로 볼지 정하는 일이다. 이것은 AI의 성능 문제가 아니라 결정권의 문제이고, 그 결정권은 처음부터 끝까지 당신에게 있다.
이 사실을 받아들이는 순간, 해결 방향도 달라진다. 할 일은 AI가 더 똑똑해지기를 기다리는 것이 아니다. 내가 내린 결정을, AI가 언제든 다시 펼쳐볼 수 있는 곳에 남기는 것이다.
AI를 위한 환경
매일 처음 출근하는 직원에게도 안정적으로 일을 시키는 방법이 있다.
그날그날 책상 위에 메모를 올려주는 대신, 작업장 게시판에 기준을 붙여두는 것이다. 직원이 새로 출근해도 같은 규칙을 볼 수 있게 만드는 것이다. 대표로 말하면, 같은 설명을 매일 반복하는 대신 매뉴얼을 하나 만들어 붙이는 일이다.
대화창은 책상이다. 세션이 끝나면 치워진다. 반면 프로젝트 안에 남긴 기준은 그 게시판에 가깝다. 직원이 새로 출근해도 다시 볼 수 있다.
예를 들어 프로젝트 안에 이런 기준이 남아 있다고 해보자.
매출은 결제 완료 금액에서 환불을 뺀 순매출로 본다.
테스트 결제는 모든 매출 계산에서 제외한다.
광고 제휴 제안과 스팸은 문의 수에 포함하지 않는다.
조회수는 관심 신호일 뿐, 구매 가능성으로 바로 해석하지 않는다.
이 문장들이 대화창이 아니라 프로젝트 안에 남아 있으면, AI는 새 세션에서도 다시 볼 수 있다. 어떤 자료를 공식으로 삼을지 남아 있으면 아무 자료나 믿고 계산하지 않는다. 이 프로젝트에서 먼저 확인해야 할 기준이 남아 있으면, 처음 출근한 직원에게도 출발점이 생긴다.
이것이 프롬프트를 잘 쓰는 일과 환경을 만드는 일의 차이다.
프롬프트를 잘 쓰는 것 = 오늘 책상 위에 좋은 메모를 올리는 일
환경을 만드는 것 = 내일 출근할 직원도 같은 메모를 보게 만드는 일
앞의 것은 한 번의 결과를 좋게 만든다. 뒤의 것은 반복되는 결과를 안정시킨다.
그래서 반복 작업에 정말 필요한 것은 더 긴 프롬프트가 아니다. 대화 안에만 있던 기준과 절차, 검증 가운데 무엇을 프로젝트에 남길지 가려내는 일이다.
물론 프롬프트가 필요 없다는 뜻은 아니다. 프롬프트는 매번 새로 하는 요청이고, 환경은 그 요청이 올라설 바닥이다.
바닥이 없으면 요청은 매번 흔들린다.
여기까지 왔으면 한 가지는 분명해졌을 것이다.
무언가 어긋날 때 우리가 본능적으로 손대는 곳은 프롬프트다. 하지만 프롬프트를 아무리 다듬어도 같은 문제가 반복된다면, 더 멋진 문장을 찾기 전에 봐야 할 것이 있다.
내가 지금 프롬프트에 무엇을 욱여넣고 있는가.
대화 안에만 있던 기준은 세션이 끝나면 사라진다. 그래서 매번 다시 말하고, 다시 시키고, 다시 확인하게 된다. 그 기준을 대화가 아니라 AI가 다음에도 펼쳐볼 수 있는 곳에 남겨두면 이 반복이 멈춘다.
그렇다면 그 기준은 어디에 남겨야 할까.
매일 처음 출근하는 직원에게 필요한 것은 더 긴 설명이 아니라, 기준이 정리된 작업장이다. 그 작업장을 만드는 가장 기본적인 도구가 폴더와 파일이다.
비개발자에게 폴더와 파일은 개발자의 형식처럼 보일 수 있다. 하지만 AI에게는 다르다. 폴더와 파일은 단순한 정리 도구가 아니다. AI에게 "여기는 기준, 여기는 자료, 여기는 작업, 여기는 검증"을 알려주는 구조다.
프롬프트에 모든 것을 다시 설명하던 방식에서 벗어나려면, 먼저 이 구조부터 만들어야 한다. 이것이 첫 번째 버튼, 구조다.
이 장에서 기억할 것
프롬프트는 필요하다. 하지만 프롬프트만으로는 반복되는 프로젝트를 안정시킬 수 없다. 프롬프트는 오늘 책상에 올리는 메모이고, 환경은 내일 다시 출근한 AI도 보는 게시판이다.
그러니 이제 질문을 바꿔야 한다.
"프롬프트를 어떻게 더 잘 쓰지?"가 아니라, "이 기준을 어디에 남겨야 다음에도 다시 쓸 수 있지?"
이 질문이 AI 사용자를 AI 네이티브로 옮겨놓는 첫 번째 전환이다.
다음 장에서는 그 첫 번째 버튼을 누른다. AI가 헤매지 않도록 프로젝트의 뼈대부터 세운다.