외울 필요는 없는데, 겪을 필요는 있어요

얼마 전에 이런 질문을 받았어요.

“그럼 이제 뭘 공부해야 해요?”

AI가 웬만한 건 다 알려주는데, 미리 외워두는 게 무슨 소용이냐는 거였죠.

저도 한동안 같은 생각이었어요. 그런데 답을 하려니까 막히더라고요.

지식을 세 층으로 나눠봤어요

1층은 끝났어요. 이건 논쟁할 게 없어요.

문법을 외우고 있는 것, 어떤 도구의 사용법을 아는 것, 설정 방법을 기억하는 것. 이건 이제 값이 거의 없어요. 찾으면 나오고, 물어보면 알려주니까요.

문제는 2층이었어요.

저도 2층은 필요 없다고 생각했어요

논리가 이랬어요.

3층만 튼튼하면 2층은 그때그때 배우면 되잖아요. 개념까지만 이해하면 적용은 맡기면 되고요. 배우는 비용이 거의 0이 됐으니까 미리 쌓아둘 이유가 없다.

그럴듯했는데, 한 가지가 안 풀렸어요.

3층은 어디서 오지?

예를 들어 이런 원칙이 있어요. 같은 데이터의 정답이 두 군데 있으면 안 된다.

이건 책에서 읽을 수 있어요. 한 줄이면 되고요.

그런데 읽은 사람과, 실제로 두 군데에 두었다가 값이 어긋나는 걸 본 사람은 달라요. 뒷사람은 새로운 상황에서도 그게 왜 위험한지 예측할 수 있거든요.

그러니까 3층은 2층과 별개 층이 아니라, 2층이 눌려서 만들어진 거예요.

다만 직접 터뜨릴 필요는 없어요

여기서 오해가 생기기 쉬워요. “그럼 결국 옛날처럼 몇 년 삽질해야 한다는 거네?”

아니에요. 필요한 건 내가 직접 사고를 내는 것이 아니라 실패 표면에 노출되는 것이에요.

이게 중요한 이유는, AI가 경험을 얻는 비용도 같이 낮췄기 때문이에요.

예전엔 10년 동안 100번 데어야 얻던 감각을, 지금은 사고 사례와 반례와 설명을 섞어서 훨씬 빨리 만들 수 있어요.

바뀐 건 이거예요.

경험이 필요없어진 게 아니라, 경험을 얻는 비용이 싸진 거예요.

그런데 0번 데인 사람과 100번 데인 사람이 같은 판정을 한다는 건 아직 별개의 주장이고요.

AI가 안 물어본 걸 꺼내주기도 해요

여기서 제가 한 번 틀렸어요.

처음엔 이렇게 생각했어요. “AI는 물어본 것에만 답하니까, 뭘 물어야 할지 모르면 그냥 넘어간다.”

반쯤 맞고 반쯤 틀려요. 요즘은 코드 전체를 놓고 “내가 언급하지 않은 위험도 찾아줘”라고 시킬 수 있거든요. 보안만 보는 검토, 동시성만 보는 검토, 접근성만 보는 검토를 각각 붙일 수도 있고요.

그런데 여기서 질문이 한 칸 올라가요.

동시성 검토가 필요하다는 걸 누가 알았죠?

검토 목록을 짜는 건 사람이에요. 그리고 그 목록은 대체로 데어본 것으로 채워져요.

숫자 두 개를 나란히 놓으면

이 주제로 참고할 만한 결과가 두 개 있어요. 서로 다른 연구라 직접 비교는 안 되지만, 나란히 놓으면 흥미로워요.

두 번째 연구에서는 경력 1표준편차 증가당 더 안전한 결과가 나올 확률이 1.43배였어요.

여기서 결론을 내면 안 돼요. 같은 사람을 놓고 속도와 정확성을 동시에 잰 게 아니니까요.

다만 가설 하나는 세워볼 수 있어요. AI가 경험의 가치를 없앤 게 아니라, 그 가치가 속도보다 판단 쪽에서 더 오래 남는 게 아닐까 하는 거요.

그런데 제 시스템에 문제가 하나 있어요

저는 제 판단을 규칙으로 적어서 기계에 넣어뒀어요. 이제 제가 없어도 그 검사가 돌아요.

좋은 일이라고 생각했는데, 쓰다 보니 걸리는 게 있었어요.

제가 규칙으로 만들 수 있는 건 제가 데어본 것까지예요. 겪지 않은 실패는 규칙으로 못 만들잖아요.

그러면 시스템이 제작자의 사각지대를 그대로 물려받아요. 그리고 더 나쁜 게, 자동화된 규모만큼 그걸 증폭해요. 제가 못 본 것을 팀 전체가 매번 똑같이 못 보게 되는 거죠.

다행히 여기엔 출구가 있어요. 시스템은 만든 사람보다 클 수 있거든요.

제 경험만 넣을 이유가 없어요. 업계 보안 점검 목록, 프레임워크 권장 사항, 정적 분석 규칙, 다른 팀의 사고 보고서까지 넣을 수 있어요.

그러면 구조가 바뀌어요.

그리고 여기서 진짜 문제가 나와요

시스템이 좋아질수록, 뒤에 오는 사람이 실패할 기회가 사라져요.

예전엔 실패가 학습으로 이어지는 경로가 있었어요. 지금은 그 경로가 짧아졌고요.

그러면 조직에 이런 역설이 생겨요.

지금의 생산성을 극대화하는 시스템이, 다음 세대의 판정자를 만드는 과정을 망가뜨려요.

(제가 만든 게 정확히 그거라서, 이 문장을 쓰는 게 편하지 않았어요.)

그래서 필요한 게 하나 더 있어요

생산하는 시스템 말고, 경험을 만들어내는 시스템이요.

일부러 장애를 낼 필요는 없어요. 대신 이런 것들이 가능해요.

이게 즉흥적인 제안은 아니에요. 자동화를 다루는 사람들을 연구한 쪽에서, 훈련 중에 자동화가 실패하는 장면을 일부러 보여주면 “기계를 과신하는 경향”이 유의하게 줄어든다는 결과가 있어요. 단순히 반복 연습만 시켜서는 안 줄어들고요.

그러니까 삽질은 없애되, 삽질이 주던 학습까지 없애면 안 되는 거예요.

다만 그 시스템도 세는 칸이 없어요

여기서 좀 우울해졌어요.

경험을 만들어내는 시스템의 산출물이 뭐죠? 판정할 줄 아는 사람이에요.

그리고 그건 이 이야기 내내 나왔던 그거예요. 세는 칸이 없는 것.

그래서 예산을 줄일 때 제일 먼저 잘려요. 성과가 3년 뒤에 나오고, 그것도 “안 일어난 사고”의 형태로 나오니까요.

비용은 세어지고 학습은 안 세어져요. 그래서 시장은 늘 비용 쪽만 자동화해요.

그래서 처음 질문으로 돌아가면

“뭘 공부해야 하냐”는 질문에 저는 이렇게 답하기로 했어요.

외울 필요는 없는데, 겪을 필요는 있어요.

문법과 사용법은 안 외워도 돼요. 그건 끝났어요.

대신 깨지는 걸 봐야 해요. 직접 깨뜨리든, 남이 깨진 걸 보든, 일부러 깨보든요. 그게 나중에 “뭘 물어야 할지”를 만들어 주거든요.

그리고 교육과 조직에 대해서는 이렇게 정리하고 싶어요.

없애야 할 건 경험이 아니라, 경험을 얻으려고 치르던 불필요한 비용이에요.

자동화해야 할 건 시행착오의 비용이지, 시행착오가 주던 학습이 아니고요.

제가 틀렸다면 이런 모습일 거예요

하나. 실패 노출 없이 원리만 배운 사람이 3~5년 뒤에 겪어본 사람과 구별되지 않으면, 이 글의 절반은 틀린 거예요. 2층은 정말 건너뛸 수 있었던 거고요.

둘. AI가 “당신이 안 물어본 것”을 사람보다 잘 찾아내게 되면, 질문 공간을 짜는 능력도 값이 떨어져요. 지금은 검토 목록을 사람이 짜지만, 그게 계속 그러리라는 보장은 없어요.

셋. 그리고 이 글에도 제게 유리한 구석이 있어요. “겪어본 사람이 필요하다”는 어쨌든 겪어본 제 자리를 지키는 문장이니까요. 그래서 마지막 두 절을 넣었어요. 제가 만든 시스템이 바로 그 겪을 기회를 없애고 있다는 것.

이 이야기는 네 편째예요. 첫 편은 AI 시대에 남는 능력이 무엇인가, 지난 편은 그 능력이 있는 자리가 몇 개인가였어요.

이번 편은 그 능력을 어떻게 얻느냐였고요. 네 편 다 답은 못 냈는데, 이번 건 그나마 처방까지는 갔네요.

그리고 이 시리즈를 닫으면서 처음 비유로 돌아가려고요.

AI가 내비게이션이라면, 지도는 누가 그리고 있을까요?

마지막 이야기는 지도가 없는 곳에서의 내비게이션이에요.