AI를 검증하라, 그리고 맡겨라
AI를 의심하는 시기는 끝난다. 문제는 언제냐다. 지금 우리가 AI 결과물을 보고 “내가 더 정확하다”고 느끼는 이 감각은 일시적이다. 검증과 위임은 대립이 아니라 순서다. 지금 검증하지 않으면, 나중에 위임할 근거도 없다.
기준이 바뀌는 순간은 조용히 온다
화폐 계수기 이야기를 들었다. 처음 은행에 도입됐을 때는 계수기와 은행원의 숫자가 다르면 의심받는 건 계수기였다. “기계가 잘못 셌다”고 가정했고, 은행원이 센 숫자를 정답으로 채택했다. 지금은 반대다. 둘이 다르면 의심받는 건 은행원이다. “내가 잘못 셌나” 하며 다시 손가락을 움직이는 것도 은행원 본인이다. 계수기의 숫자는 그대로 정답 자리에 놓인다.
같은 상황, 같은 두 숫자, 같은 사람과 기계. 그런데 누가 정답이냐는 자리가 통째로 뒤바뀌었다.
이 전환이 일어난 시점을 정확히 짚을 수 있는 사람은 없다. 어느 날 갑자기 결정된 게 아니다. 한 번, 두 번, 백 번의 정확도가 쌓이는 사이에 기준이 슬그머니 자리를 옮겼을 뿐이다.
도구가 사람보다 정확하다는 합의는 늘 이런 식으로 온다. 발표문이 나오는 게 아니라, 어느 순간 “당연히 도구를 믿지”가 디폴트가 되어 있다. 캘린더 알람이 울리지 않으면 약속을 잊었다고 사과한다. 내비게이션이 다른 길을 안내하면 나의 감각이 틀렸다고 본다. 결국 사람의 직관은 도구의 보조 검증이 된다.
AI도 같은 길을 간다. 그게 5년이든 10년이든, 방향은 정해져 있다.
“내가 맞다”는 감각의 유효기간
지금 AI 결과물에는 결함이 있다. 코드 한 줄에 환각이 섞이고, 요약에는 핵심이 빠지고, 판단에는 맥락이 사라진다. 이걸 발견하면 우리는 안도한다. “아직은 내가 낫네.”
그 안도감이 문제다. 안도는 검증을 멈추게 만든다.
지금 AI가 80점을 받고 있다고 치자. 내가 90점이라면 나의 우위는 10점이다. 그런데 AI는 매년 점수가 오른다. 나는? 거의 그대로다. 우위가 5점, 2점, 0점으로 줄어들 때, 처음 안도했던 사람들은 검증을 멈췄기 때문에 그 변화의 속도를 가장 늦게 알아차린다.
직접 써보면 알게 되는데, AI를 깊게 검증하는 사람일수록 AI를 더 잘 활용한다. 결함의 패턴을 알기 때문에 어디서 믿고 어디서 의심해야 하는지 안다. 반면 “어차피 틀리니까”라며 멀리하는 사람은, 신뢰가 가능한 지점이 와도 그걸 못 알아본다. 의심을 멈추는 시기와 신뢰가 가능한 시기 사이의 시차가 너무 길어진다.
“내가 맞다”는 감각은 유효기간이 있다. 그 기간 동안 무엇을 하느냐가 다음 10년을 가른다.
검증은 위임의 전제 조건이다
AI를 무조건 거부하는 것도, 무조건 수용하는 것도 답이 아니다. 둘 다 검증을 건너뛴다는 점에서 같은 실수다.
검증은 단순한 의심이 아니다. “이 결과를 어떤 기준으로 받아들일지”에 대한 자기만의 척도를 만드는 일이다. 어떤 작업에서 AI는 일관되게 정확한가. 어떤 작업에서는 매번 같은 종류의 실수를 하는가. 그 패턴을 알면, 위임할 영역과 직접 할 영역의 선이 그어진다.
이 선을 가진 사람은 빠르게 위임한다. AI 성능이 한 단계 올라가면 그 선을 한 칸 옮기면 된다. 척도가 있기 때문에 옮길 수 있다. 척도가 없는 사람은 매번 처음부터 판단해야 한다. 평생 위임을 못 한다.
화폐 계수기의 시대에 살아남은 은행원은 계수기를 거부한 사람이 아니었다. 계수기를 가장 많이 써본 사람이었다. 계수기가 어떤 지폐에서 잘 틀리는지, 어떤 조건에서 정확한지를 아는 사람만이 계수기를 쓸지 말지 결정할 수 있었다.
지금 무엇을 해야 하나
거창한 준비는 없다. 매일 쓰는 도구로 AI를 끌어들이고, 그 결과를 직접 검증하는 습관을 들이는 것뿐이다.
검증은 시간이 든다. AI가 만든 코드를 읽고, 요약을 원문과 대조하고, 판단의 근거를 따져보는 일은 귀찮다. 그래서 대부분이 안 한다. 그게 기회다. 검증을 하는 5%가 결국 위임의 기준선을 가진 5%가 된다.
AI한테 이 글도 검증받아야 하나 싶지만. 그건 또 다른 이야기다.
결국 이건 도구에 대한 이야기가 아니다. 기준이 어디 있느냐의 이야기다. 지금은 사람이 기준이고 AI가 검증 대상이지만, 그 자리는 언젠가 바뀐다. 그 전환을 가장 먼저 알아채는 사람은 가장 오래, 가장 깊게 검증해온 사람이다.