생성형 AI를 능숙하게 쓰는 사람도 사고의 주도권을 잃을 수 있습니다. 특히 과거에 높은 성과를 낸 사람은 익숙한 성공 공식을 신뢰하고, AI가 빠르게 만든 결과를 자신의 판단과 혼동하기 쉽습니다.
그러나 ‘유능한 사람이 가장 먼저 무너진다’는 표현은 입증된 보편 법칙이 아닙니다. 핵심은 유능함 자체가 아니라 기존 능력에 대한 과신, 검증 없는 자동화, 새로운 시행착오의 회피가 결합할 때 생기는 취약성입니다.
‘유능함의 덫’은 무엇을 뜻하는가
유능함의 덫은 과거에 효과가 있었던 지식과 절차가 새로운 환경에서도 계속 통할 것이라고 믿는 상태를 가리킵니다. 숙련자는 초보자보다 경험이 많지만, 바로 그 경험 때문에 변화한 조건을 과소평가할 수도 있습니다.
생성형 AI 환경에서는 다음과 같은 경로로 문제가 나타납니다.
| 위험 경로 | 나타나는 모습 | 확인할 신호 | 대응 원칙 |
|---|---|---|---|
| 성공 공식의 고착 | 예전에 통했던 방식만 반복함 | 새로운 도구를 기존 업무의 속도 향상에만 사용함 | 업무의 목적과 전제부터 다시 검토함 |
| 자동화 편향 | AI 답변을 기본적으로 맞다고 봄 | 출처와 계산을 확인하지 않고 제출함 | 중요한 주장마다 독립 검증 절차를 둠 |
| 정체성 위협 | AI의 성능을 자신의 가치 하락으로 해석함 | 과도한 회피 또는 무분별한 자격증 수집으로 반응함 | 직무가 아니라 문제 정의·판단·관계 능력까지 역량을 분해함 |
| 시행착오 회피 | 가장 빠른 답만 선택함 | 실패 기록과 현장 관찰이 사라짐 | 작은 실험을 반복하고 결과를 기록함 |
| 학습의 착각 | 결과물을 이해한 것으로 오인함 | 설명하거나 변형하면 막힘 | AI 없이 재현하고 반례를 만들 수 있는지 확인함 |
Kodak 사례는 유능함의 덫을 설명할 때 자주 쓰이지만 단순화에 주의해야 합니다. Kodak 기술자가 초기 디지털카메라를 개발했다는 사실만으로 회사의 이후 위기를 설명할 수는 없습니다. 기술 전환, 기존 사업의 수익 구조, 경쟁, 투자와 실행 결정이 함께 작용한 복합적인 경영 사례입니다. 이 사례에서 얻을 수 있는 제한적인 교훈은 ‘새 기술을 먼저 알았는가’보다 ‘기존 강점을 잠식할 수 있는 변화에 조직이 실제로 대응했는가’가 중요하다는 점입니다.
사고의 외주화와 인지적 오프로딩
사람이 기억이나 계산을 외부 도구에 맡기는 현상을 인지적 오프로딩이라고 합니다. 메모, 계산기, 검색엔진도 모두 여기에 포함됩니다. 따라서 AI에 일부 작업을 맡기는 행위 자체를 지적 퇴보라고 단정할 수는 없습니다.
차이는 무엇을 맡기고 무엇을 보유하는가에 있습니다.
유익한 위임
- 긴 자료의 초벌 분류를 맡긴 뒤 원문을 직접 확인합니다.
- 자신이 만든 가설에 대한 반례를 요청합니다.
- 반복적인 형식 변환이나 문장 교정을 자동화합니다.
- 여러 선택지를 만든 뒤 최종 기준과 판단은 직접 정합니다.
위험한 위임
- 무엇을 해결해야 하는지 정하는 단계부터 AI에 맡깁니다.
- 이해하지 못한 답을 문체만 고쳐 제출합니다.
- 사실, 계산, 인용의 출처를 확인하지 않습니다.
- 자신의 경험과 맞지 않아도 그럴듯한 문장을 우선합니다.
- AI가 낸 자신감 있는 표현을 정확성의 증거로 받아들입니다.
사고력을 지키려면 AI 사용 전후에 사람이 수행해야 할 작업을 분리해야 합니다. 목표와 평가 기준은 사용 전에 정하고, 사실 검증과 책임 있는 결정은 사용 후에 수행하는 것이 기본 원칙입니다.
AI 답변이 사람을 ‘복사본’으로 만드는가
여러 사람이 비슷한 질문을 하고 첫 번째 답을 그대로 사용하면 결과가 유사해질 가능성은 큽니다. 생성형 AI는 학습 데이터와 사용자의 지시를 바탕으로 통계적으로 적절한 출력을 생성하므로, 맥락이 빈약한 요청에는 관습적인 구성과 표현을 내놓기 쉽습니다.
하지만 ‘학생 10명 중 9명의 답이 같다’와 같은 수치는 별도의 조사 없이 일반화해서는 안 됩니다. 결과의 유사성은 사용한 모델, 프롬프트, 과제 유형, 평가 방식과 수정 과정에 따라 달라집니다.
고유한 결과를 만들려면 화려한 프롬프트보다 다음과 같은 자기 자료가 필요합니다.
- 직접 관찰한 사례와 실패 기록
- 자신의 선택 기준과 이해관계
- 특정 현장의 제약 조건
- 기존 주장에 동의하지 않는 이유
- 결과를 평가할 반례와 금지 조건
- AI 초안을 삭제하거나 다시 쓴 편집 이력
‘원본성’은 AI를 전혀 사용하지 않았다는 표지가 아닙니다. 어떤 문제를 선택했고, 무엇을 관찰했으며, 어떤 근거로 AI의 제안을 채택하거나 버렸는지 설명할 수 있을 때 드러납니다.
AI가 당황하는 질문보다 중요한 것
AI는 정형화된 정답만 내고 인간은 엉뚱한 질문만 잘한다는 구분은 지나치게 단순합니다. 최신 생성형 AI도 은유, 아이디어 발상, 질문 생성과 가설 제안을 수행할 수 있습니다. 반대로 사람도 익숙한 정답을 반복할 수 있습니다.
‘사과 10개 중 3개를 먹으면 몇 개가 남는가’에 ‘먹은 3개가 몸에 남는다’고 답하는 예시는 창의성의 증명이라기보다 ‘남는다’의 의미를 바꾼 언어유희입니다. 이런 발상은 유용할 수 있지만 사실 문제의 정답과 창의적 재해석을 구분해야 합니다.
좋은 질문은 AI를 곤란하게 만드는 질문이 아니라 조사하거나 행동할 가치가 있는 불확실성을 드러내는 질문입니다.
심판자형 질문과 학습자형 질문
| 질문 방식 | 예시 | 예상되는 결과 |
|---|---|---|
| 심판자형 | 누가 이 실패를 망쳤는가? | 책임 공방에 머물 수 있음 |
| 학습자형 | 어떤 전제가 틀렸고 다음 실험에서 무엇을 바꿀 수 있는가? | 원인과 대안을 탐색함 |
| 확인형 | 내 의견을 뒷받침하는 근거는 무엇인가? | 확증편향을 강화할 수 있음 |
| 반증형 | 이 결론이 틀렸음을 보여줄 관찰은 무엇인가? | 판단의 교정 가능성을 높임 |
| 문제 제기형 | 지금 최적화하는 지표가 실제 목적을 대표하는가? | 문제의 정의를 재검토함 |
관심과 애정이 질문을 풍부하게 만들 수 있다는 말은 유용한 철학적 조언입니다. 다만 질문 능력에는 배경지식, 관찰, 논리, 반증 가능성, 이해관계자에 대한 이해도 함께 필요합니다.
매뉴얼을 따르는 사람과 방법을 만드는 사람
AI는 이미 문서 요약, 초안 작성, 코드 생성, 자료 분류 같은 다양한 작업의 비용을 낮추고 있습니다. 이때 차별화되는 능력은 단순히 매뉴얼을 빠르게 수행하는 데서 나오기 어렵습니다.
자신만의 방법은 경험을 많이 했다는 사실만으로 생기지 않습니다. 경험에서 조건과 결과를 분리해 다음 작업에 재사용할 수 있어야 합니다.
- 해결하려는 문제와 성공 기준을 적습니다.
- 기존 방식과 다르게 바꿀 변수 하나를 고릅니다.
- 작게 실행하고 예상과 실제 결과를 비교합니다.
- 실패 원인을 사람의 의지보다 조건과 과정에서 찾습니다.
- 다시 사용할 원칙과 적용하지 말아야 할 조건을 함께 기록합니다.
시행착오는 항상 가치 있는 것도 아닙니다. 안전사고, 의료, 법률, 보안처럼 실패 비용이 큰 영역에서는 검증된 지침과 전문가의 감독을 먼저 따라야 합니다. 고유한 방법은 원칙을 무시하는 모험이 아니라, 허용된 범위에서 관찰과 실험을 축적한 결과입니다.
끈기보다 ‘끊기’가 필요할 때
무조건 포기하지 말라는 조언은 신체의 안전, 회복 불가능한 손실, 기회의 변화 등을 무시할 수 있습니다. 반대로 어려움이 생길 때마다 중단하면 충분한 학습이 일어나기 어렵습니다. 중요한 것은 끈기와 포기 중 어느 쪽이 더 도덕적인지를 정하는 일이 아니라 중단 기준을 시작 전에 설계하는 것입니다.
다음 조건에서는 멈춤이나 전환을 검토해야 합니다.
- 생명과 건강에 즉각적인 위험이 생겼습니다.
- 손실이 사전에 정한 한도를 넘었습니다.
- 핵심 전제가 틀렸다는 반복 가능한 증거가 나왔습니다.
- 추가 투입으로 얻을 정보가 거의 없습니다.
- 더 안전하고 비용이 낮은 대안이 확인됐습니다.
- 목표가 자신의 가치나 현재 상황과 더 이상 맞지 않습니다.
중단은 실패를 지우는 행위가 아닙니다. 무엇을 배웠고 다음에는 어떤 신호에서 더 일찍 방향을 바꿀지 기록할 때 중단도 학습 자산이 됩니다.