같은 칼을 쥐여줘도 30년 경력의 셰프와 초보자의 결과는 다르다. 인공지능이라는 최첨단 도구도 마찬가지다. 이른바 ‘바이브 코딩’ 시대에 우리 회사 AI 시스템의 성과를 좌우하는 사람은 누구일까. 정답은 ‘새로 뽑을 AI 전문가’가 아니라 ‘회사 안에서 업(業)을 가장 깊이 아는 베테랑 직원’이다.

프롬프트가 드러내는 업무 전문성

“이 보고서를 세 줄로 요약해 줘”, “신제품 홍보 문구를 다섯 개 만들어 줘”처럼 인공지능(AI)에 무엇을 어떻게 해달라고 요청하는 문장을 ‘프롬프트(Prompt)’라고 한다. 프롬프트의 어원은 ‘무언가를 하도록 유도하다, 촉발하다’라는 뜻의 라틴어 ‘promptus’에서 온 것으로 알려져 있다. 컴퓨터 분야에서 도스(DOS) 명령창을 ‘명령 프롬프트(Command Prompt)’라고 부르는데 화면에 깜빡이는 커서 표시가 “명령을 입력하라”고 사용자를 재촉하는 신호이기 때문이다. AI와의 대화에서도 AI의 답변을 촉발하는 사용자의 문장을 프롬프트라고 부르게된것은 자연스러운흐름인 셈이다.
프롬프트는 사람들이 AI에 ‘어떤 일’을 ‘어떻게’ 시키는지 가감 없이 들여다볼수 있는 정직한 창이기도 하다. 프롬프트를 보면 어떤 직군이 어떤 업무에 AI를 가장 많이 쓰는지, 프롬프트에 넣는 요청 수준의 격차가 결과물에 얼마큼 영향을 미치는지 파악할 수 있다. 한 줄짜리 두루뭉술한 질문을 던지는 사람과 백그라운드 정보를 담아 구체적이고 정교한 질문을 하는 사람이 얻는 결과물은 완전히 다르다.

AI 성과를 좌우한 것은
코딩이 아니라 현업 경험

지난 6월 미국 AI 개발사 앤스로픽이 프롬프트의 힘을 잘 보여주는 보고서를 공개했다. ‘에이전틱 코딩 시대에도 지속되는 전문성의 가치(Agentic Coding andPersistent Returns to Expertise)’라는 제목의 이 보고서에는 2025년 10월부터 6개월간 약 23만5,000명이 앤스로픽의 AI 코딩 어시스턴트 ‘클로드 코드(ClaudeCode)’로 생성한 40만 건의 세션을 분석한 결과가 담겼다.
세션이란 사용자가 첫 프롬프트를 입력한 뒤 여러 차례 요청과 응답을 주고받으며 최종 결과물에 이르는 전 과정을 뜻한다.
연구팀이 내린결론은 AI의 능력을 끌어내는 열쇠가 코딩 기술이 아니라 업무 전문성이라는 것이었다. 자기 업무를 깊이 이해하고 있다면코딩을 잘몰라도 충분히 높은 성과를 낼 수 있고, 뒤집어 말하면 코딩에 능한 개발자라도 특정 영역의 지식이 없으면 해당 분야에서 좋은 결과를 기대하기 어렵다는 얘기다. 이런결과가 나올 수 있는 것은 클로드코드가 유능한 ‘바이브코딩(VibeCoding)’ 도구, 즉 사용자가 구현하려는 기능을 자연어로 설명하면 그 의도를 해석해 필요한 코드를 대신 짜주는 프로그램이기 때문이다.
연구 내용을 구체적으로 들여다보자. 연구팀은 우선 프롬프트를 근거로 사용자의 업무 전문성을 초보부터 전문가까지 5단계로 나눴다. 예컨대 “이 데이터 분석해서 차트 만들어 줘”라든지 “내가 예상했던게 아닌데 작업물 더블체크해 줘”는 초보자의 프롬프트로, “하드 리프레시를 ‘관리형’ 슬롯과 ‘비관리형’ 슬롯으로 더 세분화해야 해. 관리형 슬롯은 30분마다 리프레시되지만 나머지 슬롯은 하루에 한 번 하면 돼”는 전문가의 것으로 분류했다. 초보자의 프롬프트는 도메인 지식 없이 일반적이기만 한 반면 전문가의 프롬프트는 전문 용어가 포함돼 있고 복잡한 관계에 대한 이해가 바탕이 된다고 봤다.
전문성 수준을 5단계로 가른 뒤 세션이 어떻게 진행되는지 살펴봤더니 세 가지 뚜렷한 차이가 드러났다. 우선 전문가는 한 번의 지시로 AI에 훨씬 많은 일을 시켰다. 초보자가 프롬프트 하나로 AI로부터 약 5개의 작업과 600단어의 출력을 얻는 데 그친 반면 전문가는 12개의 작업과 3,200단어를 끌어냈다.
성공률 격차도 컸다. 초보자로 평가된 세션의 업무 성공률(부분 성공 포함)이 77%인 데 비해 중급 이상 세션은 91~92%에 달했다.
전문성이 진가를 발휘한 지점은 일이 꼬였을 때였다. 난관에 부딪힌 것으로 보이는 세션이 성공으로 마무리된 비율은 초보자가 4%에 불과한 반면 전문가는 15%였다. 도중에 포기한 비율은 초보자가 19%에 이르렀지만 중급 이상은 5~7%에 그쳤다.
AI가 똑같은 할루시네이션(환각)을 만들어내더라도 초보자는 이를 판별하지 못해 결과물을 그대로 받아들이거나 무엇이 잘못됐는지 짚어내지 못한 채 작업을 중단했다. 반면 전문가는 오류를 즉각 알아채고 구체적인 수정 방향을 제시해 세션을 성공으로 이끌었다. 경험과 숙련도가 부족한 사용자는 어려움앞에서 더 쉽게손을 놓고 만족할만한 결과도 얻지 못한 셈이다. 연구진은 “전문성의 가치는 AI 에이전트를 올바른방향으로 이끄는 능력에 있다”고 짚었다.

AI 시대일수록 기업은
베테랑을 잃으면 안 된다

이 연구는 조직이 절대 잃어서는 안 될 역량이 결국 사람에게 있다는 점을 잘보여준다. 사람을 줄이고 그 자리를 AI로 채워 인건비를 아끼겠다는 발상은 단기적으로는 비용을 절감할 수 있을지 몰라도 중장기적으로는 조직의 경쟁력을 정체시키고 끝내 도태로 이어지는 원인이 될 수 있다.
직원이 일터에서 전문성을 쌓을 수 있는 구조를 허물지 말고 끝까지 지켜야 하는 이유도 여기에 있다. 하버드대학교 경영대학원의 에이미 에드먼슨(Amy C. Edmondson) 교수는 경영 전문지 <하버드비즈니스리뷰>에 기고한 ‘AI를 활용해 초급 일자리를 대체할 때의 위험성(The Perils of Using AI to Replace Entry-LevelJobs, HBR(2025.9.16.))’에서 신입 직원을 AI로 대체하는 것은 직원이 중요한 의사결정을 내리는 인재로 성장하는 파이프라인 자체를 끊는 것이라고 지적했다.
일터는 신입 직원이 실수하고 배우며 직무 감각과 문제 해결 능력을 체득하는 훈련장이다. 신입이 처음 들어설 자리가 사라지면 경력을 쌓을 출발점도 함께사라진다. 회사 내부에 축적된 암묵지(暗默知)가 다음 세대로 흘러가는 통로도 막힌다.

사람을 키우는 기업이
AI 시대에도 살아남는다

지식의 단절은 곧 사회 전체의 역량 손실이기도 하다. 몇몇 청년의 취업 실패에 그치는 문제가 아니라 미래의 중간 관리자와 숙련 실무자, 산업 인재를 길러낼 경로를 우리 사회가 통째로 잃는다는 뜻이기 때문이다. 회사도, 개인도, 사회도 손해다.
회사는 차별화와 혁신으로 생존하고 성장한다. 그러려면 아직 존재하지 않는 것을 만들어야 한다. 그 일은 AI가 아닌 사람의 몫이다. 신입을 채용해 일을 가르치고 시행착오를 감내하는 과정이 당장은 더디고 비효율적으로 느껴지더라도 그런 역량 개발에 투자하는 회사가 장기적으로 경쟁 우위를 차지한다. AI는 사람의 손을 덜어주는 유능한 도구가 될 수 있지만 업무의 본질을 이해하고 목표를 세우고 문제를 풀어가는 사람을 대신할 수는 없다.