다음에 올 것을 만들어가는 기술에 대한 심층 기사.

AI 코딩 어시스턴트: 흔한 통념 5가지 검증

AI 코딩 어시스턴트는 타이핑을 빠르게 할 뿐 소프트웨어 품질은 바꾸지 못한다. 설계·검증·복잡도 병목 기준으로 5가지 통념을 테스트했다.

로봇 팔이 공장 바닥에 빛나는 벽돌을 쏟아내고, 벽돌들이 좁은 검사 게이트 하나 앞에 쌓인다.
생성 속도는 빨라졌다. 검사는 그대로다. 그리고 처리량은 가장 느린 단계가 결정한다.

Jonathan Blow는 Braid와 The Witness를 만든 게임 디자이너이자, 10년 동안 자기만의 프로그래밍 언어를 만들 만큼 고집이 센 인물입니다. 그가 최근 던진 질문은 AI 코딩 어시스턴트를 파는 모든 벤더를 따끔하게 찌릅니다. AI가 코딩 문제를 풀었다면, 내가 쓰는 소프트웨어는 왜 아직 그대로일까? 똑같은 크래시, 똑같이 부풀어 가는 업데이트, 그리고 자신이 대체한 도구보다 할 일은 적으면서 RAM만 잡아먹는다는 10년 묵은 불만. 흔히 나오는 6개월만 기다려 보라는 반박으로는 이 문제를 설명할 수 없고, 저는 Blow가 이 아픈 곳을 건드린 것이 틀리지 않았다고 봅니다.

제 입장은 이렇습니다. ML 시스템을 만들다가 이 도구들이 실제 팀에 들어오는 것을 여러 해 지켜본 결과, AI 코딩 어시스턴트는 지금 분명 훌륭해졌지만 우리가 매일 쓰는 소프트웨어의 품질은 거의 움직이지 못했습니다. 두 가지가 동시에 참입니다. 이유는 도구들이 애초에 진짜 병목을 겨냥하지 않았기 때문입니다. 가장 명확하게 확인하는 방법은 사람들이 가장 자주 하는 다섯 가지 믿음을 꺼내 하나씩 테스트해 보는 것입니다.

통념 1: 소프트웨어 개발의 병목은 타이핑이다

논리는 간단해 보입니다. 코딩은 코드를 만드는 일이니, 코드를 열 배 빨리 만드는 기계는 소프트웨어를 열 배 빨리 만든다는 것이죠. 깔끔한 삼단논법이지만 결함이 하나 있습니다. 실제 업무가 이런 식으로 돌아가는 사람은 없다는 것입니다. 『Clean Code』로 유명해진 오래된 경험칙이 있습니다. 개발자는 코드를 쓰는 시간보다 읽는 데 10배 이상을 쓴다는 것입니다. 이 비율은 LLM이 등장하기 15년 전부터 있었지만, 엔지니어링 시간이 어디에 쓰이는지 진지하게 들여다본 연구는 모두 같은 결론에 도달합니다. 기존 시스템 이해하기, 다른 사람과 조율하기, 결정을 기다리기입니다. 키보드 입력은 반올림 오차 수준입니다.

여러분의 한 주를 떠올려 보면 바로 느낄 수 있습니다. 자동완성은 실제로 시간을 아껴 줍니다. 저는 이것 없이는 일하지 못합니다. 하지만 제가 힘들었던 날은 타이핑이 느려서가 아니었습니다. 결제 서비스에 아무도 문서로 남기지 않은 불변식이 있었거나, 세 팀이 API가 무엇을 보장해야 하는지 합의하지 못했기 때문이었습니다. 느리지 않은 단계를 더 빠르게 만들어 봐야 전체 처리량에는 거의 도움이 되지 않습니다. 검사 라인이 감당할 수 있는 속도보다 빨리 부품을 찍어내는 공장은 제품을 더 많이 내보내는 것이 아니라 부품 더미만 키웁니다.

타이핑이 실제로 병목이 되는 곳은 한 군데 있습니다. 존중해야 할 기존 시스템이 없는 그린필드 작업입니다. 보일러플레이트, 프로토타입, 일회성 스크립트, 무엇이든 처음 만드는 버전이 여기에 해당합니다. 데모가 마법처럼 보이는 이유도 여기에 있습니다. 데모는 언제나 그린필드이니까요. 실제 프로덕션 엔지니어링은 거의 전부 브라운필드이고, 브라운필드 작업은 읽는 작업입니다.

통념 2: AI가 만든 코드는 이미 검증되어 있다

낙관적인 워크플로는 이렇습니다. 작업을 설명하고, 모델이 코드를 쓰고, 테스트가 통과하면 머지합니다. 문제는 가운데 단계에 있습니다. 테스트가 통과했다는 것은 내가 떠올린 테스트와 모델이 떠올린 코드가 서로 맞는다는 것만 말해 줍니다. 둘 다 같은 방향으로 틀릴 수 있고, LLM 출력에서는 실제로 자주 그렇습니다. 모델은 유창하고 관용적이며 자신감 넘치는 코드를 내놓고, 바로 그 유창함이 리뷰를 무력화합니다.

실제로 본 작은 예시를 이야기해 보겠습니다. 정확히 같은 코드는 아니지만 본질은 같습니다. 월간 작업 스케줄러를 요청하면 대략 이런 코드가 나옵니다:

from datetime import datetime
def next_monthly_run(day: int, hour: int = 9) -> datetime:
"""Next run time for a job that fires monthly on `day`."""
now = datetime.now()
candidate = now.replace(day=day, hour=hour, minute=0, second=0, microsecond=0)
if candidate <= now:
# Roll forward one month
month = now.month % 12 + 1
year = now.year + (1 if now.month == 12 else 0)
candidate = candidate.replace(year=year, month=month)
return candidate

동료의 풀 리퀘스트를 읽듯이 살펴보세요. 관용적입니다. 연도 넘어가기도 처리합니다. 독스트링도 정확합니다. 이제 day=31로 4월 15일에 실행해 보세요. now.replace(day=31)은 ValueError를 던집니다. 4월에는 31일이 없으니까요. 이 함수는 가장 흔한 스케줄링 요청인 월말 실행에서 바로 죽습니다. 그것도 짧은 달에만 죽기 때문에 몇 주 동안 정상처럼 보이며 운영될 수 있습니다. 한 해 동안의 now 값을 순회하는 테스트는 이를 몇 초 만에 잡아냅니다. 꼼꼼한 사람 리뷰어도 절반 정도만 잡아낼까 말까입니다. 이 차이가 바로 검증 문제를 축소한 모습입니다.

제가 AI 중심 워크플로에서는 이해도 점검과 테스트 중 무엇을 고를지가 탁상공론이 아니라 승부를 가르는 핵심이라고 계속 말하는 이유가 여기 있습니다. 내가 쓰지 않은 코드를 읽는 것은 원래 쓰는 것보다 어렵습니다. 사람이 쓰지 않은 코드를 이 도구들이 쏟아내는 양만큼 읽으려면 리뷰의 경제성이 완전히 뒤집힙니다. 제가 만나는 팀들은 이제 코드가 부족하지 않습니다. 코드가 무엇을 하는지 이해하고 기꺼이 이름을 걸고 책임질 사람이 부족합니다.

돋보기가 광택 나는 대리석 판 위를 가로지르는 가느다란 균열을 드러낸다.
그럴듯한 코드는 대리석이 깨지는 방식으로 실패한다. 자세히 보기 전에는 보이지 않는 금을 따라서.

통념 3: 코드가 싸지면 소프트웨어 설계도 싸진다

좀 더 미묘한 믿음도 있습니다. 코드가 거의 공짜라면 아키텍처는 덜 중요해진다는 것입니다. 추상화가 나쁘다고요? 다시 생성하면 됩니다. 데이터 모델이 틀렸다고요? 그것도 다시 생성하면 됩니다. 시니어 엔지니어들이 진지한 얼굴로 이렇게 말하는 것을 들은 적이 있습니다. 하지만 이 주장은 텍스트를 바꾸는 비용과 결정을 바꾸는 비용을 혼동합니다.

소프트웨어에서 어려운 부분은 원래 코드가 아니었습니다. 무엇을 만들 가치가 있는지 정하고, 복잡하고 지저분한 인간의 도메인을 기계가 실행할 수 있는 형태로 모델링하고, 요구사항이 바뀌어도 무너지지 않을 아키텍처적 선택을 하는 일입니다. 요구사항은 언제나 바뀝니다. 이것들은 패턴 완성이 아니라 의도와 가치의 문제입니다. 기존 소프트웨어 코퍼스로 학습한 모델은 당신의 시스템이 보통 어떻게 생겼는지 말해 줄 수 있습니다. 하지만 당신의 시스템이 어떻게 생겨야 하는지는 말할 수 없습니다. 그 답은 사용자, 제약 조건, 조직이 감수할 수 있는 위험 수준에 있기 때문입니다. 이 영역에서 우리는 사실상 진전이 없었고, 이것은 규모를 키워서 메울 수 있는 능력 차이가 아니라 범주 자체가 맞지 않는 문제라고 봅니다.

재작성도 공짜가 아닙니다. 엔지니어링 예산 대부분은 이미 존재하는 시스템을 바꾸는 데 쓰입니다. 그리고 시스템을 바꾸려면 먼저 그 안에 박힌 의도를 역으로 파악해야 합니다. 아무도 문서화하지 않은 불변식, 중요한 고객 한 명에게만 결정적인 엣지 케이스 같은 것들입니다. 모델은 그 의도를 모릅니다. 팀도 종종 모릅니다. 이것이 버그가 실제로 자라나는 명세와 구현 사이의 간극입니다. 누군가 명세를 단단히 붙잡고 있지 않다면, 구현을 더 많이 찍어낼수록 그 간극은 넓어집니다.

프레드 브룩스는 소프트웨어를 일관되게 만드는 것을 개념적 무결성이라고 불렀습니다. 한 사람, 혹은 뜻이 맞는 소수의 사람이 결정을 내렸다는 느낌입니다. 유창한 코드 생성은 이 방향으로 우리를 데려가지 않습니다. 오히려 정렬되지 않은 수천 개의 미세한 결정을 더 싸게 만들어 버립니다. 그래서 설계된 것처럼 보이지만 실제로는 조립된 것처럼 느껴지는 시스템이 나오게 됩니다.

통념 4: 바뀌지 않은 소프트웨어는 AI 코딩이 실패했다는 증거다

이제 반론입니다. Blow의 관점도 완벽하지는 않으니까요. 대량 생산되는 상업 소프트웨어를 넘어 보면 실제로 변화가 일어나고 있습니다. 인디 게임 씬에서는 작은 팀이 커스텀 엔진으로 만든 전략 게임이 나오고 있는데, 10년 전이라면 Blizzard 수준의 인력이 필요했을 작품들입니다. 제가 더 인상 깊게 보는 것은 개인용 소프트웨어의 조용한 부상입니다. 사람들이 자신의 사고방식에 딱 맞게 이메일 클라이언트, 캘린더 앱, 가계부, git 프런트엔드를 직접 만들고 있습니다. 이런 도구들은 투박하고, 낯선 1만 명에게 배포되면 살아남지 못할 겁니다. 하지만 존재하고, 매일 쓰이며, 예전에는 만드는 것 자체가 경제적이지 않았습니다.

조직들도 헤드라인 지표가 놓치는 방식으로 바뀌고 있습니다. 제가 아는 곳 중에는 현대화 계획이 사실상 이런 곳이 있습니다. 레거시 시스템을 괜찮은 API로 노출하고, 직원들이 에이전트형 코딩 도구로 그 위에 자신만의 엔드포인트와 인터페이스를 만들게 하는 것입니다. 이것은 "내 소프트웨어는 그대로다"가 아닙니다. 소프트웨어가 더 개인적인 형태로 녹아드는 것입니다. 앱스토어 차트만 보고 있다면 보이지 않을 뿐입니다.

그럼에도 Blow의 관찰이 맞는 것처럼 느껴지는 더 깊은 이유는 기술이 아니라 조직에 있습니다. 상업 소프트웨어는 회사가 무엇을 최적화하는지에 따라 만들어집니다. 참여도, 락인, 릴리스 주기, 지원 비용 같은 것들이죠. AI는 이미 원하는 것을 더 많이, 더 빨리 얻게 해 줄 뿐 원하는 것 자체를 바꾸지는 않습니다. 비용 명세서에 군더더기가 잡히지 않아서 비대한 소프트웨어를 내놓던 회사는, 이제 더 짧은 개발 주기로 비대한 소프트웨어를 내놓을 겁니다. 수천 명의 사용자에게 배포되는 소프트웨어의 품질 기준은 인센티브, 테스트 규율, 그리고 안목에 의해 정해지며, 이 중 어느 것도 모델의 출력이 아닙니다.

단순한 시차 문제도 있습니다. 실제로 신뢰할 만한 AI 코딩은 기껏해야 1년쯤 되었습니다. 그 전에는 불안정했고, 그 전에는 장난감이었습니다. 제품은 구상하고, 만들고, 출시하는 데 몇 년이 걸립니다. 지금 이 도구들이 출시된 소프트웨어에 미친 영향을 판단하는 것은, 새 쟁기가 발명된 지 한 달 뒤의 수확량으로 그 쟁기를 평가하는 것과 같습니다.

통념 5: 다음 모델이 격차를 메워 줄 것이다

낙관론자의 가장 강한 주장은 이렇습니다. 위에서 든 모든 반론은 오늘의 모델을 묘사한 것이고, 오늘의 모델은 우리가 앞으로 쓸 모델 중 가장 나쁜 것이라는 겁니다. 일부는 맞습니다. 컨텍스트 윈도우는 커지고, 환각된 API는 줄어들고, 에이전트는 자기 테스트를 더 잘 돌리게 될 겁니다. 특히 명세가 잘 된 작업에서는 실질적인 개선이 있을 것이라고 기대합니다.

다만 어떤 병목이 능력 문제이고 어떤 것이 아닌지 구분해 볼 필요가 있습니다. 모델이 더 신뢰할 수 있어질수록 검증은 쉬워집니다. 이것은 능력의 문제입니다. 무엇을 만들 가치가 있는지 정하기, 개념적 무결성 유지하기, 조직이 최적화하는 대상을 바꾸기 같은 것들은 어떤 모델 로드맵에도 올라 있지 않습니다. 그것들은 모델 문제가 아니기 때문입니다. 벤치마크 진전을 증거로 삼을 때도 조심해야 합니다. 벤치마크는 실제 업무의 대부분을 놓칩니다. 그리고 실제 업무야말로 명세가 불완전하고 의도가 얽힌 종류의 일입니다.

그래서 제 예측을 분명히 남겨 두겠습니다. 도구는 안목 있는 개인 빌더와 소규모 팀에게는 극적으로 좋아질 겁니다. 대량 시장용 소프트웨어는 좋아진다 해도 아주 조금일 겁니다. 그 영역의 제약은 코드가 아니었던 적이 없기 때문입니다. 비관적으로 들릴 수 있지만 그렇지 않습니다. 지렛대는 연구소의 다음 릴리스가 아니라 여러분의 손과 조직도에 있다는 뜻이니까요.

햇빛이 드는 작업대에서 정원사가 손 도구로 분재 나무를 다듬고 있다.
소프트웨어 품질은 여전히 생산 문제가 아니라 가꾸는 문제다.

소프트웨어 품질을 실제로 높이는 것

생성이 싸지고 검증이 비싸다면, 합리적인 대응은 투자의 방향을 바꾸는 것입니다. 구체적으로는 다음과 같습니다:

  • 테스트와 타입을 프로덕션 인프라로 취급하세요. 속성 기반 테스트, 불변식 검사, 빠른 CI가 저렴한 생성을 저렴하고 올바른 생성으로 바꿉니다. 연산 자원에 예산을 잡듯이 이것들에도 예산을 잡으세요.
  • 프롬프트보다 명세를 먼저 쓰세요. 명세는 이제 팀이 만드는 가장 레버리지가 큰 산출물입니다. 모델이 제공할 수 없는 것이고, 리뷰어가 대조하는 기준이기 때문입니다.
  • AI가 진짜 강한 곳에서 쓰세요: 그린필드 프로토타입, 마이그레이션, 보일러플레이트, 개인용 도구, 설계 공간을 빠르게 탐색하기. 의도가 문서화되지 않은 핵심 레거시 경로에서는 의심하며 쓰세요.
  • 설계 시간을 지키세요. 생성 속도가 세 배가 되면 로드맵을 세 배로 채우라는 압박이 생깁니다. 버티세요. 결정하는 일이 곧 일입니다.

병목은 한 번도 타이핑이 아니었습니다. 언제나 결정하는 일이었고, 증명하는 일이었습니다.

Blow의 질문에는 답이 있고, 제대로 읽으면 희망적인 답입니다. 소프트웨어가 그대로인 이유는 소프트웨어 품질이 언제나 결정하고, 검증하고, 신경 쓰는 일에 의해 제한되어 왔기 때문입니다. AI 코딩 어시스턴트는 실질적으로 유용하지만, 원래 느리지 않았던 부분을 가속할 뿐입니다. 따라서 소프트웨어를 더 낫게 만드는 도구는 예전과 같습니다. 안목, 명세, 그리고 무언가를 증명하려는 규율입니다. 모델이 이 사실을 외면하기 어렵게 만들었을 뿐입니다.