콘텐츠로 건너뛰기

[DevOps] AI 코딩 도구, 빨라진 건 맞는데 어디가 느려졌을까

  • 기준

안녕하세요. 정리하는 개발자 워니즈입니다.

요즘 AI 코딩 도구 입문 콘텐츠가 부쩍 늘었습니다. 터미널을 모르는 사람도 시작할 수 있다는 가이드가 나오고, 실제로 진입장벽은 많이 낮아졌습니다.

저도 매일 씁니다. 그런데 최근에 관련 연구들을 찾아보다가 결과가 정면으로 엇갈리는 걸 발견했습니다. 그리고 그 이유를 따라가 보니, 제가 겪은 일들과 정확히 맞아떨어졌습니다.

그러면 본격적으로 정리해보도록 하겠습니다.

1. 같은 질문에 정반대 답이 나옵니다

먼저 긍정적인 쪽입니다.

  • GitHub Copilot 대조 실험 — AI 사용 그룹이 작업을 55.8% 빨리 완료
  • 맥킨지 — 코딩 작업을 최대 2배 빠르게 처리 가능

그런데 반대 결과도 있습니다.

  • METR 2025 — AI 도구 사용이 허용됐을 때 문제 해결에 19% 더 오래 걸림
  • 숙련 개발자 대상 연구 — AI 사용 시 오히려 18% 느려짐
  • Uplevel 보고서 — PR 주기와 병합 수에서 유의미한 개선 없음

METR 결과가 특히 눈에 띕니다. 개발자 본인과 전문가의 예상을 모두 뒤집었기 때문입니다. 참가자들은 자기가 빨라졌다고 느꼈는데 실제로는 느려져 있었습니다.

2. 왜 갈리나 — 무엇을 쟀느냐의 차이

자세히 보면 두 진영이 다른 것을 재고 있습니다.

긍정적 수치들은 대체로 “코드를 만드는 시간”을 잽니다. 맥킨지 보고서도 단서를 달아뒀는데, 개발자가 까다롭다고 평가한 작업에서는 시간 절감이 10% 미만으로 줄었습니다.

즉 빨라지는 건 맞습니다. 쉬운 작업의 초안을 뽑는 속도가요. 그리고 그건 원래 병목이 아니었습니다.

3. 병목은 사라진 게 아니라 이동했습니다

AI 채택도가 높은 팀을 조사한 결과가 이 구조를 잘 보여줍니다.
AI 코딩 도구 도입 후 지표 변화 — 처리량은 늘었지만 PR 리뷰 시간 91% 증가, PR 크기 154% 증가, 버그 9% 증가

지표 변화
처리한 작업·병합 PR 수 증가 ✅
PR 리뷰 시간 91% 증가
PR 크기 154% 증가
버그 수 9% 증가

Uplevel의 별도 조사에서는 Copilot 사용 시 버그가 41% 더 발생했다는 결과도 나왔습니다.

그리고 이 숫자가 상황을 압축합니다. AI가 작성한 PR은 리뷰어가 집어들기까지 사람이 쓴 것보다 평균 4.6배 오래 기다립니다.

생각해보면 당연합니다. PR이 2.5배 커졌는데 리뷰할 사람 수는 그대로니까요. 만드는 쪽만 빨라지면 그다음 단계에 줄이 생깁니다.

4. 가장 무서운 숫자는 따로 있습니다

한 보안 조사 결과입니다.

개발자의 96%가 AI 생성 코드가 기능적으로 완전히 옳다고 확신하지 못한다고 답했다.

그런데 커밋 전에 항상 검증한다고 답한 비율은 48%였다.

믿지 않는데 확인도 안 합니다. 이 48%포인트의 간극이 앞의 버그 증가율과 연결된다고 봅니다.

저도 자유롭지 않습니다. 얼마 전 작업을 AI에게 맡겼는데, 결과 보고에 “기존 스캐너에 특정 패턴이 없다”고 적혀 있었습니다. 저는 의심하고 grep으로 확인했고, 14건이 나오길래 “틀렸네”라고 판단했습니다.

그런데 실제로 파일을 열어보니 그 14건은 전부 패턴의 이름이었습니다. 실제 탐지 규칙은 하나도 없었습니다. AI가 맞았고 제가 틀렸습니다.

검증을 안 한 게 아니라 검증을 잘못한 것입니다. 그리고 이건 검증에도 시간과 실력이 든다는 뜻입니다.

5. 그래서 어디서 끊을 것인가

이 경험들을 정리하면서 저는 판단 기준을 이렇게 바꿨습니다. 작업 종류가 아니라 “검증 방식”으로 나눕니다.

검증이 이렇게 되면 판단
기계적 — 테스트 통과 여부로 끝남 맡긴다. 이득이 확실하다
읽어야 함 — 사람이 코드를 판독해야 함 신중. 읽는 시간이 짓는 시간과 크게 다르지 않다
판단 필요 — 맥락을 알아야 옳고 그름이 갈림 직접 한다

세 번째가 핵심입니다. 위 사례에서 제가 틀린 이유가 grep 결과를 해석하는 맥락이 없었기 때문입니다. 기계적 확인은 했지만 판단이 빠졌던 거죠.

그리고 하나 더 — PR을 작게 유지하는 게 전보다 훨씬 중요해졌습니다. AI는 요청하면 큰 변경을 한 번에 만들어냅니다. 만들 때는 편한데, 리뷰 단계에서 그 비용을 그대로 치릅니다. 154%라는 숫자가 그겁니다.

6. AI 코딩 도구를 쓸 때 남는 질문

  • 빨라지는 건 쉬운 작업의 초안 작성이고, 그건 원래 병목이 아니었다
  • 병목은 사라지지 않고 리뷰로 이동했다 (리뷰 시간 91%↑, PR 크기 154%↑)
  • 믿지 않으면서 확인도 안 하는 구간이 가장 위험하다 (96% vs 48%)
  • 검증에도 실력이 든다. 확인했다고 맞는 게 아니다
  • 작업이 아니라 검증 방식으로 나눈다. 기계적이면 맡기고, 판단이 필요하면 직접 한다

권한을 어디까지 줄지는 별개의 문제이기도 합니다. 그 얘기는 AI 에이전트 권한 설계 — ‘되돌릴 수 있다’는 착각에 따로 정리했습니다.

당장 해보실 수 있는 것 하나를 남기겠습니다. 다음 PR을 올리기 전에 이것만 확인해보세요.

“이 변경을 리뷰하는 사람은 몇 분을 써야 하는가?”

만드는 데 10분, 리뷰에 40분이 든다면 그건 빨라진 게 아닙니다. 비용을 옆으로 옮긴 것뿐입니다.

읽어주셔서 감사합니다. 팀에서 다르게 운영하고 계시다면 어떻게 나누셨는지 궁금합니다. 편하게 남겨주세요.

참고

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다