다음은 AI와 노동의 문제를 설명하는 데 도움이 되는 사고 실험입니다:
소스 코드를 온라인에 공개하는 사람이 아무도 없는 평행 우주를 상상해 보세요. 오픈소스 운동이나 오픈소스라는 개념 자체가 존재하지 않는 겁니다. 당연히 LLM은 방대한 코드 데이터 세트로 학습되지 않았기 때문에 코딩을 잘하지 못할 것입니다.
하지만 이 평행 우주에는 실제 우주와 마찬가지로 공개 소프트웨어 바이너리가 존재합니다 — 수십 페타바이트에 달하는 양으로, 오늘날 최첨단 LLM 학습 데이터 세트의 규모를 훨씬 능가합니다. 그래서 LLM의 스케일링이 진행되는 어느 시점에서, 이 모델들이 사양만으로 완전한 작동 애플리케이션을 생성하는 데 능숙해지기 시작하는데 — 소스 코드 생성 단계를 완전히 건너뛰는 방식으로 말입니다. AI가 생성한 소프트웨어는 형편없고 비효율적이며 보안에 취약하겠지만, AI 기업들은 더 큰 다음 모델이 모든 것을 개선할 것이라고 끊임없이 약속할 것입니다.
이 우주에서 소프트웨어를 생성하는 LLM은 소프트웨어 엔지니어와 직접 경쟁합니다. 바이너리는 사람이 읽을 수 없습니다. 소프트웨어 엔지니어와 비기술자 모두에게 마찬가지로 해독 불가능합니다. 시간이 지남에 따라 점점 더 많은 소프트웨어가 '바이브-롤링' 방식으로 제작될 것입니다 (바이브-코딩이 아닙니다 — 코드 자체가 없으니까요!). 인간이 작성한 소프트웨어만큼 좋지는 않지만, 생성하는 데 비용이 들지 않습니다! 소스 코드가 없기 때문에, 소프트웨어 엔지니어가 이 과정에 관여해도 아무것도 추가되지 않습니다 (비용만 늘어날 뿐). AI가 생성한 소프트웨어가 그 한계로 인해 새로운 노동 수요를 창출한다고 해도, 고임금 소프트웨어 엔지니어가 필요하지 않으며 대신 저숙련 노동자가 처리할 수 있습니다 (아마도 LLM에 실수하지 말라고 반복해서 소리치는 방식으로 말이죠).
요컨대, 인간의 작성과 AI의 생성은 동일한 결과물에 도달하는 두 가지 병렬적인 방식입니다. 소프트웨어 엔지니어와 AI는 보완재가 아니라 대체재입니다. AI는 소프트웨어 엔지니어의 능력을 증폭시키는 데 도움이 되지 않으며, 소프트웨어 엔지니어는 비엔지니어보다 AI를 더 효과적으로 감독할 수 있는 기술을 제공하지 않습니다. 이 세계에서 AI는 소프트웨어 엔지니어에게 소외감과 두려움을 안겨줄 것입니다.
제가 어디로 가고 있는지 아실 겁니다. 실제 우리의 타임라인에서, 예술가와 많은 다른 전문가들은 이 디스토피아를 연상시키는 방식으로 AI를 경험하고 있습니다. 많은 비소프트웨어 분야에서 인간 창작 활동의 완성된 결과물은 학습에 쉽게 사용할 수 있지만, 그 결과물을 만드는 과정에 대한 정보는 거의 없습니다. 따라서 AI 도구는 창작 과정에서 별로 도움이 되지 않습니다. 단지 모방하고 대체할 뿐입니다.
다른 결과도 가능합니다. 기술 세계 밖에서는 널리 인정받지 못하는 긍정적인 비전은, 코딩 에이전트가 소프트웨어 엔지니어에게 초능력을 부여했다는 것입니다. 우리는 에이전트와 함께 작업합니다. 복잡한 소프트웨어는 인간과 에이전트 사이의 수천 번에 달하는 교대를 통해 생산됩니다. 코딩 에이전트가 엔지니어를 대체하고 있다는 서사는 지금까지 허위로 판명되었습니다. 에이전트를 사용하는 실제 경험은 Simon Willison의 테이블쏘 비유와 매우 밀접하게 일치합니다 ("지금 LLM 때문에 프로그래밍 경력을 그만두는 것은 테이블쏘의 발명 덕분에 목공 경력을 그만두는 것과 같을 것입니다"). 새로운 프로그래밍 언어, 프레임워크 또는 코드베이스로 작업을 시작하는 진입 장벽은 100분의 1로 낮아졌습니다. 코딩 에이전트는 가르치는 에이전트이기도 하기 때문입니다 (소프트웨어 개발자는 에이전트를 코드를 생성하기 위해 사용하는 것보다 이해하기 위해 더 자주 사용합니다).
오픈소스 소프트웨어와 문화는 역사적 우연입니다. 우리는 소프트웨어 엔지니어의 창작 작업 결과물뿐만 아니라 모든 중간 단계(사양, 계획, 목업), 암묵적 지식(StackOverflow, 문서화 문화), 상세한 프로세스 추적 기록(이슈, 풀 리퀘스트, 버그 수정, 코드 리뷰), 협업 기록(버전 관리, 프로젝트 보드), 그리고 더 광범위하게는 공개적으로 학습하는 문화까지 모두 공개적으로 이용 가능하다는 것을 당연하게 여깁니다. 이 수준의 명시적 설명은 대부분의 직업에서는 완전히 생소할 것입니다.
많은 기업들이 암묵적 지식, 프로세스 추적 기록, 그리고 이 사라진 중간 영역의 다른 구성 요소를 포착하는 데 막대한 투자를 하고 있습니다. 아이러니하게도, 그들은 더 많은 자동화를 추구하기 위해 이렇게 하고 있습니다. 상식과 투자되는 모든 자금에 반하는 제 테제는, 이 AI의 물결이 궁극적으로는 노동자를 자동화로 대체하는 것보다 그들의 능력을 향상시키는 데 더 도움이 될 수 있다는 것입니다. 올바른 프레임워크를 갖춘다면, 창작 노동자가 어떻게 결과물에 도달하는지 깊이 이해하도록 훈련된 모델은 그들과 협력하여 역량을 강화하고 잠재력을 증폭시킬 수 있을 것입니다. 업계에서 이를 인식한다면, 경제적, 정치적으로 큰 승리를 거둘 것입니다.
