LLM의 한계
PhotoCraft, REA, 그리고 매주 나오는 새 게임 이식작을 보고 많은 사람이 Adobe는 끝났고 다음은 프로그래머라고 믿게 됐습니다. 저는 코드와 숫자를 읽었습니다. AI가 잘 베끼는 것과 못 베끼는 것을 짧게 일곱 가지로 정리했습니다.
LLM은 공개된 것은 복제할 수 있지만, 비공개인 것은 짐작하지 못합니다.
LLM consegue replicar o que é aberto, mas não adivinha o que é privado.
이미 공개된 것 베끼기
모델은 공개 코드로 배웠습니다. 비슷한 것이 공개된 적이 있으면 에이전트는 그것을 빠르고 싸게 다시 만듭니다.
- 81.5%
- GitHub 기여 중 비공개 저장소에서 일어나는 비율 (Octoverse 2025)
- 67.5TB
- The Stack v2에 담긴 공개 코드. 모델이 학습하는 종류의 데이터입니다
- 그래서 이제 한 사람이 Rust로 Spotify나 WhatsApp 네이티브 클라이언트를 내놓을 수 있습니다. 서비스도, 라이브러리도, 길도 이미 있었습니다. 알려진 길을 다시 따라가는 비용이 싸졌습니다.
- 월급을 주는 코드는 대부분 비공개입니다. 어떤 모델도 본 적이 없고, 짐작할 수도 없습니다.
- 비슷한 것이 없는 곳에서 에이전트는 시행착오에 기댑니다. 도움이 되는 것은 모델에게 없는 것들입니다. 아무도 공개하지 않은 참고 자료, 무엇이 맞는지 알려 주는 오라클, 객관적인 목표가 있는 테스트.
40년 된 바이너리 분해
여러분이 써 본 모든 에뮬레이터는 누군가 바이너리를 분해했기 때문에 존재합니다. AI는 이미 돌아가던 조립 라인에 합류했습니다.
- 미국 법원은 1992년(Sega v. Accolade)과 2000년(Sony v. Connectix)에 기본 원칙을 정리했습니다. 작동 방식을 알아내려고 코드를 디스어셈블하는 것은 공정 이용입니다.
- 도구는 성숙했고, 상당수는 무료입니다. NSA는 2019년에 Ghidra를 공개했고, 같은 해 Super Mario 64 디컴파일이 공개됐습니다.
- LLM 디컴파일러는 상용 디컴파일러보다 읽기 쉬운 코드를 쓰고, 기능적 정확도는 52% 낮습니다(DecompileBench, 2025). 실제로 쓰이는 어시스턴트는 Ghidra나 IDA가 만든 결과 위에 변수 이름을 붙입니다.
- GitHub 스타가 20만 개에 가까운 REA는 바로 그 도구들을 에이전트에게 쥐여 줍니다. 바이너리, 설치된 도구, 그리고 많은 토큰이 필요합니다. REA 자체의 SQLite 테스트에 도구 호출 42번과 입력 토큰 30만 개가 들었습니다. 문서에는 프로그램을 복제한다고 절대 말하지 말라고 적혀 있습니다.
옛날 게임이 먼저 뚫리는 이유
새 레트로 이식작이 거의 매일 나옵니다. 옛날 게임에는 운영 중인 제품에 없는 이점이 전부 있습니다.
- 바이너리가 작습니다. Super Mario 64는 8 MB이고, Baldur's Gate 3는 150 GB입니다.
- 하드웨어는 25년 동안 명령어 하나하나까지 분석됐고, 대상은 절대 바뀌지 않습니다. 1998년의 Zelda를 업데이트하는 사람은 없습니다.
- PS4, PS5, Xbox, Switch는 케이스만 다른 PC나 스마트폰입니다. 여러분의 프로세서는 이미 그 코드를 돌릴 수 있고, 그래픽 변환은 Wine, DXVK, Proton이 몇 년 전에 대부분 해결했습니다.
- AI는 단순 작업을 빠르게 했습니다. Zelda와 Banjo 리컴프 개발자들은 에이전트가 만든 이식작을 "slopcomps"라고 부릅니다. 테스트되지 않았고, 유지보수하기 어려운 방식으로 패치됐다는 뜻입니다.
Photoshop의 스크린숏
PhotoCraft는 스크린숏으로 보면 Photoshop 같습니다. 사람들이 Adobe에 돈을 내는 이유는 다른 곳에 있습니다.
- 968
- PhotoCraft의 열린 이슈, 2026년 10월 13일 기준
- 13
- 저장소가 만들어진 뒤 지난 일수
- PhotoCraft는 Claude를 써서 Rust로 작성됐습니다. README에 스스로 초기 알파라고 적혀 있습니다. 8,192픽셀이 넘는 이미지는 CPU로 처리되고, 색 관리는 기초 수준이며, 열린 이슈 중 약 100개가 PSD 파일 문제입니다.
- Generative Fill과 여러 Neural Filters는 Adobe 서버에서 돌아갑니다. 그 코드는 여러분의 컴퓨터에 오지 않으니 분해할 것도 없습니다.
- Camera Raw에는 카메라와 렌즈마다 20년 치 프로파일이 들어 있습니다. 클론에 그 데이터가 있거나 없거나 둘 중 하나입니다.
- 인쇄용 색은 그 자체로 하나의 분야입니다. GIMP는 1995년에 나왔지만 3.0에서도 CMYK 편집이 없습니다. Pantone 색은 라이선스 대상이고, Adobe조차 2022년에 잃었습니다.
- 오늘날 대부분의 소프트웨어는 서비스로 돌아갑니다. Google Docs 뒤의 코드는 Google 서버 밖으로 나오지 않으니, 바이너리 자체가 없습니다.
지금의 PhotoCraft는 폭스바겐 비틀 위에 올린 페라리 레플리카입니다. 차체 모양은 맞아서, 사진을 찍으면 대부분 "와, 페라리다"라고 합니다. 그런데 시동을 걸면 비틀 엔진이 돌아갑니다.
O PhotoCraft hoje é aquela réplica de Ferrari montada em cima de um Fusca: a carroceria tem a forma certa, você tira uma foto e a maioria das pessoas diz "uau, uma Ferrari". Aí você liga e sai o motor de Fusca.
대규모 재작성에 드는 비용
가장 좋은 공개 수치는 JavaScript 런타임 Bun에서 나옵니다. Bun은 2026년 5월 에이전트로 Zig에서 Rust로 재작성됐습니다.
- US$16.5만
- API 가격 기준
- 11
- 일, Zig 코드 53만 5,000줄
- 64
- 가장 많을 때 돌린 Claude 에이전트
- 네 가지 덕분에 가능했습니다. Bun의 원작자가 직접 지휘했고, 동작하는 소스 전체가 있었고, 모든 변경을 검증할 플랫폼당 약 6만 개의 테스트가 있었고, Bun을 소유한 Anthropic이 비용을 댔습니다.
- Anthropic의 C 컴파일러, 2026년 2월: 에이전트 16개, 2만 달러 미만으로 Linux를 빌드합니다. 어셈블러와 링커는 아직 GCC 것을 빌려 쓰고, 생성한 코드는 최적화를 전부 끈 GCC보다 느립니다.
- Photoshop 클론에는 넷 중 하나도 없습니다. 옮길 소스도, "Photoshop과 같다"고 판정해 줄 테스트 스위트도, 원작자도 없습니다. 게다가 Photoshop은 36년 된 제품이고, 런타임보다 훨씬 큽니다.
"2년 뒤면 공짜가 된다"
최고 모델의 가격은 2023년 이후 거의 움직이지 않았습니다. 빠르게 떨어진 것은 이미 낡은 품질 수준의 가격입니다.
- US$60
- 출력 토큰 100만 개당, GPT-4, 2023년 3월
- US$50
- 출력 토큰 100만 개당, 최고 모델들, 2026년 10월
- 프런티어는 3년 반 동안 입력 토큰이냐 출력 토큰이냐에 따라 1.2배에서 3배 싸졌습니다.
- Epoch AI의 추정으로는 같은 품질 수준이 매년 대략 5배에서 10배 싸지고, 그들은 이 속도가 느려질 것으로 봅니다.
- Bun으로 계산해 보세요. 16만 5,000달러를 100으로 나누면 1,650달러입니다. 소스, 테스트, 원작자를 다 갖춘 이식인데도 그렇습니다. 싼 것과 쉬운 것은 다릅니다.
- 모델 자체는 수렴했고, 최근의 발전은 그 주변의 에이전트 도구에서 나왔습니다. 자세한 내용은 AGI 페이지에서 설명합니다.
프로그래머는 끝났나?
잘 돌아가는 재작성과 디컴프에는 모두 지휘하는 엔지니어가 있습니다.
- +15%
- 2025년 2월 Claude Code 출시 이후 미국 소프트웨어 채용 공고 증가율. 같은 기간 전체 공고는 7% 감소 (Indeed, 2026년 7월)
- 71%
- 그 증가분 중 시니어 직무 비중
- 소프트웨어 채용 공고는 여전히 2020년 2월보다 약 27.5% 적습니다. 타이핑하라고 뽑는 사람은 줄었고, 결과물을 판단할 줄 아는 사람은 뽑힙니다.
- Bun 재작성에는 Bun의 원작자가 필요했습니다. 잘 돌아가는 디컴프에서는 하드웨어를 아는 사람이 에이전트를 몰고 있습니다.
- 7개 언어로 돌린 제 벤치마크에서는 약한 모델에게 테스트를 주는 것이 어떤 언어보다 결과를 크게 바꿨습니다.
- 리버스 엔지니어링은 2019년 Ghidra가 나왔을 때처럼 더 싸지고 더 쉬워졌습니다. 그래도 여전히 엔지니어의 일입니다.
"끝났다" 헤드라인은 클릭은 받아도 컴파일은 안 됩니다.
Manchete de "acabou" rende clique e não compila.
결론
- 1
AI는 공개된 것을 빠르게 베낍니다. 중요한 코드는 대부분 비공개입니다.
- 2
리버스 엔지니어링은 수십 년 된 일입니다. 에이전트는 그 단순 작업을 빠르게 했습니다.
- 3
옛날 게임이 먼저 뚫립니다. 작고, 수십 년간 분석됐고, 절대 바뀌지 않습니다.
- 4
클론의 스크린숏은 쉽습니다. 클라우드 서비스, 데이터, 라이선스는 어느 바이너리에도 없습니다.
- 5
Bun 재작성에는 원작자, 소스, 테스트, 그리고 16만 5,000달러가 들었습니다.
- 6
최고 모델은 거의 싸지지 않았고, 서로 수렴했습니다.
- 7
늘어난 일은 판단입니다. 테스트, 오라클, 리뷰.