이화여대 GDG 세미나
260401 내 발표를 자동 요약한 것이다.
발표자 소개 및 AI 시대 개발자에 대한 문제 제기
발표자 조성현은 민족사관고등학교를 졸업하고 재학 당시 축제 결제 시스템인 민사페이를 개발해 화제를 모았으며, 현재 전형으로는 한국 최초로 애플 WWDC 장학생에 선발된 이력을 가지고 있다. 이후 서던 캘리포니아 대학교에서 컴퓨터 과학 학사와 석사를 각각 2년 반, 1년 반 만에 조기 졸업하였고 보잉 장학생으로도 선정되었다. 대학 진학 전 우아한형제들을 시작으로 당근, Grammarly에서 인턴 및 근무를 거쳐, 현재는 의료 AI 기업 루닛에서 AIOps와 LLMOps를 담당하고 있다. 최근에는 이준석 의원 및 구글, 팔란티어 출신 개발자들을 모아 매출로 순위를 매기는 흑백 개발자 해커톤을 운영하는 등 제품 개발에 높은 열정을 보이고 있다.
발표자는 "AI가 코딩을 잘하는가?"라는 업계의 통념에 강한 의문을 제기한다. AI는 수백 페이지의 문서에서 특정 정보를 찾아내는 등 검색과 추출에는 탁월하지만, 코드를 작성하는 것은 완전히 다른 차원의 문제라고 지적한다. 현재의 AI 모델은 인터넷에 존재하는 코드를 무분별하게 학습하기 때문에, 결과적으로 표준 정규분포에 따라 평이한 중품질의 코드로 수렴하게 된다. 특히, AI 벤치마크가 문제를 정확히 진단해 수술하기보다는 모르는 문제에 일단 코드를 추가해보고 아는 척하는 이른바 덕테이프 방식을 선호하도록 설계되어 있어 질적 하락을 부추긴다. 아무리 90%의 코드가 완벽하더라도 10%의 저품질 코드가 지수적으로 누적되면 결국 전체 소프트웨어의 완성도를 무너뜨리는 AI 슬롭 현상이 발생한다. 소프트웨어의 완성도는 가장 약한 10%의 결함에서 결정되기 때문에, AI가 생산하는 코드는 본질적으로 사람이 작성한 코드의 안정성을 넘어서기 어렵다. 발표자는 작금의 상황을 "역사상 가장 품질이 낮은 소프트웨어들이 양산되는 시대"라고 진단하며, 이는 단순히 내년에 Opus 5 모델이 출시된다고 해결될 문제가 아닌 AI 업계 시스템의 구조적 한계임을 강조한다.
AI 시대에 요구되는 제품 완성 경험
AI가 0에서 80% 구간의 코딩을 완벽에 가깝게 자동화함에 따라, 이제 개발자의 진짜 가치는 무임승차가 불가능한 80%에서 98%까지의 완성도를 달성하는 데서 판가름 난다(100%는 비현실적인 목표로 간주). 발표자는 흑백 개발자 해커톤에서의 관찰을 통해 흥미로운 통찰을 제시한다. 구글 로그인 기능에 오류가 발생했을 때, 기존 지식에 얽매인 시니어 개발자들은 새벽까지 AWS에 직접 배포하며 수제 코딩으로 문제를 디버깅하려 애썼다. 반면, 주니어 개발자들은 플랫폼(버셀 등)과 AI 에이전트를 활용해 구글 로그인을 과감히 제외하고 이메일 로그인으로 대체하여 그 시간에 고객을 더 모으는 실용적인 접근을 택했다. 이는 기존 방식과 경로의존성에 갇히는 지식의 저주를 피하고, 상황에 맞게 유연한 해법을 찾는 모름의 축복이 AI 시대에 얼마나 유리한지 보여주는 단적인 예이다.
따라서 주니어 시절부터 수년에 걸쳐 팀 리드가 되고 아키텍처를 설계하며 코드 리뷰를 받는 전통적인 성장 경로는 더 이상 유효하지 않다. AI로 인해 개인의 생산성이 급증함에 따라 대기업 하나에 50만 명이 속해있던 경제 구조는 5명씩 10만 개의 회사가 존재하는 강소기업의 시대로 개편될 것이며, 머지않아 기업 가치 1.5조 원에 달하는 AI 자동화 기반의 1인 유니콘이 등장할 것이다. 단기적으로는 일자리가 줄어드는 것처럼 보일 수 있으나 중장기적으로는 회사 수가 늘어나 할 일이 폭발적으로 증가하게 된다.
결국 이 시대에 살아남기 위해 가장 중요한 역량은 제품을 만들고 출시하여 운영하는 경험이다. 데모 수준의 개발과 프로덕션 환경에서의 실제 운영은 완전히 다른 차원의 경험이다. 발표자는 동영상 검색 앱을 개발할 때의 실제 사례를 공유했다. 처음에는 단순 벡터 검색만 적용했다가 장원영을 검색해도 결과가 나오지 않아 벡터와 BM25를 결합한 하이브리드 서치로 개선해야 했고, 단순 코사인 유사도 랭킹 방식 때문에 의미 없는 더미 데이터가 상단에 노출되자 댓글 수와 참여율에 가중치를 부여하는 스코어 부스팅을 재구현했다. 또한, 임베딩 API가 외부에서 변경되며 두 가지 버전의 데이터가 섞여 검색이 마비되는 문제를 겪고 나서야 API 버저닝 관리의 필요성을 깨달았다. 이처럼 실제 프로덕션 환경에서 발생하는 예기치 못한 문제를 확인하고, 피드백을 수용하며 지속적으로 개선해 나가는 경험이야말로 AI 시대 개발자가 갖춰야 할 대체 불가능한 역량이다.
AI 에이전트 활용 극대화 전략 (LLMOps)
제품을 성공적으로 완성하고 운영하기 위해서는 AI 에이전트 군단을 정교하게 통제하는 LLMOps 역량이 필수적이다. AI를 단순한 무한루프에 방치해서는 유의미한 결과물이 나오지 않으며, 아주 정확하게 과제를 쪼개어 스코핑하고 검증할 수 있는 시스템을 구축해야 한다. 문제가 발생했을 때 즉각 사람의 개입을 요청하는 Human in the loop 시스템을 설계하여, 대표가 중요한 사안에만 집중하듯 가장 적은 수의 정교한 결정만 사람이 내리도록 해야 한다.
발표자는 실제 에이전트 운영 과정에서 얻은 구체적인 노하우와 Best Practice를 다음의 기술적 관점들로 나누어 상세히 설명한다