kkeojyeo...

이번에 마이크로소프트의 나름 초대형 장애 사태 이후 레딧에 올라온 글인데, 공감되는 관점이라서 번역글 올려봄 마이크로소프트 사건은 내가 AI에 대해 늘 생각해 왔던 것이 옳았음을 증명했다. 나는 시니어 엔지니어다. AI가 등장하기 전부터 등장한 이후까지 미국, 유럽, 한국의 여러 기업에서 대규모 프로젝트를 처음부터 구축해 본 경험이 있다. AI는 코드 작성, 애플리케이션 개발, 테스트, 문서 작성 등 거의 모든 작업에서 매우 뛰어나다. 하지만 이런 것들은 소프트웨어 엔지니어링에서 매우 낮은 수준의 작업에 불과하다. 진짜 중요한 것은 시스템을 깊이 이해하는 능력이다. 내 경험상 시스템이 아무리 잘 설계되고 구현되었더라도 언젠가는 예상하기 어려운 극단적인 엣지 케이스(Edge Case)가 발생해 시스템을 망가뜨린다. 시스템이 그만큼 복잡하기 때문이며, IT 업계의 급여가 다른 업계보다 훨씬 높은 이유도 여기에 있다. 그런데 AI는 이러한 문제를 해결하는 데 상당히 취약하다. 복잡한 시스템에 대한 충분한 맥락(Context)을 갖고 있지 못하기 때문이다. 현실의 복잡한 시스템은 보통 여러 복잡한 시스템이 결합된 형태다. 마이크로소프트 사례를 보자. 데이터베이스, 인프라, 애플리케이션, 네트워크가 서로 얽혀 전체 시스템을 구성하고 있었다. 장애는 이 전체 시스템에 존재하는 수천 개의 지점 중 어디에서든 발생할 수 있었다. 심지어 롤백(Rollback)을 하려면 무엇을 롤백해야 하는지부터 알아내야 한다. 마이크로소프트는 이를 파악하는 데 무려 15시간이 걸렸고, 아마도 이 장애로 인해 해고된 직원 전체의 급여를 합친 것만큼의 비용을 잃었을 것이다. 시스템을 구축한 시니어 엔지니어들은 시스템이 실제로 어떻게 동작하는지에 대한 핵심 지식을 가지고 있다. 예를 들어 내가 직접 구축한 시스템에 문제가 발생한다면 원인을 파악하는 데 한 시간도 걸리지 않을 수 있다. 하지만 그 시스템을 개발해 본 적 없는 사람은 AI를 활용하더라도 하루 이상 걸릴 수 있다. 따라서 AI는 어디까지나 엔지니어를 보조하는 도구여야지, 개발자 자체를 대체해서는 안 된다. 안타깝게도 기업들은 이미 피해가 발생한 뒤에야 이 사실을 깨닫게 될 것이다.