이번 글에서는 AI 컴퓨팅 트렌드가 어디로 향하는지, 그 흐름에서 추론(inference) 인프라를 운영하는 데 쿠버네티스가 어떤 도움을 주는지, 그리고 AWS 위에서 대규모 추론을 안정적으로 돌리는 방법까지 다뤄보려고 합니다. 긴 글을 읽기 부담스러우신 분들은 제가 Youtube 영상으로 제작해 놓았으니 영상으로 보셔도 좋습니다. https://youtu.be/i2LsxlQMpwc 최근 트렌드를 살펴봤을 때 클라우드 네이티브와 오픈소스로 AI를 활용하는 영역은 크게 모델 학습, 모델 추론, AI 에이전트 세 가지로 나눌 수 있습니다. 에이전트만으로도 할 얘기들이 많지만, 이 글은 모델, 그중에서도 추론에 집중해보려고 합니다. 1. 무게중심이 학습에서 추론으로 넘...