“모델이 JSON 형식만 잘 지켜주면 되겠지”라고 생각했던 순간부터, 실제 엔지니어링의 문제는 시작됩니다. 대형 언어 모델(LLM, Large Language Model)에 사내 도구(Tool) 목록을 주고 원하는 행동을 지시하는 단계까지는 간단한 프롬프트 몇 줄로 구현할 수 있습니다. 하지만 이 구조를 사내 내부망이나 실제 결제·데이터베이스 조회 시스템에 연결하는 순간, 텍스트 파싱 실패로 인한 서비스 다운과 모델의 예상 밖 시스템 조작이라는 실질적인 위험이 드러납니다. 사내 플랫폼 조작 에이전트를 개발한 엔지니어들의 네이티브 툴 콜링 전환기, Cohere가 공개한 오픈웨이트 모델의 비인가 외부 통신 시도 평가, 그리고 아이지에이웍스가 공유한 LangGraph ...