실무로 통하는 LLM 애플리케이션 설계

한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다.

 

 

요즘 LLM 관련 도서는 많지만, 단순히 모델 사용법을 나열하는 데 그치지 않고 ‘실무’와 ‘설계’의 관점을 제대로 다룬 책은 드물었습니다. 그런 면에서 이 책은 LLM을 이용해 토이 프로젝트 수준을 넘어 실제 서비스(Product)를 구축하려는 사람들에게 꽤 유용한 가이드가 되어줍니다.

책은 크게 3부로 나뉘어 구성되어 있는데, 흐름이 매우 논리적입니다.

초반부에서는 LLM의 기본기를 다지는데, 단순히 이론적인 설명에 그치지 않습니다. 예를 들어 토큰화를 설명할 때도 단순히 단어를 쪼개는 것을 넘어, 이것이 모델의 속도, 비용, 컨텍스트 길이에 어떤 영향을 미치는지 ‘설계 변수’로서 접근하는 점이 인상적이었습니다. 트랜스포머 구조나 스케일링 법칙에 대한 설명도 실무자가 이해해야 할 수준으로 깔끔하게 정리되어 있습니다.

중반부와 후반부로 갈수록 이 책의 진가가 드러납니다. 현업에서 가장 고민하게 되는 지점들, 즉 "파인튜닝을 할 것인가, RAG(검색 증강 생성)를 쓸 것인가?" 와 같은 트레이드오프를 명확하게 분석해 줍니다. 특히 환각(Hallucination) 현상을 단순히 오류로 치부하지 않고 유형별로 분류해 대응 전략을 제시한 부분이나, 실제 서비스 품질을 좌우하는 추론 최적화(TPT, KV 캐싱 등)를 다룬 챕터는 엔지니어링 관점에서 큰 도움이 되었습니다.

물론 아쉬운 점이 없는 것은 아닙니다. ‘설계’에 초점을 맞추다 보니 당장 복사해서 쓸 수 있는 코드 레벨의 예제는 상대적으로 적은 편이고, 영어 기반 모델 중심이라 멀티 모달에 대한 내용은 깊게 다루지 않습니다. 하지만 책에 수록된 연습문제(가드레일 설정, JSON 스키마 추출 등)를 따라가다 보면 LLM 애플리케이션의 전체 구조를 잡는 데에는 부족함이 없습니다.

 

개인적으로, 이 책은 LLM 입문자보다는 이미 랭체인이나 API를 한두 번 써봤고, 이제 안정적인 시스템을 구축하고 싶은 중급 개발자나 아키텍트, PM에게 적합합니다. 코드 한 줄보다는 전체 시스템의 아키텍처를 어떻게 그릴지, 비용과 효율을 어떻게 최적화할지 고민하는 분들에게 일독을 권합니다.