jam 블로그

논문 내용을 팟캐스트처럼 ai로 만들었습니다. 대규모 언어 모델(LLMs)은 이제 챗봇, 코드 생성, 검색 엔진 등 다양한 분야에서 광범위하게 활용되고 있습니다. 하지만 LLM 추론(Inference) 과정은 모델 크기가 커짐에 따라 막대한 계산 비용과 높은 지연 시간(Latency)을 수반하는 핵심적인 과제입니다. 특히 Chain-of-Thought, 복잡한 추론, 에이전트 서비스와 같은 작업 부하는 모델을 반복적으로 호출하면서 추론 비용을 크게 증가시킵니다. 논문 A Survey on Inference Engines for Large Language Models: Perspectives on Optimization and Efficiency는 이러한 문제를 해결하기 위해 등장한 LLM 추론 엔진들에 ..

​최근 생성형 AI 기술이 발전하면서, AI 모델이 실시간으로 외부 데이터와 효율적으로 상호작용하는 방법이 중요해졌습니다. 이런 환경에서 주목받는 것이 바로 MCP(Model Context Protocol)입니다. 이번 글에서는 MCP의 개념과 필요성을 쉽게 이해하고 Claude 플랫폼과 함께 실습해 볼 수 있도록 안내합니다.​MCP(Model Context Protocol)란 무엇인가?MCP는 간단히 말해 AI 모델과 외부 데이터 및 도구 간의 원활한 통신을 위한 개방형 표준 프로토콜입니다. USB-C가 다양한 장치를 하나로 통합하는 것처럼, MCP는 AI가 여러 데이터 소스에 간편하게 접근할 수 있도록 표준화된 인터페이스를 제공합니다.예컨대 회사 내부 데이터베이스나 웹 API 등을 AI 챗봇에 쉽게 ..

똑똑한 사람은 어떻게 생각하고 질문하는가​질문을 잘하면 세상이 다르게 보인다고 합니다. 특히 ChatGPT 같은 인공지능과 협업하는 시대에는 ‘좋은 질문’이야말로 경쟁력입니다. 그런 의미에서 이시한 작가의 『똑똑한 사람은 어떻게 생각하고 질문하는가』는 지금 시대에 꼭 필요한 책이었습니다.​📖 저자: 이시한 | 출판사: 북플레저 | 출판년도: 2024.01.24 | 페이지: 328쪽 📌 책을 선택한 이유​요즘 ChatGPT나 Claude 같은 대화형 인공지능을 활용하면서 ‘질문을 잘 던지는 능력’이 정말 중요하다는 걸 느꼈습니다. 답변의 퀄리티도 결국 질문의 퀄리티에서 나옵니다. 그러다 보니 자연스럽게 ‘질문을 잘하는 사람들은 어떻게 사고할까?’에 대해 궁금해졌고, 이 책 제목이 딱 마음에 들어 선택하..

초역 부처의 말요즘 회사생활을 하다 보면 스트레스를 받는 순간이 많아 마음을 다스릴 방법을 찾게 됩니다. 그러던 중 유퀴즈에서 아이브 장원영님이 힘들 때마다 읽는다는 책으로 소개한 『초역 부처의 말』을 접하게 되었습니다. 이 책에는 불교 경전에서 발췌한 190개의 구절이 수록되어 있으며, 이를 현대적으로 해석한 초역(超譯) 방식으로 소개하고 있습니다.​📖 저자: 코이케 류노스케 | 역자: 박재현 | 출판사: 포레스트북스 | 출판년도: 2024.05.30 | 페이지: 256쪽 📌 책을 선택한 이유• 유퀴즈에서 아이브의 장원영님이 힘들 때마다 꺼내본다고 해서 관심이 생겼습니다.• 회사 생활을 하며 마음이 힘들 때가 많아 위로가 될 책이 필요했습니다.초역 부처의 말 👥 추천 대상​✔ 주변 사람들로 인해 ..

주식 투자 책💰 부제 : 더 이상 미룰 수 없어서 시작했지만 뭐부터 해야 할지 몰라 고른 첫 번째 머니북📖 저자: 최광자 | 출판사: 경이로움 | 출판년도: 2024.11.15 | 페이지: 360  📌 책을 선택한 이유주식을 시작했지만, 기초 지식 없이 투자하다 보니 어려움을 많이 겪었습니다.✔ 좋은 회사인지 판단하는 기준이 모호하고✔ 주식 용어가 익숙하지 않아 관련 대화에서도 어려움을 느꼈습니다.​그래서 기초부터 다시 다지고 싶어 이 책을 선택했습니다. 👥 추천 대상✅ 주식 투자 초보자 – 주식을 처음 시작하는 사람✅ 기본 개념이 부족한 투자자 – 주식 용어와 개념을 제대로 알고 싶은 사람✅ 기초를 다시 다지고 싶은 사람 – 주식에 대해 어느 정도 알지만, 다시 정리하고 싶은 사람 📖 책 소개..