jam 블로그

논문 내용을 팟캐스트처럼 ai로 만들었습니다. 대규모 언어 모델(LLMs)은 이제 챗봇, 코드 생성, 검색 엔진 등 다양한 분야에서 광범위하게 활용되고 있습니다. 하지만 LLM 추론(Inference) 과정은 모델 크기가 커짐에 따라 막대한 계산 비용과 높은 지연 시간(Latency)을 수반하는 핵심적인 과제입니다. 특히 Chain-of-Thought, 복잡한 추론, 에이전트 서비스와 같은 작업 부하는 모델을 반복적으로 호출하면서 추론 비용을 크게 증가시킵니다. 논문 A Survey on Inference Engines for Large Language Models: Perspectives on Optimization and Efficiency는 이러한 문제를 해결하기 위해 등장한 LLM 추론 엔진들에 ..

​최근 생성형 AI 기술이 발전하면서, AI 모델이 실시간으로 외부 데이터와 효율적으로 상호작용하는 방법이 중요해졌습니다. 이런 환경에서 주목받는 것이 바로 MCP(Model Context Protocol)입니다. 이번 글에서는 MCP의 개념과 필요성을 쉽게 이해하고 Claude 플랫폼과 함께 실습해 볼 수 있도록 안내합니다.​MCP(Model Context Protocol)란 무엇인가?MCP는 간단히 말해 AI 모델과 외부 데이터 및 도구 간의 원활한 통신을 위한 개방형 표준 프로토콜입니다. USB-C가 다양한 장치를 하나로 통합하는 것처럼, MCP는 AI가 여러 데이터 소스에 간편하게 접근할 수 있도록 표준화된 인터페이스를 제공합니다.예컨대 회사 내부 데이터베이스나 웹 API 등을 AI 챗봇에 쉽게 ..

Q-Learning (1992): 이후 강화학습 분야의 대표적인 알고리즘 중 하나인 Q-Learning이 Watkins와 Dayan에 의해 제안됨. [논문: "Q-Learning", 1992] TD-Gammon (1995): 텐니스 게임에서의 자가 학습을 통해 세계 챔피언을 이긴 최초의 강화학습 모델인 TD-Gammon이 제안됨. [논문: "Temporal Difference Learning of Backgammon Strategy", 1995] DQN (2013): DeepMind에서 개발된 Deep Q-Network(DQN)은 딥러닝을 강화학습에 적용한 첫번째 모델로, Atari 게임에서 인간 수준의 성능을 보임. [논문: "Playing Atari with Deep Reinforcement Lear..

LeNet-5 (1998): 이미지 분류를 위한 최초의 합성곱 신경망 모델로, 손글씨 숫자 인식에 성공함. [논문: "Gradient-based learning applied to document recognition", 1998] SIFT (1999): 이미지에서 특징점을 검출하고, 이를 기초로 이미지를 비교하는 방법으로, 이미지 인식 분야에서 큰 역할을 함. [논문: "Distinctive Image Features from Scale-Invariant Keypoints", 1999] Bag-of-features (2004): 이미지의 전체적인 특징만을 고려하여 이미지를 분류하는 방법으로, 이미지 분류 분야에서 활용되었음. [논문: "An Introduction to the Bag-of-Feature..

LSTM (1997): 반복 신경망을 장기 기억을 유지할 수 있도록 확장한 LSTM(Long Short-Term Memory) 모델이 제안됨. [논문: "Long Short-Term Memory", 1997] Conditional Random Field (2001): 레이블된 시퀀스 데이터를 모델링하는데 사용되는 조건부 랜덤 필드(Conditional Random Field) 모델이 제안됨. [논문: "Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data", 2001] Word2Vec (2013): 단어를 밀집 벡터(dense vector)로 표현하는 기법인 Word2Vec이 제안됨. [논문: "E..