AI & LLM

NotebookLM 은 Google 의 자료 우선 (source-grounded) AI 노트북. 사용자가 업로드한 PDF·구글 문서·웹사이트·YouTube·오디오에서만 답변을 합성하므로 hallucination 이 일반 챗봇보다 적음. 04-gemini-api 가 raw API, 08-google-ai-studio 가…

Google AI Studio (aistudio.google.com) 는 Gemini 모델을 브라우저에서 직접 다루는 통합 환경입니다. 처음에는 Gemini 프롬프트 플레이그라운드 였지만 2024 년 이후 노트북·앱 빌더·자동 배포가 통합되며 Replit 과 같은 AI Web IDE 카테고리로 자리를 옮겼습니다.

Gemini 는 Google DeepMind 가 2023 년 말에 공개한 모델 시리즈입니다. 텍스트뿐 아니라 이미지·오디오·비디오·코드를 함께 다루는 멀티모달 입력, 1.5 부터 들어온 매우 긴 컨텍스트가 특징으로 거론됩니다.

LLM 시장의 지형은 빠르게 바뀝니다. 폐쇄형 API 와 오픈 가중치, 영어 중심과 다국어, 클라우드와 자체호스팅, 한국어에 특화된 모델이 함께 자리 잡고 있습니다.

"에이전트" 라는 말이 여러 의미로 쓰여 혼란스러운 시점입니다. 스크립트 자동화도 에이전트라 부르고, LLM 이 도구를 호출하는 모양도 에이전트라 부릅니다.

임베딩은 텍스트 (또는 이미지·코드) 를 고정 차원의 실수 벡터로 매핑한 결과입니다. 의미가 가까운 것이 벡터 공간에서 가깝게 배치된다는 가정 위에 검색·클러스터링·분류·추천이 얹힙니다.

프롬프트는 단순히 LLM 에 보내는 문자열이 아니라 입력 인터페이스의 설계 자체에 가깝습니다. 메시지 구조 · 추론 유도 패턴 · 샘플링 매개변수 · 보안까지 한꺼번에 얽힙니다.

RAG (Retrieval-Augmented Generation) 는 LLM 의 한정된 학습 시점·메모리 한계를 외부 지식으로 보완하려는 방식입니다. 검색·생성을 분리하면 모델을 다시 학습시키지 않고도 새로운 자료를 다룰 수 있습니다.

대형 언어 모델을 자기 컴퓨터에서 직접 돌리려는 흐름이 2023 년부터 빠르게 자리 잡았습니다. 클라우드 API 만 쓰던 자리에 GGUF 같은 양자화 포맷, llama.cpp 같은 추론 런타임, LM Studio · Ollama · vLLM 같은 도구가 합쳐지며 노트북에서도 비교적 큰 모델을 굴릴 수 있게 됐습니다.