24GB GPU 한 장으로 “내 도메인 전용 LLM” 만들기: LoRA/QLoRA Fine-tuning 실전 튜토리얼
· AI / LLM
프로덕션에서 LLM을 “그럴듯하게” 쓰는 것과 “우리 조직의 톤/정책/지식 구조를 일관되게” 반영하는 것은 다릅니다.
Default
AI 스타트업 투자·인수합병 ‘7월 러시’ — 에이전트/RevOps로 쏠리는 돈, 빅테크는 “워크플로우 흡수”로 답했다
· News / AI
2026년 7월 AI 스타트업 시장은 “큰 라운드로 빠르게 스케일”과 “제품 워크플로우를 통째로 흡수하는 M&A”가 동시에 폭발했습니다.
**2026년 7월, AI Agent의 “Tool Use + Function Calling”을 프로덕션에 넣는 법: 루프·계약·오케스트레이션 패턴 총정리**
· AI / Agent
2026년 기준으로 Agent를 “똑똑한 챗봇”에서 “업무를 실제로 처리하는 소프트웨어”로 끌어올리는 핵심은 tool use(function calling) 입니다.
“멀티 에이전트”를 진짜로 출시하려면: LangGraph vs AutoGen(AG2) vs CrewAI 심층 비교 + 구현 가이드
· AI / Agent
멀티 에이전트가 해결하는 문제는 간단히 말해 “LLM 호출을 여러 번/여러 역할로 나눴을 때 생기는 복잡성(상태, 분기, 재시도, 승인, 추적, 비용)을 시스템적으로 관리”하는 것입니다. 데모는 쉽지만, 출시 단계에서 터지는 건 보통 다음 3가지입니다.
프롬프트 캐싱으로 LLM 비용 10배 줄이기: OpenAI·Anthropic “캐시 히트율” 실전 최적화
· AI / LLM
LLM 비용이 폭발하는 가장 흔한 패턴은 “매 요청마다 같은 긴 prefix(시스템 프롬프트, 툴 정의, 정책, 코드베이스 요약, Few-shot 예시)를 다시 읽게 만드는 것”입니다.
Dedup + Dataset Quality 전처리 “현업형” 설계도 (MinHash→Semantic→Contamination Gate)
· AI / Data
LLM/멀티모달 학습 데이터에서 중복(duplicate/near-duplicate/semantic duplicate) 은 단순히 “데이터를 더 크게 보이게” 만드는 문제가 아니라, (1) 학습 효율 저하, (2) 특정 패턴 과적합/기억(memorization) 강화, (3) 벤치마크 오…
서버리스 LLM 배포: Modal vs Runpod vs AWS Lambda, 그리고 “cold start를 설계로 이기는” 방법
· Infrastructure / Serverless
서버리스 LLM 배포가 해결하는 문제는 명확합니다: GPU/서빙 인프라를 상시 운영하지 않고도(=scale-to-zero), 트래픽에 맞춰 자동 확장하면서 LLM inference endpoint를 운영하는 것. 하지만 2026년에도 여전히 가장 큰 적은 cold start입니다.
Chain-of-Thought(고급 프롬프트 최적화): “생각을 길게 쓰게”가 아니라 “추론을 설계”하는 2026 실전 패턴
· AI / LLM
현업에서 LLM이 “대충 그럴듯한 답”은 잘 내는데, 복잡한 의사결정/다단계 작업(요구사항 충돌, 제약 최적화, 디버깅, 평가 기준이 많은 추천 등)에서는 다음 문제가 반복됩니다.
LLM 호출 내부까지 “끝까지” 보이게: OpenTelemetry GenAI Tracing으로 LLM Observability 구축하기
· AI / MLOps
LLM 앱을 운영해보면 장애의 원인이 “코드 예외”보다 “모델 호출/프롬프트/툴 체인”에 숨어있는 경우가 더 많습니다. 예를 들어:
GPT-5.6·Claude Sonnet 5·Gemini “Agentic” 전쟁: LLM 신모델이 바꿀 실무 선택지
· News / AI
2026년 7월 초, OpenAI와 Anthropic이 각각 GPT-5.6, Claude Sonnet 5를 공식 출시하며 “최신 모델 교체” 사이클이 다시 한 번 크게 돌았습니다.