Default

LLM 백엔드에서 “Celery + Redis 큐 워커”를 2026년식으로 다시 설계하기: 비동기 처리, 중복 실행, 가시성(visibility)까지

· Backend / Architecture

LLM 기능을 서비스에 붙이면 요청 처리 시간이 갑자기 “수십 ms”에서 “수 초~수십 초”로 늘어납니다. 문제는 평균 지연이 아니라 꼬리 지연(tail latency) 과 외부 의존성(OpenAI/사내 inference/벡터DB/S3) 변동성이고, 이게 웹 API 스레드/프로세스를 잠…

arXiv가 던진 경고: “에이전트는 똑똑해졌지만, 아직 믿고 맡길 단계는 아니다”

· News / AI

2026년 7월 arXiv에서는 LLM agent를 “더 잘 만들기”보다 “제대로 재기” 위한 벤치마크/평가 프레임워크 논문이 유독 많이 눈에 띄었습니다. 공통 결론은 단순합니다. 성공률은 생각보다 낮고, 길고 현실적인 워크플로우로 갈수록 급격히 무너진다는 것—이게 실무에 직격탄입니다.