기술 블로그
#architecture
글 4건
AI
RAG 를 붙이기 전에 물어야 할 세 가지
대부분의 RAG 실패는 검색이 아니라 문서에서 시작된다.
· #architecture #rag
설계KO
스트리밍 응답의 진짜 비용은 UX 가 아니라 트랜잭션이다
글자가 흐르는 동안 커넥션도 함께 붙잡혀 있다.
· #architecture #llm #spring-boot
설계KO
LLM 호출을 도메인 경계 안에 두지 않는 이유
모델을 바꾸는 일이 주문 도메인을 건드리는 일이 되면 안 된다.
· #architecture #llm
AIKO
Postgres 하나로 벡터 검색까지 미루기
전용 벡터 DB 를 도입하는 시점은 생각보다 훨씬 늦다.
· #architecture #postgresql #rag