Giới thiệu Opik – nền tảng open-source (13k+ stars) giúp bạn xây dựng, đánh giá & tối ưu hệ thống LLM dễ dàng.

Trace chi tiết mọi LLM call, token & step
Guardrails đảm bảo output an toàn & tuân thủ
Live dashboards theo dõi usage, latency & cost
Agent Optimizer auto-tune prompts & workflows
LLM-judge scores nâng cao: relevance, hallucination, safety

Models/Frameworks: OpenAI, CrewAI, LiteLLM, LangChain, LlamaIndex

Vector DBs: Pinecone, Weaviate, Chroma…

Và nhiều stack khác

Repo chính thức: GitHub Opik

Nếu bạn đang build RAG hay Agentic AI ở production, Opik = quan sát + tối ưu + kiểm soát chi phí trong 1 nền tảng