프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Python
외부링크
에이전트 실행 로그와 비용 추적, 평가를 웹 대시보드로 연결하는 운영 도구
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Python 서비스형
제공
공식 배포처
다운로드
28
python3 -m pip install agentops
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
LLM 실험과 추적, 평가, 관측 흐름을 노트북과 웹에서 함께 다루는 도구
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
15
docker run -d -p 6006:6006 arizephoenix/phoenix:latest
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
여러 모델 API를 OpenAI 호환 인터페이스로 묶는 LLM 게이트웨이
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
14
docker run -d -p 4000:4000 ghcr.io/berriai/litellm:main-latest
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
AI 서비스의 추적, 비용, 성능을 관찰하기 위한 LLM 관측 플랫폼
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
13
docker run -d -p 3001:3000 ghcr.io/openlit/openlit:latest
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
ChatGPT는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
12
git clone https://github.com/PawanOsman/ChatGPT && cd ChatGPT && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Evidently는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
12
git clone https://github.com/evidentlyai/evidently && cd evidently && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Helicone는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
12
git clone https://github.com/Helicone/helicone && cd helicone && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Kong는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
12
git clone https://github.com/Kong/kong && cd kong && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Tensorzero는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
12
git clone https://github.com/tensorzero/tensorzero && cd tensorzero && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
프롬프트, 트레이스, 비용, 평가를 한곳에서 보는 대표 LLM 관측 플랫폼
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
12
git clone https://github.com/langfuse/langfuse && cd langfuse && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
LiteLLM는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
12
git clone https://github.com/BerriAI/litellm && cd litellm && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Gateway는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
11
git clone https://github.com/Portkey-AI/gateway && cd gateway && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
RAG와 에이전트 실행 결과를 평가·모니터링하는 데 초점을 둔 웹도구
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
11
git clone https://github.com/comet-ml/opik && cd opik && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.