프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Python
외부링크
에이전트 실행 로그와 비용 추적, 평가를 웹 대시보드로 연결하는 운영 도구
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Python 서비스형
제공
공식 배포처
다운로드
3
python3 -m pip install agentops
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
ChatGPT는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
git clone https://github.com/PawanOsman/ChatGPT && cd ChatGPT && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Evidently는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
git clone https://github.com/evidentlyai/evidently && cd evidently && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Gateway는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
git clone https://github.com/Portkey-AI/gateway && cd gateway && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Helicone는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
git clone https://github.com/Helicone/helicone && cd helicone && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Kong는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
git clone https://github.com/Kong/kong && cd kong && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
Tensorzero는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
git clone https://github.com/tensorzero/tensorzero && cd tensorzero && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
프롬프트, 트레이스, 비용, 평가를 한곳에서 보는 대표 LLM 관측 플랫폼
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
git clone https://github.com/langfuse/langfuse && cd langfuse && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
여러 모델 API를 OpenAI 호환 인터페이스로 묶는 LLM 게이트웨이
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
docker run -d -p 4000:4000 ghcr.io/berriai/litellm:main-latest
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
AI 서비스의 추적, 비용, 성능을 관찰하기 위한 LLM 관측 플랫폼
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
docker run -d -p 3001:3000 ghcr.io/openlit/openlit:latest
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
RAG와 에이전트 실행 결과를 평가·모니터링하는 데 초점을 둔 웹도구
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
git clone https://github.com/comet-ml/opik && cd opik && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
LLM 실험과 추적, 평가, 관측 흐름을 노트북과 웹에서 함께 다루는 도구
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
docker run -d -p 6006:6006 arizephoenix/phoenix:latest
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.
프로그램
AI·LLM 웹도구
평가·관측·게이트웨이
Docker
외부링크
LiteLLM는 LLM 운영 추적, 평가, 프록시, 게이트웨이 흐름을 한 화면으로 정리하기 좋은 AI 운영 도구입니다.
★★★★★ 평가 없음
버전
AI 웹도구 최신 공개판
설치 방식
Docker 배포형
제공
공식 배포처
다운로드
1
git clone https://github.com/BerriAI/litellm && cd litellm && docker compose up -d
최신 배포본 유지나 대용량 자료 제공을 위해 공식 사이트와 배포 페이지로 연결됩니다.