Reverse Proxy
-
홈서버 원본 IP 노출 방어와 Nginx Cloudflare 허용 대역 구성
홈서버에서 LLM 스트리밍 API의 버퍼링 문제를 해결하거나 특정 전송 계층의 성능을 확보하기 위해 Cloudflare 프록시를 끄고 DNS Only(회색 구름)로 전환하면, 홈서버의 공인 IP가 외부에 직접 노출된다. 이때 동일한 공인 IP를 공유하는 다른 웹서비스들까지 공격자의 IP 직접 접근에 의해 Cloudflare WAF와 DDoS 보호를 우회당할 수 있는 구조적 취약점이 발생한다. 본 글에서는 원본 IP 노출에 따른 위험성과… Continue reading
-
vLLM API Key 인증 시 기본 노출 경로와 Nginx 접근 제어 설정
vLLM 서빙 엔진을 외부 네트워크에 노출할 때 접근 통제를 위해 –api-key 옵션을 사용하는 것이 기본 보안 설정이다. 그러나 이 옵션을 적용하더라도 모든 HTTP 엔드포인트가 인증으로 보호되는 것은 아니다. 기본적으로 인증 없이 응답을 반환하는 경로가 존재하며, 이를 파악하지 않고 외부에 공개할 경우 시스템 정보가 노출될 수 있다. 본 글에서는 vLLM의 엔드포인트별 인증 적용 현황과 Nginx를 통한… Continue reading
-
Cloudflare 프록시 환경의 LLM 스트리밍(SSE) 지연 분석 및 진단 가이드
홈서버에 구축한 vLLM 등의 LLM 서빙 엔진을 외부에서 안전하게 호출하기 위해 리버스 프록시와 도메인을 연결하고 Cloudflare 프록시(오렌지 구름)를 적용하는 경우가 많다. 그러나 Server-Sent Events(SSE) 기반의 실시간 스트리밍 추론 API를 Cloudflare Free 플랜 프록시 뒤에 배치하면 심각한 응답 지연과 버퍼링 문제가 발생할 수 있다. 이 글에서는 실제 발생한 지연 증상과 원인 분석 과정, 계층별 진단 절차… Continue reading
