LLM 운영, Red Hat으로 완성하기: OpenShift AI부터 vLLM까지

이명진

Speaker's bio

"이명진 상무는 한국레드햇에서 오픈시프트 스페셜리스트 솔루션 아키텍처팀을 총괄하고 있습니다. 레드햇에서 수년간 제조, 서비스, 유통 분야 고객사를 대상으로 컨테이너 플랫폼, 애플리케이션 현대화, 미들웨어 분야를 지원해왔으며, 20년 이상의 IT 업계 경력을 바탕으로 국내 선도 기업들의 오픈소스 도입 및 확산을 위한 아키텍처 설계, MSA, 데브옵스, AI/ML 관련 오픈소스 기술 저변 확대에 기여해 왔습니다. 또한, 다수의 엔터프라이즈 고객들과 함께 하이브리드 클라우드 프로젝트를 성공적으로 수행한 경험을 보유하고 있습니다."

Schedule

Session detail

AI 프로젝트가 실제 서비스로 확장되기 위해서는, 인프라부터 모델 운영까지의 통합적 접근이 필요합니다. 본 세션에서는 Red Hat의 대표 AI 플랫폼인 OpenShift AI, RHEL AI, Red Hat Lightspeed는 물론, LLM에 최적화된 vLLM inference engine과 LLM compressor를 만나보실 수 있습니다. GPU as a Service, MLOps, 그리고 LLM 운영 및 추론까지! Red Hat AI로 자동화·보안·확장성을 어떻게 확보할 수 있는지 살펴보세요.