기술 · 뉴스 해설
IBM Bob 셀프호스팅 출시: OpenShift 안에 남는 것과 남지 않는 것
IBM의 에이전트형 소프트웨어 개발 플랫폼은 이제 단절망을 포함한 고객 관리형 Red Hat OpenShift에서 백엔드를 실행할 수 있다. 핵심 질문은 단순히 온프레미스냐 클라우드냐가 아니라 추론, 로그, 운영 책임이 실제로 어디에 놓이는가다.
IBM은 IBM Bob 셀프호스팅 배포를 정식 제공해 기업이 에이전트형 소프트웨어 개발 플랫폼의 백엔드를 직접 통제하는 인프라에서 운영할 수 있게 했다. 소스 코드, 규제 데이터, 핵심 시스템을 공급자 운영 공개 서비스에 둘 수 없는 팀이 주요 대상이다.
하지만 셀프호스팅이라는 말만으로 모델 추론 위치가 정해지지는 않는다. Bob 백엔드, 신원, 감사 로그와 계량은 고객 관리형 Red Hat OpenShift에 둘 수 있지만 하이브리드 구성에서는 프롬프트와 코드 문맥이 승인된 외부 모델 서비스로 갈 수 있다. 완전 단절형은 지원 로컬 모델과 고객 GPU가 필요하다.
따라서 구매 판단은 아키텍처와 운영 문제다. 실제 모델 경로를 추적하고 OpenShift 용량, 업그레이드, 가용성, 네트워크, 저장소, 신원, 플랫폼 로그, 백업과 사고 대응을 맡을 준비가 돼 있는지 확인해야 한다.
고객 환경에서 실행되는 구성요소
IBM 문서는 Bob 셀프호스팅을 Red Hat OpenShift의 네임스페이스 워크로드로 설명한다. 백엔드, 추론 게이트웨이, 신원, 감사 로그, 사용량 계량을 Operator가 관리한다. 용량이 충분하면 Operator와 애플리케이션 네임스페이스가 기존 클러스터를 공유할 수 있어 전용 클러스터는 필수가 아니다. 개발자는 Bob IDE와 bob-shell을 계속 쓰며 내부 엔드포인트와 기업 신원 연동은 고객이 운영한다.
하이브리드 추론은 완전 로컬 추론과 다르다
하이브리드 경로는 조직이 관리하는 클라우드 계정을 통해 외부 모델에 연결한다. 백엔드와 로그는 OpenShift에 남지만 모델 요청과 코드 문맥은 조직의 계약 아래 외부 서비스로 이동한다. 모든 token과 코드 조각을 내부에 둬야 한다면 지원 오픈웨이트 모델을 고객 GPU에서 실행해야 한다. 발표 자료는 NVIDIA Nemotron 3 Ultra와 Poolside Laguna S 2.1을 명시하지만 하나의 범용 GPU 구성을 제시하지 않는다.
운영 부담은 고객 몫이다
IBM 문서는 확장, 가용성, 업그레이드, 네트워크, 저장소, 신원 통제를 포함한 인프라, 통합과 수명주기 운영을 고객 책임으로 둔다. 보안 이벤트 로깅과 모니터링은 OpenShift 플랫폼 계층에서 관리되며 Bob이 완성형 기능으로 자동 제공하는 것이 아니다. 2단계 bobctl 설치는 cluster-admin 수준 승인이 필요한 클러스터 자원과 네임스페이스 배포를 분리하지만 플랫폼 거버넌스는 남는다.
전제조건과 단절망 작업
공개 전제조건에는 유효한 권한, 릴리스 번들과 권한 있는 컨테이너 이미지, 지원 OpenShift 클러스터, 관리 워크스테이션, 호환 oc, Helm 3.14 이상, Bash, OpenSSL, cert-manager 1.14 이상, 충분한 컴퓨트·메모리·저장소·워커 용량이 포함된다. Bob은 모델 서빙 인프라를 제공하지 않으므로 모델 엔드포인트가 먼저 있어야 한다. 단절망에서는 이미지를 사설 레지스트리에 미러링해야 하며 검토, 유지보수, 패치와 로컬 모델 서빙 부담이 늘어난다.
개념검증 체크리스트
파일럿 전에 코드 문맥이 완전 오프라인이어야 하는지 승인 클라우드 모델 계정으로 갈 수 있는지 결정하고, OpenShift와 사설 레지스트리 책임자를 정한다. 업그레이드, 백업, 사고 대응, 승인 모델 경로, 용량 예산, 코드 접근 경계, SIEM 로그, 측정 가능한 결과도 지정해야 한다. IBM은 단일 노드 OpenShift로 개념검증이 가능하다고 하지만 운영 규모는 모델, 문맥 길이와 동시 사용자 수에 따라 달라진다.
아직 입증되지 않은 사항
검토 자료는 단순 공개 가격, 단일 운영 하드웨어 사양, 고객과 무관한 규정 준수 결과, SaaS판과의 중립 벤치마크를 제공하지 않는다. 셀프호스팅은 통제를 늘리지만 더 저렴하거나 빠르거나 자동으로 규정을 준수하며 외부 데이터 흐름이 없다는 뜻은 아니다. 다음 단계는 프롬프트, 코드 문맥, 로그, 신원과 관리자 동작을 실제 모델 경로에 따라 추적하는 아키텍처 검토다.
