기술 · 뉴스 해설
Reflection, Beam 프리뷰 공개…모델 가중치는 10월 중 공개 계획
코딩과 에이전트형 작업을 겨냥한 모델이다. 이용 가능 여부와 효율성에 관한 주장은 서로 다른 종류의 근거로 확인해야 한다.
Reflection은 10월 5일 첫 AI 모델인 Beam을 발표했다. 회사는 사용하는 모델에 대한 통제권을 더 확보하려는 기업을 겨냥한 모델로 내세우고 있다.
프리뷰는 현재 제공, 가중치는 추후 공개
초기 버전은 선정된 사용자에게 제공되고 있으며, 대기 명단 등록도 받고 있다. Reflection은 이달 중 추후 모델 가중치와 관련 자료를 공개할 계획이며, 모델 가중치에는 Apache 2.0 라이선스를 적용할 예정이다.
대기 명단에 등록하는 것은 이용 권한을 요청하는 일이다. 다운로드를 마쳤다는 뜻이 아니며, 라이선스 제공을 예고했다고 해서 파일을 이미 이용할 수 있다는 뜻도 아니다.
두 수치가 뜻하는 것
Reflection이 제시한 전체 파라미터 수는 5,010억 개이며, 토큰당 활성 파라미터 수는 230억 개다.
파라미터 수는 모델을 설명하는 수치이지 메모리 사양이 아니다. 더 작은 수치를 하드웨어 요구 사항으로 받아들이면 전체 배포·운영 환경에 무엇이 필요한지 확인하는 필수 단계를 건너뛰게 된다.
추정치와 실제 비용의 차이
회사의 비교는 활성 파라미터 수와 생성된 토큰 수를 바탕으로 생성 시 순전파 연산량을 추정한다. 프리필, 문맥에 따라 달라지는 어텐션 연산, 서빙 오버헤드는 제외한다.
비용을 비교할 때 유용한 질문은 전체 작업을 실행하는 데 얼마가 드느냐는 것이다. 더 좁은 범위의 추정치만으로는 빠진 운영 정보 없이 그 질문에 답할 수 없다.
아직 확인해야 할 사항
Semafor에 따르면 Reflection은 Beam을 코딩과 에이전트형 작업을 수행하는 주력 모델로 내세우고 있다. 이는 개발사의 홍보 설명이며 독립적인 테스트 결과가 아니다.
평가하려면 먼저 모델을 이용할 수 있어야 하며, 성능과 운영 비용은 각각 별도의 근거로 확인해야 한다. 모델 발표는 의도한 용도를 설명할 수 있지만, 그것만으로 실제 결과를 입증하지는 못한다.
