칩스앤미디어가 인공지능(AI) 반도체의 메모리 병목을 해소하는 '데이터 압축(DC) IP'를 선보였다.
7일 칩스앤미디어에 따르면 이번에 공개한 데이터 압축 IP는 비디오 이외의 응용 분야를 겨냥해 선보이는 첫 번째 멀티미디어 IP다. AI 연산 과정에서 발생하는 피처맵을 무손실로 압축해 신경망처리장치(NPU)의 메모리 병목 현상을 완화한다.
칩스앤미디어가 ResNet, MobileNet, YOLO 등 주요 비전 네트워크를 대상으로 테스트한 결과, 데이터 형식별 메모리 대역폭 절감률은 FP16 35.2%, BF16 45.7%, INT8 53.5%를 기록했다. 이를 통해 동일한 메모리 환경에서도 NPU가 사용할 수 있는 실질적인 메모리 대역폭을 확대하고 전체 시스템의 처리 효율을 높일 수 있다는 설명이다.
시스템 적용 편의성도 고려했다. 데이터 압축 IP는 기존 NPU와 AXI 버스 사이에 배치하는 '인라인 AXI 브리지' 구조로 설계됐다. 별도의 내부 SRAM 없이 기존 AXI 클럭을 활용할 수 있는 경량 구조로, 하드웨어 면적 증가를 최소화하면서 기존 시스템에 비교적 쉽게 통합할 수 있도록 했다. 또한 INT8, FP16, BF16 등 다양한 데이터 형식을 지원하며, 고속 데이터 흐름에 대응할 수 있도록 라인레이트 처리를 지원한다.
현재 칩스앤미디어는 데이터 압축 IP의 핵심인 피처맵 압축 알고리즘과 C-모델 개발을 완료했으며, 2027년 1분기 하드웨어 구현 완료를 목표로 개발을 진행하고 있다. 향후 고객 요구와 AI 워크로드 특성에 맞춰 데이터 압축 IP의 적용 범위를 확대할 계획이다. 현재 피처맵 압축을 시작으로 정적 가중치(Static Weight) 압축, 나아가 대규모언어모델(LLM)과 비전언어모델(VLM)에서 메모리 사용량 증가의 주요 요인으로 꼽히는 KV 캐시(KV Cache) 압축까지 제품군을 확대한다는 구상이다.
칩스앤미디어 관계자는 "20년 이상 축적해 온 하드웨어 IP 설계 역량과 전력·면적·성능 최적화 기술을 기반으로 기존 비디오 코덱 시장에서의 경쟁력을 유지하는 동시에 빠르게 성장하는 AI 및 고성능 멀티미디어 IP 시장으로 사업 영역을 확대할 것"이라고 말했다.