뉴스

IEEE 스펙트럼이 오픈AI가 자사 LLM으로 추론 칩 할라페뇨를 설계한 과정을 다뤘다. 최적화된 사람 기준선 대비 BF16 곱셈기 56%, FP4 내적 블록 21% 개선, 행렬곱 유닛 면적 10% 감소라는 수치가 제시됐다.

큰 칩 하나를 만들던 시대가 저물고, 작은 조각을 정교하게 잇는 칩렛이 성능의 최전선을 차지했다. 수율·공정 혼합·확장 한계 돌파의 논리와 남은 과제를 짚는다.

서버에 붙박이로 묶여 낭비되던 메모리를 공유 자원으로 바꾸는 CXL. 메모리 풀링과 계층화가 데이터센터 아키텍처를 어떻게 다시 그리는지, 그 이득과 한계를 분석한다.