하드웨어 및 물리 인프라
AI를 실제로 돌리는 칩과 전력, 그리고 로봇
6개 게시글
인터커넥트
GPU를 묶는 배선이 성능을 결정한다
GPU 한 장의 성능보다 그것들을 어떻게 잇느냐가 대규모 학습의 속도를 좌우합니다. 스케일업과 스케일아웃의 차이, NVLink와 UALink가 겨루는 지점을 정리합니다.
전력 병목
AI 확장의 발목을 잡는 건 전기다
GPU를 아무리 늘려도 전력을 공급받지 못하면 데이터센터를 지을 수 없습니다. 전력이 AI 확장의 새로운 병목으로 떠올랐습니다.
칩플레이션
AI 반도체 수요가 밀어올린 물가
메모리 반도체 품귀 현상이 PC와 스마트폰 가격까지 끌어올리는 '칩플레이션'이 실제 통계로 확인되고 있습니다.
엣지 AI
클라우드에 묻지 않고 기기 안에서 바로 처리하기
매번 서버로 요청을 보내는 대신, 스마트폰이나 PC 자체에서 AI 연산을 끝내는 방식이 늘고 있습니다.
HBM
AI 칩의 진짜 병목은 연산이 아니라 메모리다
GPU 성능이 아무리 좋아져도 메모리가 데이터를 제때 공급하지 못하면 무용지물입니다. HBM은 이 병목을 푸는 핵심 부품입니다.
AI 팩토리
이제 데이터센터는 '연산 공장'이다
일반 서버를 모아둔 시설을 넘어, 대규모 학습과 추론만을 위해 설계된 전용 시설이 늘고 있습니다.
선택한 직군에 해당하는 글이 없어요.