AI가 이제는 텍스트와 이미지를 생성하는 단계를 넘어 로봇·자동차·공장 설비까지 직접 움직이는 ‘피지컬 AI’ 시대로 접어들고 있다.

하지만 늘어난 연산량만큼 전력 소모도 급증하면서 효율성을 높이는 기술 혁신이 시급하다는 목소리가 커지고 있다.

추론, AI의 실질적 작동 과정

AI가 방대한 데이터를 학습하는 ‘훈련(Training)’이 근육을 키우는 과정이라면, ‘추론(Inference)’은 실제로 몸을 움직여 힘을 쓰는 순간에 비유된다. 챗봇 대화, 이미지 생성, 자율주행 판단, 로봇 제어 등 AI가 현장에서 내놓는 모든 결과는 추론 과정에서 나온다.

전문가들은 “AI가 생활 속에 깊숙이 들어갈수록 학습보다 추론이 훨씬 더 많이 발생한다”며 “효율성을 확보하지 못하면 서비스 확대 자체가 불가능해진다”고 지적한다.

데이터센터 전력, 효율이 관건

문제는 전력이다. 한 변전소를 짓는 데만 1천억 원이 들어가는 현실에서, 데이터센터의 전력 사용량은 국가 인프라 차원에서도 부담이 된다. GPU(그래픽 처리 장치)가 AI 연산을 이끌어온 주역이지만, 전력 소모가 크다는 한계가 드러났다. 이에 따라 같은 전력으로 더 많은 성능을 내는 NPU(신경망 처리 장치)가 차세대 대안으로 떠오르고 있다.

업계 관계자는 “앞으로는 연산 속도보다 ‘전력 1W당 얼마만큼 성능을 뽑아내느냐’가 AI 경쟁력의 기준이 될 것”이라고 강조했다.

피지컬 AI, 더 큰 효율 요구

AI가 물리적 세계로 확장될수록 효율 문제는 더욱 절실해진다. 자율주행차 한 대가 도로 위에서 순간순간 상황을 추론하고, 로봇이 공장에서 실시간 작업을 수행하려면 지금보다 훨씬 많은 연산과 전력이 필요하다.

한 연구원은 “피지컬 AI는 단순히 ‘말 잘하는 AI’를 넘어 실제 사회 인프라와 연결되는 만큼, 데이터센터와 반도체의 효율성이 곧 안전성과 직결된다”고 지적했다.

인재·데이터·전력 3대 과제

전문가들은 AI 효율성을 높이기 위해 ▲전력 효율적인 반도체 도입 ▲데이터 개방과 공유 ▲전문 인재 양성의 3박자가 필요하다고 입을 모은다.

정부 역시 부처 간 데이터 사일로(고립)를 해소하고, 대학은 AI 필수 교육과정을 강화하는 등 대응에 나서고 있다.