[테크톡노트] AI 팩토리, 데이터센터와 뭐가 다를까

불편하시다면 뒤로 가기를 눌러주세요

서버 보관 시설 넘어 데이터를 지능으로 바꾸는 '공장' 개념

(서울=연합뉴스) 한상용 기자 = 전 세계적으로 인공지능(AI) 투자가 늘면서 'AI 데이터센터'와 함께 'AI 팩토리'라는 용어가 자주 등장한다.

이름으로는 비슷해 보이지만 두 용어는 강조하는 지점이 조금 다르다.

데이터센터는 서버와 저장장치, 네트워크 장비를 모아놓고 데이터를 저장하거나 각종 인터넷·클라우드 서비스를 운영하는 시설이다.

AI 데이터센터는 여기에 대규모 AI 학습과 서비스 운영에 필요한 그래픽처리장치(GPU), 고속 네트워크, 대용량 저장장치와 냉각 설비를 더한 곳이란 개념으로 쓰이고 있다.

AI 팩토리는 이런 시설을 바탕으로 데이터를 모으고 다듬어 AI를 학습시키고, 실제 서비스에 적용하는 전 과정을 가리킨다.

다시 말해 데이터센터가 공장 건물과 기계라면, AI 팩토리는 원료인 데이터를 넣어 AI 답변과 예측, 번역, 코드, 자동화 서비스 등을 만들어내는 생산공정에 가깝다.

AI 팩토리라는 표현을 널리 알린 기업은 엔비디아다.

국내에서 이 용어가 본격적으로 주목받은 계기도 지난달 초 젠슨 황 엔비디아 최고경영자(CEO)의 방한이었다.

당시 젠슨 황 CEO는 네이버를 비롯한 국내 주요 기업들과 대규모 그래픽처리장치(GPU)를 기반으로 한 AI 팩토리 구축 협력을 발표하면서 이 개념을 국내에 각인시켰다.

엔비디아는 AI 팩토리가 만들어내는 결과물을 지능이라고 부른다.

이 지능의 생산량을 가늠하는 대표적인 기준이 토큰이다.

토큰은 AI가 문장을 읽고 답변을 만들 때 사용하는 작은 정보 단위다.

이용자가 챗봇에 질문하면 AI는 문장을 토큰 단위로 나눠 이해하고 다음에 올 토큰을 차례로 생성해 답변을 완성한다.

이 때문에 업계에서는 AI 팩토리가 토큰을 생산한다는 표현도 쓴다.

여기서 생산한다는 것은 공장에서 물건을 찍어낸다는 뜻이 아니다.

GPU를 활용해 답변과 번역, 코드, 요약과 같은 각종 AI 결과물을 대규모로 만들어낸다는 의미다.

다만 AI 팩토리의 결과물이 모두 글이나 토큰 형태로만 나오는 것은 아니다.

로봇을 움직이는 명령이나 상품 추천, 음성·영상 생성, 공장 운영을 위한 예측 등 활용 분야는 다양하다.

기존 데이터센터가 여러 종류의 전산 업무를 처리하는 곳이라면 AI 팩토리는 GPU와 저장장치, 네트워크, AI 소프트웨어를 하나로 묶어 AI 학습과 서비스를 효율적으로 운영하는 데 초점을 맞추고 있다.

결국 AI 팩토리는 데이터센터를 기반으로 하지만 모든 데이터센터를 AI 팩토리라고 부를 수는 없는 것이다.

gogo213@yna.co.kr

인기상품 확인하고 계속 읽어보세요!

5

원치 않을 경우 뒤로가기를 눌러주세요.