“AI 관련 논문은 70년 전 처음 발표됐지만 지난 10년 사이에 가장 급격한 진화가 이뤄졌다. 머신러닝과 딥러닝의 발전으로 제너레이티브 AI가 탄생했고, ChatGPT는 폭발적인 주목을 받았다. 하지만 도입률이 매우 높았다. 비용이 AI 확산을 가로막는 장애물입니다.”
인텔 가속컴퓨팅시스템 및 그래픽 그룹 총괄 디팍 파틸(Deepak Patil)은 19일 오전(미국 현지시간) ‘인텔 이노베이션’ 행사에서 열린 세션을 통해 이같이 설명했다.
데이터센터 GPU 포트폴리오를 총괄하는 그는 “인텔의 목표는 AI를 모든 유즈케이스(Use Case)에서 모든 사람에게 전파하는 것”이라며 “이를 위해 하드웨어와 소프트웨어 플랫폼을 개방하고 모든 제품에 적용하면서 개발하고 있다”고 덧붙였다. .”
■ “인텔의 AI 전략은 ‘개방성’…오픈소스에 지속적으로 기여”
Deepak Patil 총괄 책임자는 “AI를 널리 확산시키기 위해서는 AI 워크플로우를 최적화하고, AI 인프라를 단순화하며, 실리콘을 통해 AI 워크로드를 가속화하는 것이 필요하다”며 “인텔은 시스템 아키텍처와 AI 소프트웨어 스택을 최적화하는 방식으로 접근하고 있다”고 말했다.
그는 이어 “현재 AI 모델은 특정 제조업체의 하드웨어와 소프트웨어에 의존하고 있으며, 그에 따른 복잡성으로 인해 개발자가 자신의 역량을 입증하는 데 어려움을 겪고 있습니다. 반면, 인텔이 추구하는 개방형 접근 방식은 자유롭게 확장 가능한 AI 생태계를 만들 수 있을 것입니다.” 말했다.
그는 “인텔은 2018년부터 Python 기반 오픈소스 머신러닝 라이브러리인 ‘PyTouch’에 지속적으로 기여해 왔으며 최근에는 4세대 제온 확장 가능 프로세서에 내장된 AMX 가속기를 최적화해 성능을 최대 10배까지 향상시켰다”고 말했다. 그는 말했다.
■ “개발자용 클라우드 기반 AI 모델, PC까지 확장 가능”
이날 인텔은 인텔 CPU, GPU, NPU를 활용해 AI 애플리케이션을 클라우드에서 개발할 수 있는 ‘개발자 클라우드’를 공식 출시했다. 서버 구축에 필요한 자금이 없는 개인 개발자가 비교적 저렴한 비용으로 다양한 애플리케이션을 개발할 수 있다는 점이 특징이다.
디팍 파틸 총괄책임자는 “현재 출시 중인 제품은 물론, 출시 예정인 제품의 기능과 성능을 미리 확인할 수 있어 제품 출시 시간을 단축할 수 있다는 점이 가장 큰 장점”이라고 말했다. 5세대 Xeon 확장 가능 프로세서(Emerald Rapids).” 설명했다.
인텔이 AI 구동을 위해 제공하는 개발 도구인 오픈비노(OpenVINO)는 특정 프로세서나 GPU에 얽매이지 않고 PC, 서버 등 광범위한 하드웨어를 지원한다. 클라우드에서 훈련된 AI 모델을 개인 노트북에 배포하고 실행하는 것도 가능합니다.
Deepak Patil 총괄 매니저는 “Open Vino는 엣지 AI를 더욱 강력하게 만들기 위한 인텔 전략의 핵심이며, 한 번 개발하면 어디서나 배포하고 실행할 수 있다는 것이 가장 큰 장점”이라고 강조했습니다.
■ “가우디2, 엔비디아 H100 대비 가성비” 우위”
인텔은 특히 현재 공급 부족을 겪고 있는 엔비디아 A100/H100 AI 가속기의 대안으로 가우디 2의 성능과 효율성, 총소유비용(TCO)을 강조하고 있다.
디팍 파틸 총괄 매니저는 “지난해 출시된 가우디 2 AI 가속기는 대형 언어 모델(LLM)과 GPT-3 가속이 가능하며, FP8 계산 기준 엔비디아 H100 대비 가격 대비 성능이 앞서 있다”고 설명했다.
인텔과 마이크로소프트 연구진이 공동 개발한 모델인 ‘브릿지 타워’는 컴퓨터 비전과 언어 모델을 동시에 구현했으며, 허깅 페이스도 머신러닝 오픈소스 라이브러리에 브리지 타워를 추가했다.
관련 기사
Intel Developer Cloud에서 실시간으로 실행되는 Bridge Tower를 사용하여 ‘The New Yorker’ 만화 데이터베이스에서 학습한 데이터를 활용한 이미지 생성 시연에서 0.42초 만에 이미지가 생성되었습니다.
“인텔은 개방형 전략을 통해 AI를 모든 곳에 전파하고 AI 관련 워크로드를 가속화하기 위해 계속 노력할 것입니다.”라고 총괄 관리자인 Deepak Patil이 말했습니다.
