AI 반도체는 인공지능 반도체를 말합니다.
한국 과학 기술 기획 평가원에서는 인공지능 반도체 (AI반도체)를 인공지능 구현을 위해 요구되는 데이터 연산을 효율적으로 처리하는 반도체로 정의하고 있습니다.
처음 AI반도체라는 용어를 들으면 반도체가 스스로 생각을 해서 정보를 처리하는 건가? 하는 생각이 들었지만
인공지능의 원할한 구동이라는 목적을 가지는 반도체를 말하는 것입니다.
현재는 많은 기업이 GPU(그래픽 처리 장치)로 AI 데이터를 처리하고 있지만, 한계가 있습니다.
GPU는 가격도 비싸고 전력 사용량이 많습니다. 따라서 운영 효율에선 AI 반도체가 더 유리하게 됩니다.
SK텔레콤은 25일 일산 킨텍스에서 열린 `한국판 뉴딜, 대한민국 인공지능을 만나다`에서 데이터센터용 AI 반도체를 선보이고 향후 AI 반도체 사업 비전을 밝혔는데요,
AI 반도체란 인공지능 서비스의 구현에 필요한 대규모 연산을 초고속, 저전력으로 실행하는 효율성 측면에서 특화된 비메모리 반도체로 인공지능의 핵심 두뇌에 해당한다고 합니다.
이날 행사에서 SK텔레콤은 데이터센터에 즉시 적용이 가능한 AI 반도체 `SAPEON X220`을 공개했습니다.
이번 AI 반도체 출시를 통해 SK텔레콤은 엔비디아, 인텔, 구글 등 글로벌 빅 테크 기업 중심의 미래 반도체 시장에 도전합니다.
SAPEON은 SAPiens(사피엔스)와 aEON(이온)의 합성어로 인류+영겁의 시간 의 합성어입니다. 인간에 가까운 지능의 기계를 만드는데 필요한 AI반도체를 지속적으로 개발하겠다는 포부로 보입니다.
SKT는 올해 말부터 미디어, 보안, 인공지능 비서 등 다양한 분야에 ‘SAPEON X220’을 적용해 AI 서비스 고도화를 시작합니다.
올해 말 ‘SAPEON X220’을 정부 뉴딜 사업인 ‘AI 데이터 가공 바우처 사업’ 과 ‘MEC기반 5G 공공부문 선도 적용 사업’에 적용, 정부의 AI 기술 개발 속도를 높이고 5G MEC 기술 업그레이드에 나서게 됩니다.
내년에는 자사의 AI 서비스 ‘누구(NUGU)’, ‘슈퍼노바(Supernova)’, ‘티뷰(Tview)’ 그리고 ADT캡스 등 SK ICT 패밀리를 중심으로 본격적인 AI 반도체 적용 확대에 나설 예정이라고 합니다.
SK텔레콤 김윤 CTO는 “국내 최초 데이터센터용 AI 반도체 출시는 SKT의 기술력과 서비스 역량, 정부의 적극적인 지원, 중소기업과의 협력을 통해 이뤄낸 쾌거”라며, “향후 AI 반도체와 SKT가 보유한 AI, 5G, 클라우드 등 기술을 접목해 글로벌 톱 수준의 AI 기업으로 성장할 것”이라고 밝혔습니다.
SAPEON X220 은 데이터센터 전용으로 6.7 KFPS의 엄청난 연산 성능과 60W 밖에 안 되는 낮은 전력 사용량을 가지고 있습니다.
출처
www.yna.co.kr/view/AKR20201125066300017?input=1195m
www.industrynews.co.kr/news/articleView.html?idxno=40490
www.sktinsight.com/127650
"now come with dedicated cores for handling AI tasks, and the need for more ASICs like the Sapeon X220 is forecast to rise as artificial intelligence gains more ground in global technology."라는 대목에서 알 수 있듯, SK의 Sapeon X220은 ASIC 방식의 AI반도체입니다.
ASIC란 무엇일까?
ASIC는 애플리케이션의 특성에 적합한 인공지능 시스템을 구현하기 위해 범용 프로세서를 사용하는 대신 특정 목적으로 제작되는 주문형 반도체 기술이 부상하며 각광받았습니다.
특정한 용도에 맞도록 제작된 주문형 반도체인 ASIC는 빠른 속도와 높은 에너지 효율의 특성을 지니고 있어 인공지능 전용 반도체로 적합합니다.
ASIC은 다른 인공지능 전용 반도체에 비해 비용이 높고 개발 기간이 길며, 한번 제품을 만들고 나면 기능을 바꿀 수 없지만 범용 프로세서(CPU, GPU)나 FPGA보다 성능 개선에 유리합니다.
ASIC은 개발이 끝난 알고리즘의 전력 소모량을 줄여야 하는 기기에 도입할 때 효율적입니다.
즉, 정리하자면 AI 반도체는 인공지능 구현 전용 반도체입니다.
핸드폰의 프로세서는 AP라고 부르고, 컴퓨터의 중앙 처리 장치는 CPU 이듯, 반도체는 특정 용도에 특화된 제품이 생기게 됩니다.
우리나라 반도체 시장의 경우 대기업 주도의 메모리 반도체 영역에 국한되어 있습니다.
비메모리 반도체(시스템 반도체 )의 시장규모는 는 전 세계 반도체 시장의 70%를 차지하고 있습니다.
하지만 우리나라는 메모리 반도체의 시장 점유율은 18년도 기준 60% 정도로 경쟁력이 강하지만 동일 기간 한국의 시스템 반도체 점유율은 3%에 불과한 것으로 나타나 시스템 반도체에 대한 기술·시장 경쟁력은 미흡하다고 평가됩니다.
인공지능 반도체는 왜 필요할까요?
핸드폰으로 게임을 오래 해본 경험이 있다면 핸드폰이 뜨거워지고 조금 느려지는 현상 등을 겪어보셨을 거라고 생각합니다.
알파고 같은 인공지능에 비해 훨씬 단순한 모바일 게임도 처리장치에 부하를 주는데 같은 시스템 반도체로 AI를 구동한다면 발열이나 처리속도에 문제가 있을 것입니다.
따라서 인공지능 반도체는 학습·추론 등 인공지능 구현에 요구되는 대규모 데이터 처리를 위한 기존 반도체의 한계점을 극복하기 위해 고성능·저전력 기술 중심으로 발전 가속화하고 있습니다.
데이터 입력 순서에 따라 순차적으로 처리하는 기존 반도체(CPU)는 기계학습, 추론과 같은 대규모 데이터를 처리하기에는 연산 속도 및 전력 등의 한계가 존재합니다.
기존 반도체의 대표 격인 CPU는 중앙에서 모든 데이터를 처리·제어하므로 연산량이 많아질수록 CPU와 메모리 사이의 병목현상이 발생하여 대규모 데이터를 처리할 경우 속도 저하 및 막대한 전력 소모 발생하게 됩니다.
인공지능(AI)을 구동할 경우 이런 문제는 더욱 심해지는데, 이것에 대한 답이 "인공지능 전용 반도체를 개발한다"가 됩니다.
일례로 ’ 16년 03월, ‘알파고 리’는 이세돌과의 대전에서 CPU 1,920개, GPU 176개를 사용하여 1MW에 달하는 전력을 소모한 반면, ’ 17년 10월 ‘알파고 제로’는 TPU(인공지능 전용 반도체) 4개를 사용하여 전력 소모를 1/10 수준으로 대폭 감소시켰습니다.
TPU는 구글의 인공지능 반도체입니다. 특히 알파고 전용 AI반도체라고 할 수 있겠죠.
인공지능 반도체는 활용 목적에 따라 두 가지로 나눠볼 수 있습니다.
"학습용"과 "추론용"입니다.
이는 인공지능의 특성과도 직결됩니다.
학습단계: 먼저 방대한 양의 데이터. 빅데이터를 주면 스스로 반복학습을 통해 개발자가 정한 답을 찾는 과정을 최적화합니다. - 학습용 AI반도체 이용
추론 단계: 학습단계를 통해 탄생한 추론 모델을 통해서 결과를 도출해 냅니다. - 추론용 AI 반도체 이용
사용 환경에 따라서 AI반도체를 구분할 수도 있습니다.
-데이터 센터용: 현재 인공지능 학습/추론은 대부분 데이터센터에서 실행되며 일반적인 하드웨어로는 CPU가 담당하고 있지만, 인공지능 서비스에 요구되는 대규모 연산 처리 성능을 위해 인공지능 반도체를 서버에 장착하여 활용합니다.
데이터센터 전용 반도체는 방대한 데이터를 처리하기 때문에 발열과 전력 소모로 인한 효율성 개선이 지속적으로 필요하게 됩니다.
에지 디바이스용: 데이터센터 서버(클라우드)와 연결을 최소화하고 디바이스 자체에서 인공지능 연산이 수행되는 경우가 점차 확대되면서 소형화·저전력·고성능 중심의 인공지능 반도체 기술 개발이 목적입니다.
인공지능 반도체의 유형별 특징
| 유형 | GPU | FPGA | ASIC |
| 장점 | 병렬처리에 최적화된 프로세서로, CPU에 비해 빠른 가속 성능 NVIDIA의 CUDA 등 개발자 환경이 잘 갖춰져 있으며, 적용 사례가 많아 지원받기 용이 |
ASIC보다 초기 개발 비용이 저렴 CPU와 병렬 작동이 용이하여 전체 시스템 병목현상 발생 없음 회로 재구성이 가능, 개발 중인 AI 알고리즘을 유연하게 적용 가능 예시: A라는 업무에 최적화하여 사용하다 반도체 회로 구성을 다 시 설정(재프로그래밍)하여 B라 는 업무에 맞춰 사용 가능 |
GPU, FPGA 대비 매우 빠른 속도와 우수한 전력효율 |
| 단점 | FPGA, ASIC 대비 낮은 전력 효율 - 기존 x86 시스템(CPU)에 추가 구축 시, 확장성과 호환성에 한계 예시: 데이터 전송 병목문제, 시스템 호환문제 등 |
ASIC보다 연산속도가 느리고 CPU나 GPU 같은 범용 프로세서 대비 프로그래밍 전문성을 요함 | 매우 비싼 초기 제작비용, 장시 간의 개발소요 시간 특정 연산에 최적화 되었기 때문에 응용분야가 한정 |
여기서 우리에게 익숙한 "GPU"가 등장합니다.
4차 산업이 이슈가 되며 엔비디아의 주가가 연일 갱신한 데에는 인공지능의 개발 구동에 GPU를 사용하기 때문이라는 이유가 있었습니다.
GPU는 게임 산업의 3D 그래픽 등을 처리하기 위해 개발되었으나 대규모 데이터의 연산을 효율적으로 처리하는 병렬 처리 기반 반도체로 각광을 받으면서 인공지능 구현을 위한 핵심 반도체로 부상하였습니다.
FPGA는 활용 목적에 따라 재 프로그래밍이 가능한 반도체로서 개발에 투입되는 시간이 짧고 원하는 작업에 맞춰 연산 처리가 가능해 유연성이 높은 반도체로 각광받고 있습니다.
기존 반도체들은 한번 생산되면 수정할 수 없지만 FPGA는 하드웨어를 재설계하지 않고 프로그래밍을 통해 사용 목적에 맞게 변경이 가능합니다.
예를 들어 FPGA는 번역 작업에 최적화해 사용하다가 반도체 회로 구성을 다시 설정해 가상 비서 서비스에 맞춰 쓸 수 있습니다.
특정 목적에 맞춘 하드웨어 프로그래밍이 가능해 기계 학습을 통해 최적화된 학습모델의 출력 값을 빠르게 계산하는 인공지능 추론 서비스 구현에 적합하다는 평가를 받는데요, 따라서 알고리즘을 수정하거나 연구개발 중일 때는 다른 인공지능 반도체에 비해 FPGA가 효율적입니다.
또한, CPU와 병렬로 작동하므로 시스템 혼란이나 병목현상 없이 사용 가능하여 최근 인공지능 구현을 위한 기술로 주목받고 있습니다.
오늘의 주인공 SAPEON X220도 ASIC입니다.
ASIC는 범용 프로세서가 아닌 주문형 반도체 기술입니다.
빠른 속도와 높은 에너지 효율이 장점입니다.
단점으로는 ASIC은 다른 인공지능 전용 반도체에 비해 비용이 높고 개발 기간이 길고, 한번 제품을 만들고 나면 기능을 바꿀 수 없습니다. 하지만 범용 프로세서(CPU, GPU)나 FPGA에 비해 성능 개선이 유리합니다.
ASIC은 개발이 끝난 알고리즘의 전력 소모량을 줄여야 하는 단계에서 사용합니다.
+추가로 새로운 개념이 있습니다.
바로 인간의 신경망 구조를 모방하여 만든 "뉴로모픽 반도체"입니다.
뉴로모픽 반도체는 ‘폰 노이만(Von Neumann)’ 구조의 기존 반도체 한계를 극복하기 위해 인간처럼 저 전력으로도 고성능의 인공지능을 수행하는 반도체 기술입니다.
기존의 반도체 구조는 기억장치(메모리)·중앙처리장치(CPU)·입출력 장치(IO) 등 3단계 구조로 명령을 순차적으로 수행하는 방식의 이러한 폰 노이만 구조는 복잡한 작업일수록 시간이 오래 걸리고 에너지 소모가 크게 증가하는 구조라는 단점이 있습니다.
산업연구원에 따르면 폰 노이만 구조는 인간의 뇌와 같은 정보처리를 위해 필요한 소비 전력을 감당하기 위해선 원자력발전소 1기가 필요하다고 언급한 적이 있습니다. 따라서 인간의 뇌와 같은 완벽한 인공지능을 위해서는 기존의 반도체와는 다른 방식으로 작동하는 뉴로모픽 반도체의 도입이 고려됩니다.
뉴로모픽 반도체 안에는 여러 개의 ‘코어(Core)’들이 존재하며, 코어에는 트랜지스터를 포함한 몇 가지 전자 소자들과 메모리 등이 탑재되어 있습니다.
코어의 일부 소자는 뇌의 신경세포인 뉴런의 역할을 담당하며, 메모리 반도체는 뉴런과 뉴런 사이를 이어주는 시냅스 기능을 담당합니다.
인공 뉴런 역할을 하는 코어를 사람의 뇌처럼 병렬로 구성하였기 때문에 적은 전력만으로 많은 양의 데이터 처리가 가능하며, 인간의 뇌처럼 학습하기 때문에 연산 성능이 대폭 향상되게 됩니다.
차세대 유망 기술인 뉴로모픽 반도체는 일부 상용화가 진행되고 있으나 산업적 적용 확대를 위해서는 다소 시간이 소요될 것으로 전망됩니다.
이렇게 AI반도체의 정의, "SAPEON X220"의 종류, 현재 인공지능 구현에 사용되는 ASCI, FPGA, GPU, 뉴로모픽 반도체의 장단점에 대해서도 알아보았습니다.
'4차산업혁명 관련 이슈 정리' 카테고리의 다른 글
| [ 핀테크 Fin-tech ] : 정의, 핀테크와 테크핀의 차이 (0) | 2020.10.10 |
|---|---|
| [ 라이다(LIDAR) ] 기술 상세분석 : 장점과 단점 시장규모 정리 (0) | 2020.10.10 |
