AI 반도체 입문, 폰 노이만 컴퓨터 구조와 간단한 16bit CPU 설계

AI 반도체가 대체 무엇일까요? 간단히 말해서 인공지능 연산을 위해 필요한 메모리(Memory)와 연산장치(Processor)를 의미합니다. 메모리와 연산장치를 일컬어 '컴퓨터 구조(Computer Architecture)'라고 부르고, '폰 노이만 구조'가 대표적이죠. AI 반도체를 설계하기 위해, 우리는 먼저 간단한 형태의 컴퓨터 구조인 16bit CPU부터 설계해볼 것입니다. CPU에 들어가는 ALU, ACC, Program Counter, FSM 모듈의 구조와 기능을 학습하고, Verilog로 구현해보고 시뮬레이션을 진행하게 됩니다. 이 과정을 통해 여러분은 컴퓨터 구조에 대한 시스템 이해도와 HW 언어 관련 Tool 사용 역량을 만들 수 있습니다.

AI의 핵심 알고리즘, CNN 알고리즘을 Python으로 구현하기

반도체를 다루는데 SW 역량이 필요할까요? 네, 필요합니다. 하지만 걱정하지 마세요. 우리에게 필요한 SW 역량은 간단한 Python coding을 할 수 있는 수준이고, 그보다는 이미지 분류를 위한 알고리즘인 CNN 알고리즘을 이해하는 것이 더 중요합니다. 우리는 Python을 다루기 위해 Tool을 설치할 필요 없이, Google colab 환경에서 Jupyter Notebook으로 CNN 알고리즘을 구현해볼 것입니다. Python 프로젝트를 통해 Convolution, Max Pooling, ReLU Activation 함수 구현에 사용되는 테크닉을 익히고, 이때 배우는 지식들은 다른 알고리즘 구현에도 사용이 가능해질 것입니다.

CPU vs. GPU vs. NPU의 차이점을 설명할 수 있는 사람? AI HW 가속기 설계하기

CPU와 GPU, 그리고 NPU 중 어떤 연산장치가 가장 좋은 성능을 갖고 있을까요? 정답은 '상황에 따라 다르다' 입니다. 즉, 단순 연산을 할 떄에는 CPU를, 그래픽과 같이 행렬 연산(병렬 연산)을 할 때에는 GPU를, CNN처럼 AI의 가중치 연산을 할 떄에는 NPU를 사용하는 것이 좋습니다. NPU가 바로 AI HW를 뜻하며, 우리는 최종적으로 이를 설계할 것입니다. 최종 과제를 통해 AI HW 가속기의 동작 원리를 파형적으로 분석할 수 있게 되고, 성능 지표를 통해 개선해야 할 점을 논의할 수 있게 됩니다. 또한 Through-put과 Latency, 그리고 Power와 Area 관점에서 다양한 알고리즘 방식의 장점과 단점을 비교할 수 있게 됩니다.

AI 반도체를 향한 공정설계와 회로설계의 노력, Memristor 소자와 SNN 회로설계

우리 뇌는 어떻게 컴퓨터보다 더 적은 에너지로 특정 문제를 빠르게 판단할 수 있을까요? 그것은 '가중치(Weight)'와 'Spiking 신호' 로 동작하는 뇌세포(Neuron) 덕분입니다. 그래서 컴퓨터 또한 적은 에너지로 인공지능 연산을 수행하기 위해 이 구조를 모방한 연구와 개발이 이뤄지고 있습니다. 공정설계에서는 가변저항으로 가중치값을 갖게 하는 Memristor와 같은 Neuromophic 소자 개발을, 아날로그 회로설계에서는 저전력 설계를 위해 Spiking 형태로 신호를 전달하는 SNN 회로 개발을 하고있죠. 위 두 가지 개념에 대해서 여러분들이 직접 Tool을 통해 실습해보고, 고민해볼 수 있도록 SEFL Project 가이드를 제작해두었습니다. AI 반도체를 다양한 직무의 관점에서 탐구해보고 취업에 성공하시길 바라겠습니다.