불과 2~3년 전만 해도 메모리 반도체는 무시받는 분야였습니다. 비메모리로 먹고살아야 한다는 말이 업계에 돌았고, 저도 솔직히 그렇게 생각했습니다. 그런데 지금 AI 시대가 오면서 상황이 완전히 뒤집혔습니다. 데이터를 저장하고 기억하는 메모리 반도체가 오히려 더 큰 핵심 가치로 떠올랐으니, 정말 새옹지마라는 말이 실감납니다. 한국이 바로 이 메모리 반도체 강국이라는 사실이 지금 시점에서는 엄청난 행운처럼 느껴집니다.
AI가 메모리를 먹어치우는 이유
AI 모델이 발전하면서 학습만큼이나 중요해진 게 바로 추론 과정입니다. 예전에는 질문하면 바로 답을 내놓았는데, 요즘 챗GPT나 제미나이를 써보면 "분석 중", "검토 중" 같은 메시지가 뜨는 걸 보셨을 겁니다. 이게 바로 체인 오브 소트(Chain of Thought)라는 건데, AI가 스스로 생각의 꼬리를 물고 답을 검증하는 과정입니다.
이 과정에서 GPU가 연산을 하는 건 맞지만, GPU가 이전에 생각했던 내용들을 계속 참조하려면 메모리가 엄청난 속도로 데이터를 공급해줘야 합니다. 학습은 대학 다닐 때 공부하는 것과 비슷하다면, 추론은 직장에서 실전 업무를 처리하는 것과 같습니다. 신입 때는 학습이 중요하지만, 일을 시작하면 응용력과 경험이 더 중요해지죠. AI도 마찬가지입니다. 추론 단계로 넘어가면서 메모리 사용량이 기하급수적으로 늘어나고 있습니다.
엔비디아의 젠슨 황이 계속 한국을 동맹이라고 부르는 이유도 여기 있습니다. HBM 없이는 자기네가 할 수 있는 게 없다는 걸 너무 잘 알고 있기 때문입니다. 메모리와 코어 사이의 데이터 전송 속도, 즉 밴드위스가 AI 성능을 좌우하는 시대가 된 겁니다. 폰 노이만 아키텍처의 한계상 코어 발전 속도를 메모리가 따라가기 어렵지만, 역설적으로 그래서 메모리에 대한 투자가 더 폭발할 수밖에 없는 상황입니다.
SK하이닉스가 지금 누리는 특별한 위치
제가 최근에 반도체 업계 지인들한테 들은 얘기가 있습니다. 지금 서울 근처 호텔들이 동나고 있다는 겁니다. 미국 빅테크 기업 임원들이 반도체 조금이라도 확보하려고 한국으로 몰려들고 있기 때문입니다. 심지어 어느 빅테크 임원은 반도체를 구하지 못해서 해고됐다는 소문도 돌았습니다. 그만큼 지금 HBM 수요가 미친 듯이 늘고 있다는 얘깁니다.
SK하이닉스의 실적이 100조원 단위로 육박하고 있습니다. 고객들의 주문 물량이 폭주하는데 생산 능력을 단기간에 늘리기 어려워서 가격이 계속 올라가고 있는 상황입니다. 하이닉스는 이미 최소 1년 이상 주문이 다 찬 상태라고 합니다. 데이터센터 내에서 HBM이 차지하는 원가 비중이 2023년 대비 2027년에는 14배 성장할 거라는 전망도 나옵니다.
흥미로운 건 하이닉스가 HBM을 처음 개발할 때 파트너가 엔비디아가 아니라 AMD였다는 사실입니다. 2015~2016년경 AMD와 함께 HBM1부터 시작했는데, 당시만 해도 알파고 쇼크 전이었고 지금 같은 AI 시대를 예측하기 어려웠죠. 만약 AMD가 그때 계속 밀어붙였다면 지금 엔비디아와 양분하는 구도가 됐을 겁니다. 하이닉스는 그만큼 HBM 분야의 선구자이고, 그 노하우가 지금 빛을 발하고 있습니다.
중국의 추격과 우리가 해야 할 일
그런데 여기서 방심할 수 없는 게 중국의 추격입니다. 창신 메모리라는 중국 회사가 작년에 전 세계 D램 시장 점유율 10%를 돌파했다는 분석이 나왔습니다. 삼성전자, SK하이닉스, 마이크론 이렇게 셋만 있는 줄 알았던 메모리 반도체 시장에 중국이 4~5강으로 치고 올라온 겁니다. 중국 정부가 어마어마한 보조금을 쏟아붓고 있고, 문제는 중국이 공략하는 산업 분야가 한국과 너무 겹친다는 겁니다.
저는 개인적으로 기술 유출자에 대한 처벌이 훨씬 강력해져야 한다고 생각합니다. 퇴직자든 현직이든 몇억, 몇십억 받고 기술 넘기는 사람들한테 자비란 없어야 합니다. 징역 20년부터 시작해도 모자랄 판입니다. 이건 단순히 한 기업의 문제가 아니라 한국의 운명이 걸린 문제입니다. 반도체는 우리나라 수출의 핵심이고, 작년에는 반도체 한 품목이 전체 수출에서 차지한 비중이 역대 최고치를 기록했습니다.
정부가 해야 할 일도 명확합니다. 일은 기업들이 할 테니 규제부터 없애야 합니다. 주 52시간 같은 제도를 반도체 산업에 그대로 적용하는 게 맞는지 진지하게 고민해야 합니다. 지금은 속도 경쟁입니다. 누가 더 빨리 목표에 도달하느냐가 승부처이지, 누가 몇 시간 일했느냐는 중요하지 않습니다. 오히려 초과 근무한 사람들에게 충분한 보상이 돌아가도록 제도를 만드는 게 더 합리적입니다.
인재 확보와 외국 기업 유치
반도체 인력 문제도 심각합니다. 출생률이 계속 떨어지는 상황에서 학생들이 어려운 공학 공부를 대학원까지 가서 하려고 하지 않습니다. 이건 기업이 혼자 해결할 수 없는 문제입니다. 정부가 장학 프로그램이나 특정 대학 사업 같은 걸 만들어서 인재를 키워내야 합니다.
한 가지 더 제안하고 싶은 건 외국 기업 유치입니다. 일본이 TSMC를 유치한 이유, 미국이 한국 기업들을 끌어들이는 이유는 단순히 경제적 가치 때문만이 아닙니다. 그 기업에 딸려오는 사람들이 그 나라에 정착하고, 그들의 노하우가 전수되기 때문입니다. 우리나라도 왜 외국 반도체 기업들을 적극적으로 데려올 생각을 안 하는지 의문입니다. 사람을 하나하나 키우는 것도 중요하지만, 삽으로 퍼오는 전략도 필요합니다.
용인에 건설 중인 반도체 메가 클러스터에는 600조원 이상이 투입될 예정입니다. 이 정도 규모의 투자라면 제도적 뒷받받침이 필수입니다. 한 기업에만 특혜를 주는 게 아니라 국가 산업 전체의 지속 가능성을 높이는 방향에서 규제를 풀어야 합니다. 법인세를 그만큼 내는데, 정부도 기업을 위해 뭔가 해줘야지 못 잡아먹어서 안달인 상황은 정말 답답합니다.
결국 국가 경쟁력 측면에서 반도체는 무조건 살려서 가야 할 산업입니다. 지금 우리가 AI 메모리를 갖고 있다는 건 정말 큰 행운입니다. 조상님께 감사할 일이죠. 하지만 이 행운을 지키려면 기술 유출 차단, 규제 완화, 인재 육성, 외국 기업 유치까지 종합적으로 밀어붙여야 합니다. 대한민국 정부가 외부 경쟁자보다 더 무서운 내부의 적이 되어서는 안 됩니다.