“제빵 회사가 오븐 연구하듯 반도체 회사도 설비 연구해야죠”… 삼성전자 최고 ‘시뮬레이션 전문가’ 김성협 마스터

▲인터뷰 내내 자신의 연구 분야에 대해 막힘 없이 설명해나가는 김성협 마스터에게서 삼성인 특유의 자신감과 열정을 엿볼 수 있었다

자타공인 ‘반도체 설비 공정 시뮬레이션 전문가’

김성협 마스터와 마주한 건 지난해 12월 23일, 삼성전자 디바이스솔루션(DS)부문 생산기술연구소(경기 화성시 삼성전자로)에서였다. 김 마스터는 열과 유동(流動), 구조 해석 기술 기반의 반도체 설비·공정 시뮬레이션 전문가다. 다소 어렵게 들리지만 한마디로 ‘최고의 반도체를 생산해내기 위한 최적의 설비 환경 조성’이 그의 임무다.

“반도체 산업에서 중요한 건 제조 공정이에요. 관건은 ‘환경’에 해당하는 제조 설비 기술을 얼마나 최적화하느냐, 하는 거죠. 제 업무는 ‘반도체 제조 공정이 최대 효과를 거두려면 설비 환경을 어떻게 조성해줘야 하는지 시뮬레이션하는 것’이라고 보시면 됩니다.”

사업 경영 관점에서 기존 공정을 최적화하는 것만큼이나 중요한 작업이 있다. 새로운 공정이나 신규 설비가 도입되는 과정에서 원하는 수준의 수율(收率)을 달성할 수 있는지, 혹은 불량률 저감(低減)이 가능한지 등을 미리 평가해보는 일이 그것. 공정과 설비가 최적화돼야 생산 비용을 낮출 수 있기 때문이다.

혹자는 “가능한 모든 환경 조건을 일일이 다 만들어보면서 개중 가장 좋은 결과물을 선택하는 게 이상적”이라고 생각할 수 있다. 하지만 이 방식은 비용도, 시간도 어마어마하게 든다. 이 때문에 실제 환경에선 △몇 가지 대표 샘플을 만들어 실험해보는 방법과 △일어날 수 있는 경우를 최대한 많이 모의 실험(simulation)하는 방법 등 두 가지 조합을 병행, 실험하는 게 일반적이다.

김성협 마스터에 따르면 반도체 환경에서 시뮬레이션은 관련 공정과 설비, 제조(fab) 전체를 대상으로 이뤄진다. 흔히 실험이 좀 더 현실에 가까워 확실한 결과를 보여줄 거라고 생각하기 쉽지만, 비용이나 시간이 많이 든다는 문제도 있다. 실제로 이리저리 만들어 평가해봐야 하기 때문이다. 그는 “시뮬레이션을 활용하면 직접 실험하는 것보다 비용을 줄이면서도 더 많은 경우의 수를 평가할 수 있다”고 설명했다.

“시뮬레이션 활용 분야, 기업서도 무궁무진”

설비 개발 과정에서 실험과 시뮬레이션의 효율성 차이가 입증된 실제 예도 있다. 미국 전투기 ‘F16’과 ‘F18’ 개발 과정에서의 시뮬레이션 활용 사례가 그것. 결론적으로 시뮬레이션 수행 비율이 상대적으로 높았을 때 비행 성능이 훨씬 우수했다. 고장이나 추락 등 사고 발생 비율도 더 적었다.

이에 대해 김 마스터는 “예를 들어 실험할 수 있는 게 100종(種)이라면 시뮬레이션은 1000종에 적용한 후 그중 중요한 것 100종을 추려낼 수 있다”며 “이 경우, 나머지 900종은 시뮬레이션으로 이미 검증된 만큼 추가 실험을 진행할 필요가 없다”고 말했다. “투입 비용이 제한적인 상황에선 시뮬레이션이야말로 다양한 상황을 반영, 평가할 수 있는 효과적 수단”이란 설명이다.

“이쪽 사람들이 농담하듯 종종 드는 예가 있습니다. 파리바게트는 빵을 만드는 회사일까요, 오븐을 만드는 회사일까요? 정답은 물론 ‘빵 만드는 회사’죠. 하지만 달랑 하나만 굽는 게 아니라 전국 모든 점포에서 동시에 수백 개, 수천 개씩 구워냅니다. 그 많은 빵이 전부 ‘겉은 바삭하고 속은 촉촉하게’ 구워지려면 오븐 속 환경이 동일하게 유지돼야 하죠. 결국 제빵에 관한 일련의 환경 전체를 연구할 수밖에 없습니다. 반도체 공정도 마찬가지예요. 제대로 하려면 설비부터 연구해야 해요.”

‘열∙유동을 고려한 시뮬레이션’이라고 하면 다소 생소하게 들리는 게 사실. 하지만 이 같은 시뮬레이션 기술이 활용되는 분야는 의외로 많다. 가장 대표적인 게 일기예보다. 태풍 이동 경로나 비 내리는 장소, 풍향∙풍속 방향 등을 예측하는 일 등이 모두 시뮬레이션 영역이다.

품질이 고른 공정 과정을 설계하고 지속 가능한 설비를 유지하는 주요 요인 중 하나인 ‘냉각’ 역시 김성협 마스터가 신경 써야 하는 분야 중 하나다. “기류(氣流)를 다루려면 온도와 밀도, 압력 등을 다각도로 고려해야 합니다. 삼성전자가 만들어내는 전자기기도 마찬가지예요. 휴대전화를 쓰다보면 ‘뜨겁다’고 느끼는 경우가 있죠? 이때 ‘어느 정도까지 기기를 냉각시키는 게 가격적으로나 상품 선호도 측면으로나 적정한가?’ 계산해줘야 합니다. 그럴 때도 시뮬레이션 기술이 응용되죠.”

▲김성협 마스터는 시종일관 ‘현장’의 중요성을 강조했다. “시뮬레이션의 성공 확률을 높이려면 현업 엔지니어들의 목소리에 귀 기울여야 한다”는 게 그의 지론이다. 사진은 팀원들과 함께 업무에 열중하고 있는 김 마스터의 모습

기계가 아무리 발전해도 결국 중요한 건 ‘사람’

하루가 다르게 발전하는 공정 환경을 일일이 제어하기란 결코 말처럼 쉽지 않다. 새로운 기술이 개발되는 만큼 그 기술을 활용하는 생산 공정과 환경을 최적화된 상태로 조성하는 일도 계속돼야 하기 때문. 기술 자체의 적용성 문제도 있지만 하나의 기술에 집중하는 과정에서 뜻밖의 주변 기술이 문제를 일으키는 경우도 비일비재하다.

때론 같은 기술을 적용해도 해당 설비가 놓인 환경에 따라 결과물이 달라진다. 미세한 변수 하나가 제품의 완성도에 커다란 변화를 가져올 수도 있다는 얘기다. “경험과 노하우가 쌓일수록 더욱 미세하게 완성도를 추구하게 돼 그에 따르는 어려움이 있습니다. 실제로 똑같은 설비를 열 개 놓고 생산해도 결과물을 들여다보면 설비별 제품에 미세한 차이가 생겨요. 이를테면 동일 모델 전기 오븐 열 대를 놓고 빵을 구웠을 때, 재료와 레시피가 동일해도 1번 오븐에서 구워낸 것과 10번 오븐에서 구워낸 것의 상태가 다를 수 있습니다. 이 경우, 예측 가능한 원인 중 하나는 조리장 내 선풍기입니다. 선풍기가 1번 오븐 가까이에 위치했다면 아무래도 온도 차가 생길 테니까요.”

상황에 따라 천차만별인 결과물을 일일이 파악해내는 노하우는 결국 ‘현장’에서 쌓인다. 제아무리 잘 만들어진 ‘표준 레시피’가 존재한다 해도 현장(또는 설비)별로 최적화된 ‘미세 조정’은 반드시 필요하고, 이 경우 해당 현장에서 실제로 근무하는 사람의 노하우가 중요할 수밖에 없다는 얘기다. 김 마스터는 “실제로 실험실(lab)에서 실시한 시뮬레이션 결과보다 현장에서 전수 받은 노하우가 더 정확하게 맞아 들어갈 때가 잦다”고 귀띔했다.

“시간이 지날수록 점점 더 실감하는 거지만, 현장에서 일하시는 분들이 저희 일에서도 가장 소중한 자산입니다. 현업 엔지니어들의 머릿속에 들어 있는 해법이 정답인 경우가 많아요. 전 어디까지나 가상의 모델을 만들고 그에 따라 시뮬레이션 작업을 진행하지만 현장에 계신 분들은 각자의 수많은 경험에 의해 도출된 답을 갖고 계시죠. 시뮬레이션은 ‘예측’이지만 경험은 실재하는 ‘사실’이 축적되고 체계화된 형태니까요.”

김성협 마스터는 “기계가 아무리 발전한다 해도 결국 그걸 다루는 주인공은 사람”이라고 거듭 강조했다. “한 번은 이런 일이 있었어요. 꽤 민감한 공정 설비를 담당하는 엔지니어의 실제 경험담인데요. 하루는 그 엔지니어가 설비 주변을 깨끗하게 청소한 후, 마음을 다해 절실하게 노래를 불러줬답니다. 그런데 이튿날, 거짓말처럼 해당 공정이 원활하게 자리 잡았다고 해요. 진짜로 엔지니어의 노래 소리가 공정 가동에 실질적 영향을 끼쳤다고 보긴 힘들겠죠. 하지만 기계 설비란 건 그 정도로 신경 써서 관리해줄 필요가 있습니다.”

김 마스터에 따르면 컴퓨터로 하는 계산의 효율성도 ‘누가 계산하느냐’에 따라 달라진다. 다양한 경우의 수를 고려해 치밀하게 분석하는 이가 더 많은 걸 찾아낸다는 뜻이다. 결국 관건은 개개인의 통찰력(insight)에 달렸다. 그는 “컴퓨터에 다 맡겨버리면 끝날 것 같은 일도 사람 손과 마음이 가는 만큼 그 성과가 나아진다”고 귀띔했다.

제조 공정 최적화로 작년에만 100억여 원 아껴

김성협 마스터가 속해있는 생산기술연구소(Mechatronics R&D Center)는 삼성전자 DS부문 산하 조직이다. 그는 “반도체 설비를 연구하고 관련 기술을 지원해주는 게 생산기술연구소의 주요 역할”이라며 “내가 이끄는 시뮬레이션랩은 그중에서도 시뮬레이션 작업을 통해 가상 공정 일체를 미리 검증, 지원하는 업무를 담당한다”고 설명했다.

▲김성협 마스터와 그가 이끄는 삼성전자 생산기술연구소 시뮬레이션랩 소속 연구원들이 자리를 함께했다. 이들은 시뮬레이션랩에 대해 “연구 주제에 관한 한 격의 없고 수평적인 의사소통이 이뤄지는 조직”이라고 귀띔했다

김 마스터에 따르면 시뮬레이션 전문가의 핵심 자질은 두 가지다. ‘상상력’이 하나, ‘(몸으로 부딪치는) 실행 능력’이 다른 하나다. “무슨 일이든 ‘머릿속 상상’에 머물러선 안 됩니다. 어떻게 나아갈지 감(感)을 잡고 선택하는 게 중요하죠. 이때 감이란 몸으로 부딪쳐본 경험에서 나옵니다. 제 경우, 본격적 시뮬레이션에 앞서 기획 회의를 할 때부터 발생 가능한 ‘옵션’과 현장 변수를 모두 고려하는데요. 맑은 날과 비 오는 날, 추운 날과 더운 날, 잔잔한 날과 바람 부는 날… 결과는 전부 달라집니다. 중요한 건 ‘우선순위’를 정하는 일이죠. 시간이 많다면 하나씩 다 해보겠지만 현실은 그렇지 않으니까요. 대개 중요한 것부터 뽑아내 차례로 검증합니다.”

김성협 마스터는 자신의 업무를 “재밌고 짜릿하다”는 형용사로 표현했다. 그의 설명을 듣고보니 과연 그랬다. 실제로 공정 과정에서 발생하는 오류는 자칫 회사에 수 억 원대의 손실을 안겨줄 수 있다. 반면, 시뮬레이션 작업으로 그 오류를 미리 찾아낼 수 있다면 해당 금액만큼의 손실은 고스란히 ‘없었던 일’이 된다.

그리고 지난해 이 시나리오는 ‘현실’이 됐다. 온도와 재료 양, 압력 조건 등 크고 작은 변수를 두루 고려한 시뮬레이션 끝에 필요 이상의 재료가 사용되던 공정을 최적화한 것. 그는 이 작업으로 지난 한 해에만 100억 원 이상의 손실을 줄였다. 상상 가능한 환경 조건을 꼼꼼하게 시뮬레이션하고, 그중 최고 품질의 반도체 생산을 가능케 하는 설비 환경을 제공하는 일. 김 마스터가 올해 마스터로 임명된 덴 이처럼 ‘기술을 통한 품질∙수율 향상 기여’ 성과가 큰 비중을 차지한다.

▲김 마스터는 “중국이 반도체 설비 투자에 대대적으로 나서며 기술 유출에 대한 회사 안팎의 우려가 큰 상황”이라며 “설비 업체에 의존하지 않고 최적의 제조 공정을 자체적으로 갖출 수 있도록 앞으로도 최선을 다하겠다”는 포부를 밝혔다

인터뷰 내내 김 마스터는 자신의 업무에 대해 열정적으로 말을 이어갔다. 마치 이야기 보따리를 풀어놓듯, 해당 분야에 사실상 문외한인 인터뷰어의 눈높이에 맞춘 그의 화법은 몰입도가 꽤 높았다. 그는 실험실(lab)에서부터 현장에 이르기까지 시뮬레이션과 연관된 업무 전반에 큰 애정을 보였다. ‘어쩌면 김 마스터 같은 임직원의 열정적 에너지가 모여 오늘날의 삼성전자를 만들었고, 앞으로의 삼성전자를 이끌어가는지도 모르겠다!’ 그와 대화를 나누는 내내 그런 생각이 들었다.