내가 처음 택한 대학 전공은 물리학이었다. 라플라스[1]가 “우주 내 모든 입자의 위치와 속도를 알면 우주의 미래를 예측할 수 있다”고 말한 것처럼 뉴턴 역학만 알면 만물의 이치를 결정적으로 설명할 수 있을 줄 알았다. 하지만 막상 양자역학을 배우며 ‘우주 내 모든 입자’는 고사하고 입자 수가 네댓 개만 돼도 그들 간의 상호 작용을 깔끔한 수식으로 풀어낼 수 없단 사실에 크게 실망하고 방황했다.

꿈에 그리던 IBM 연구소 입성, 그리고 첫 번째 미션

그 즈음, 우연히 IBM의 체스 인공지능 ‘딥블루(Deep Blue)’가 세계 챔피언 개리 카스파로프[2]를 꺾는 광경을 목격했다. 이후 ‘언젠가 나도 IBM에서 인공지능 만드는 일을 하고 싶다’고 막연하게 생각하며 전공을 전자공학으로 바꿨다. 그리고 약 10년 후인 2007년 5월, 마침내 꿈에 그리던 미국 뉴욕 IBM 연구소에 입성했다.

포스트닥(post-doc, 박사후연구원) 자격으로 입사한 IBM 연구소에서 만난 매니저는 내게 되도록 학구적 업무를 맡기려 했다. 길어야 3년짜리 계약직이었던 만큼 재직 중 논문을 최대한 많이 써서 연구소를 떠난 후 정규직을 구하는 데 도움을 받을 수 있도록 배려한 것이다. 그의 맘이 무척 고마웠지만 내 생각은 좀 달랐다. 정규직으로 승진하려면 회사 이익에 직접적 기여를 해 보일 필요가 있다고 여긴 것이다.

적당한 기회를 물색하던 중 당시 IBM이 차세대 고속 직렬 링크 표준을 정하는 ‘CEI-25’ 위원회에서 지리멸렬한 논쟁을 이어가고 있단 사실을 알게 됐다. 상대는 알카텔 루슨트(옛 벨랩)와 브로드컴(옛 LSI 로직)이 각각 주도한 컨소시엄이었다. 신호 표시(signaling) 방식을 두고 알카텔 루슨트 컨소시엄은 듀오 바이너리[3]를, 브로드컴은 PAM4[4]를, IBM은 NRZ[5]를 각각 표준으로 채택시키기 위해 몇 년째 다투고 있었다.

문제는 각 회사가 저마다 자체적으로 개발한 시뮬레이션 도구(tool)로 성능 평가에 나선 데 있었다. 당연히 알카텔 루슨트에선 듀오 바이너리 방식이, 브로드컴에선 PAM4가 가장 우수한 성능을 보였고 논쟁은 교착 상태에 빠졌다. 이 때문에 CEI-25 위원회는 한때 시뮬레이션 도구를 오픈소스[6]로 만들려는 시도에 나서기도 했다. 하지만 각 사 엔지니어들이 본업을 제쳐두고 이 일에 시간을 투자할 리 만무했기 때문에 그 작업 역시 끝내 완성되지 못했다.

정규직 전환 성공 비결은 ‘관점 전환’과 ‘끝없는 연구’

‘세계적 기업이 처음부터 엉터리 도구를 만들었을 리 없다. 그렇다면 시뮬레이션 조건에 뭔가 비밀이 숨어있지 않을까?’ 브로드컴이 “PAM4가 가장 우수하다”는 시뮬레이션 결과를 발표할 때 우리(IBM)가 “NRZ가 더 낫다”며 반박해봐야 끊임없이 평행선만 달릴 게 뻔했다. 고심 끝에 내린 결론은 이랬다. ‘어떻게 하면 브로드컴 측과 같은 결과가 나올까? 한 번 재현해보자!’

CEI-25에서 뭔가 발표하려면 그 전날까지 관련 슬라이드를 업로드하는 게 당시 규정이었다. 상대방이 발표 내용에 대응할 수 있는 시간을 안 주려다 보니 대개의 자료가 자정에 임박해 올라왔다. 브로드컴 측 결과를 재현하기 위해 이리저리 ‘삽질’을 거듭하다 마침내 그들이 전제 조건에 어떤 장난을 쳤는지 알아냈다. 그 순간의 희열은 지금도 생생하다.

회의까진 고작 두어 시간 남은 상황. 그때부턴 브로드컴 측이 자사에 유리한 결과를 내기 위해 세운 가정이 얼마나 비합리적인지, 그걸 좀 더 합리적인 가정으로 교체하면 결과가 어떻게 달라지는지 효과적으로 보여줄 수 있는 방법 연구에 골몰했다. 극적 효과를 높이려면 어느 시점에 어떤 질문(으로 우아하게 포장된 반격)을 던질지도 궁리했다.

마침내 (IBM 측 채택 희망 방식이던) NRZ가 차세대 고속 직렬 링크 표준으로 결정됐다. 그 공로로 1년여 후인 2008년 8월엔 정규직으로 전환될 수 있었다. 그해 9월 리먼브러더스가 파산하며 세계 금융 위기가 절정으로 치달았다. IBM도 모든 신규 채용을 중지했다. 돌아보면 정말 운 좋게 막차를 탄 셈이었다.

‘과학적 판단 가능한 중립적 배심원’ 활용 검토해볼 만

요즘 원전(原電) 논란으로 아주 시끄럽다. 정치인은 그렇다 치고 과학·기술자 사이에서라도 합리적 논의가 진행돼야 하는데, 원전에서 사고 날 확률을 엉뚱하게 계산하거나 “후쿠시마에 사람이 살아도 아무 문제가 없다”[7]는 등의 극단적 주장만 주목 받는다.

결국 원전 문제는 이를테면 ‘과학적 재판’으로 갈 수밖에 없지 않을까? 관련 분야 전문가는 이해관계에서 자유로울 수 없을 테고, 혹 그런(이해관계에서 자유로운) 사람들이 존재해 “객관적으로 판단한 결과, 원전은 계속 짓는 게 맞는다”는 결론이 나오더라도 고준위(高準位) 방사선 폐기물[8] 처리장 부지 선정 과정에 뒤따를 후폭풍을 감당하긴 쉽지 않을 것이다.

여기서 말하는 과학적 재판이란 논란이 불거진 안건의 타당성을 판단할 때 이해관계에서 완전히 벗어나 있는 비전문가 중 △양측 논리를 전부 듣고 공부한 후 △각 주장에 숨은 가정을 따져보고 △부족한 자료는 요구하며 △미심쩍은 부분은 전문가에게 캐물어 과학적 판단을 내릴 수 있는 이들을 배심원으로 선정, 그들에게 최종 결정을 맡기는 것이다. 물론 이 모든 과정은 문서로 기록돼야 한다, 이후 누가 봐도 논리적으로 승복할 수밖에 없도록.

원전 논란을 과학적 재판으로 풀어가려면 일단 배심원들이 본업을 떠나 원전 공부에 몰두할 수 있는 여건을 만들어줘야 할 것이다. 효율적 학습에 필요한 권한, 예를 들어 자료 제출 요구권이나 전문가 출석 요청권 따위를 부여한다면 몇 년 안에 소위 ‘전문가’로 불리는 사람들보다 훨씬 종합적이고 균형 잡힌 시각에서 최선의 판단을 내릴 수 있으리라 생각한다.

세분화∙파편화된 현대 기술… ‘전문가 만능론’ 경계해야

반도체 패키징[9] 연구에 15년 넘게 종사하며 나름 세계적으로 인정 받을 만한 업적을 제법 쌓았다. 하지만 어디까지나 패키지의 전기적 설계 측면에 국한돼 있다. 패키지 설계만 해도 전기적 측면 외에 기계와 열, 재료 등 여러 변수를 모두 고려해야 하는데 이런 쪽은 겨우 ‘귀동냥 좀 해본’ 수준이다. 생산 쪽으로 넘어가면 이해도는 더 떨어진다. 완전한 미지의 세계라 해도 무방할 정도다.

분야를 막론하고 전체를 꿰고 있는 전문가, 란 게 존재한다면 하나의 조직에 전문가가 수십·수백 명씩 있어야 할 까닭이 없다. 시스템이 복잡하고 기술은 세분화·파편화된 공학 쪽은 더더욱 그렇다. 오히려 전문가일수록 시스템 전체를 파악하지 못하는 문제가 생길 여지가 크다. ‘공학적 지식을 기반으로 하면서 첨예한 논란의 한복판에 있는’ 이슈에 관한 한 과학적 재판이 효과적일 수 있는 건 그 때문이다.

※이 칼럼은 해당 필진의 개인적 소견이며 삼성전자의 입장이나 전략을 담고 있지 않습니다

[1] Pierre Simon Laplace(1749~1827). 프랑스 천문학자 겸 수학자

[2] Garry Kasparov(1963~). 러시아 출신 세계 체스 챔피언

[3] duo-binary. 파형의 스펙트럼을 저주파 부분으로 모아 고역 주파수 전송에 따른 감쇠 영향을 경감하는 신호 전송 방식

[4] 펄스진폭변조(Pulse-Amplitude Modulation, 펄스의 폭과 주기를 일정하게 하고 신호파에 따라 해당 진폭만 변화시키는 방식)의 일종

[5] Non-Return-to-Zero. 정보 값에 변화가 생겼을 때에만 펄스를 켜거나 끄는 신호 전송 방식

[6] open source. 소프트웨어 설계도에 해당하는 소스코드를 인터넷 등으로 무상 공개, 누구나 개량∙재배포할 수 있도록 하는 것

[7] 2011년 3월 일본 동북부 지방을 관통한 지진과 쓰나미의 여파로 일본 후쿠시마현 소재 원전의 방사능이 누출되는 사고가 발생했다

[8] 방사선 방출 강도가 높은 방사능 폐기물. 사용 후 핵연료에서 분리된 핵분열 생성물의 농축 폐액이나 플루토늄 등의 초우라늄 원소를 많이 포함한 폐기물 등을 포함한다

[9] semiconductor packaging. 반도체 칩을 탑재 기기에 맞는 형태로 만드는 기술