지태권 세미에이아이 대표 - AI로 관리하는 반도체 수율

500개 넘는 미세공정과 수천 개 변수가 얽힌 반도체 제조 현장에서 수율 1% 차이는 곧 기업 수익성 격차로 이어진다. 첨단 반도체가 등장해 공정이 더욱 복잡해지면서 엔지니어의 숙련도에 기대온 기존 수율관리 방식이 한계에 이르렀다. 이 같은 문제를 인공지능(AI)으로 풀고 있는 스타트업 세미에이아이를 찾았다. 지태권 대표는 "공정 전반을 하나의 시스템으로 재구성하고 AI를 의사결정 인프라로 적용하는 새로운 접근이 필요하다"고 말했다. 반도체 공정 지능화의 가능성과 효용성을 지 대표의 현장 경험과 함께 짚어본다.

500개 넘는 미세공정을 거쳐야만 반도체 칩 하나가 완성된다. 웨이퍼 위에 박막을 형성하고 패턴을 새기고 계측하는 작업이 겹겹이 이어진다. 이때 한 가지 변수만 어긋나도 전체 수율(전체 생산량 대비 정상 제품 비율)이 흔들린다. 불량을 가려내고 원인을 규명하는 일이 뒤따르는 이유다.

문제는 첨단 반도체일수록 불량 원인을 추적하는 데 드는 시간과 비용이 기하급수적으로 늘어난다는 점이다. 공정이 고도화할수록 변수가 늘고 상관관계가 복잡해지기 때문이다. 지태권 세미에이아이(SemiAI) 대표는 "수율관리 난도가 높아지면서 기존의 경험 중심 접근에 한계가 드러나고 있다"며 "수율이 1%만 개선돼도 매출과 수익성에 미치는 영향은 매우 크다"고 말했다. 이어 "이제는 수율 개선에 인공지능(AI)을 활용할 시점"이라고 덧붙였다.

"때마침 반도체산업이 AI를 실질적으로 수용할 수 있는 환경이 조성됐습니다. 과거 제조 환경에서는 생산관리 시스템 구조상 대규모 데이터 분석이 기술적으로 쉽지 않았어요. 하지만 이제는 스마트팩토리 전환, 공정·설비 데이터 축적, 클라우드 기반 인프라 구축 등 AI를 적용할 수 있는 기반이 탄탄합니다."

이러한 산업 흐름 속에서 AI 스타트업 세미에이아이는 반도체 제조공정에서 발생하는 방대한 데이터를 AI로 분석해 수율을 개선하는 솔루션을 개발하고 있다. 대표작은 AI 기반 반도체 불량 예측·원인 진단 소프트웨어 '스마일(SMILE, Semiconductor Manufacturing Intelligence)'이다. AI 에이전트가 반도체 공정에서 발생하는 센서·장비·웨이퍼 데이터 등을 가상 환경에서 실시간으로 분석해 반도체 불량 패턴을 파악하고 인과관계를 추론하는 방식이다. 스마일을 이용하면 기존에 7일 넘게 소요되던 수율 분석·개선 과정을 10분 이내로 단축할 수 있다는 것이 지 대표의 설명이다.

스마일 기술력에 대한 기대감으로 지난 2월 미국 텍사스주 윌리엄슨카운티 경제개발청 대표단은 서울 송파에 자리한 세미에이아이 본사를 찾아 북미 사업 추진을 위한 협력의향서(LOI)를 체결했다. 뿐만 아니라 국내 대형 메모리 반도체 기업도 스마일 베타 유저로 참여해 공정 적용 가능성을 검증하는 것으로 전해졌다.

지난해 1월 설립된 세미에이아이는 초기 스타트업이지만 일찌감치 미국 델라웨어에 현지 법인을 마련하고 미국인 최고전략책임자(CSO)를 영입했다. 미국 반도체 제조사와의 개념검증(PoC) 논의가 잦아졌기 때문이다. 창업 1년도 안 돼 글로벌 움직임을 본격화한 지 대표를 만나 반도체 제조의 효율화 방안과 스마일의 기술구조, 글로벌 확장 로드맵 등을 들었다.

"결함 하나를 찾는 데만 수년이 걸렸다"

지 대표는 "반도체 제조의 효율성과 재현성을 동시에 높이는 일은 시대적 과제"라며 "그러려면 불량을 찾아내고 원인을 규명하는 과정도 체계화·지능화돼야 한다"고 말했다. 반복 실험과 의사결정 과정을 자동화해야 한다는 설명이다.

"시대 흐름에 발맞춰 반도체 제조공정에 AI를 적용하더라도 보조 수단에 그쳐선 안 됩니다. 칩의 미세화와 고집적화는 계속될 거예요. 수율관리 난도는 더욱더 높아지겠죠. AI를 공정 운영의 핵심 인프라로 재설계할 필요가 있습니다."

반도체 수율에 대한 그의 문제의식은 대학원 시절로 거슬러 올라간다. 당시 그는 인텔 장학생으로서 3D 트랜지스터 공정의 미세 패턴에서 발생하는 결함 원인을 분석하고 개선 조건을 찾는 연구를 맡았다. 지 대표는 "결함 하나의 근본 원인을 규명하는 데 수년이 걸렸다"며 "가설을 세운 뒤 검증하는 과정이 엔지니어 개인의 숙련도에 크게 좌우됐기 때문"이라고 지적했다.

이후 램리서치, 삼성전자, ASML, SK하이닉스 등으로 자리를 옮긴 뒤에도 상황은 크게 달라지지 않았다. 그는 "에칭(식각) 공정을 반복하며 조건을 최적화하는 과정에서 엔지니어 숙련도에 따라 하루에 수행할 수 있는 실험 횟수가 두세 배까지 차이가 났다"며 "공정개선 속도가 개인의 경험과 감각에 좌우되는 구조가 산업 전반에 깊이 자리하고 있음을 체감했다"고 말했다.

결국 지 대표는 십수 년간 현장에서 느낀 갈증을 해결하기 위해 2024년 5월 SK하이닉스를 퇴사했다. 이후 약 6개월간 1인 창업 형태로 사업을 준비했다. 상당 기간 혼자서 사업 기획과 기술 설계를 병행한 데는 직전 직장에서 수행한 수율분석 방법론 연구가 기반이 됐다. 그곳에서 그는 수석 엔지니어로 '머신러닝을 활용한 메모리 반도체 공정 공동 최적화, 수율 예측 및 수율 향상' 연구개발(R&D)을 맡았다.

그는 기존 제조 환경 위에 AI를 덧붙이는 방식으로는 한계가 있다고 판단했다. 공정·설비·계측 데이터가 처음부터 AI 활용을 전제로 설계된 환경에서 유기적으로 연결돼야 근본적으로 효율을 개선할 수 있다고 봤다. 지 대표는 "이러한 접근은 기존 조직 안에서 점진적으로 시도하기보다 새로운 구조를 실험할 수 있는 형태가 더 적합했다"며 "독립된 환경을 마련하고자 창업에 나섰다"고 말했다. 이후 그는 공정 전반을 하나의 시스템으로 재구성하는 데 집중했다.

"점이 아닌 선으로 공정을 보다"

기존 반도체 공정 분석 솔루션은 특정 단계에서 이상 징후를 포착하는 데 초점을 둔다. 불량이 발생한 구간을 정밀하게 들여다보는 방식이다. 하지만 수천 개 공정 단계가 유기적으로 연결된 첨단 제조 환경에서는 개별 구간 최적화만으로 전체 수율을 안정적으로 끌어올리는 데 한계가 있다는 지적이다.

세미에이아이는 접근 방식을 달리했다. 기술구조 측면에서 특정 공정에 종속되지 않도록 설계했다. 공정 간 상호작용을 통합적으로 분석해 수율 저하 원인부터 조건 도출까지를 하나의 흐름으로 연결하는 방식이다. 또 '휴먼 인 더 루프(Human-in-the-Loop, 인간의 개입·검증)' 구조를 적용했다. 스마일이 불량 원인을 진단해 수율 개선을 위한 최적 공정 조건을 제시하면 엔지니어가 최종 판단을 내리는 구조다. AI는 엔지니어를 대체하는 존재가 아니라 의사결정을 돕는 조력자에 가깝다.

가상 공정 환경도 스마일의 핵심 기술 중 하나다. 세미에이아이는 실제 공정 데이터를 활용해 디지털트윈 형태의 가상 공정 모델을 구축했다. 반도체산업은 지식재산권(IP) 보호가 엄격해 공정 전반 데이터를 통합적으로 활용하기 어렵기 때문이다. 지 대표는 "공유가 제한된 구간의 데이터를 보완할 뿐 아니라 직접 계측하지 않은 제품의 불량 가능성까지 예측할 수 있다"고 말했다.

더 나아가 스마일은 과거 공정 상태의 재구성도 시도한다. 근본 원인을 찾아 거슬러 올라가는 분석 방식이다. 공정 흐름 중 데이터가 비어 있는 구간이나 단절된 지점을 보완해 인과관계를 복원하고 여러 AI 에이전트가 협업해 추론을 완성하는 구조다. 여기에 거대언어모델(LLM) 기반 인터페이스를 결합했다. 엔지니어는 복잡한 코드나 수식을 직접 다루지 않아도 자연어 질의로 공정 데이터를 조회하고 분석 결과를 확인할 수 있다는 설명이다.

지 대표는 "반도체 제조 경쟁력은 이제 선폭 축소만으로 결정되지 않는다"며 "공정 운영의 효율성과 의사결정 속도가 기업 간 격차를 좌우할 것"이라고 말했다. 그가 미국 시장을 전면에 내세운 것도 같은 맥락이다. 신규 팹 건설이 활발하고 인건비·운영비 부담이 높은 환경일수록 공정효율 개선에 대한 요구가 뚜렷하기 때문이다. 세미에이아이는 올해 안에 미국 내 다수의 PoC를 확보해 기술 유효성을 검증하고 이를 발판으로 시리즈A 투자 유치까지 이어간다는 계획이다. 단순한 해외 진출이 아니라 미국 반도체 산업의 의사결정 구조 안에서 기술을 시험하고 확장하겠다는 전략이다.

지 대표는 "AI를 공정의 보조 도구가 아니라 인프라로 자리 잡게 하는 것이 목표"라며 "공정이 스스로 학습하는 구조를 만들어야 한다"고 말했다. 기술 검증과 시장 확장을 병행하며 반도체 제조 현장에 적용 가능한 AI 운영체계를 구축하는 것이 세미에이아이가 그리는 다음 단계다.