세미에이아이, 서브 1nm 오버레이 예측 AI 기술 발표

세미에이아이(대표 지태권)는 국내 최대 반도체 산업 전시회 '세미콘 코리아 2026'에 참가해 차세대 반도체 미세 공정의 핵심 과제로 꼽히는 서브 1나노미터(nm) 오버레이를 예측하는 AI 기술을 발표했다.

지태권 세미에이아이 대표는 "국제반도체기술로드맵(IRDS)에 따르면 향후 반도체 공정 오버레이 3시그마(3σ) 기준이 1nm 이하로 낮아질 것으로 전망된다"며 "공정 노이즈가 제어 한계를 초과하는 상황에서 기존 피드백 제어 방식으로 원자 단위 수준의 정밀도를 확보하기 어렵다"고 설명했다.

세미에이아이는 원자 단위 정밀도가 요구되는 첨단 공정 환경에서 발생하는 공정 노이즈 확대 및 데이터 부족 문제 등을 해결하기 위해 물리 기반 합성 데이터를 활용하는 '버추얼 팹(Virtual Fab)' 프레임워크를 제시했다. 버추얼 팹 프레임워크는 실제 공정 데이터를 대규모 합성 데이터로 보강하고, 극단적인 공정 변동 상황까지 학습시켜 모델의 예측 안정성을 제고한다.

또한 스캐너 로그 데이터와 공정 도메인 지식을 결합한 '도메인 주도 멀티모달 융합 모델'을 통해 기존 선형회귀와 XGBoost 대비 예측 성능을 개선했다.

오버레이를 예측하는 AI 기술을 적용한 결과, 평균 오차(RMSE)가 0.9nm 수준에서 0.3nm 수준으로 감소했고, 상관계수(R²)는 0.4에서 0.9로 향상됐다고 설명했다. 해당 결과는 서브 1nm 공정 요구 조건에 근접하는 정밀도를 확보했음을 의미한다.

지 대표는 "반도체 미세화가 가속화됨에 따라 반도체 공정 관리 패러다임이 예측을 중심으로 전환되고 있다"며 "AI 기반 오버레이 예측 기술이 차세대 반도체 제조 경쟁력을 좌우할 것"이라고 말했다.