[쿠키과학] ‘반도체 공정 스스로 분석·예측’… 기계연, AI 통합 플랫폼 구현

플라즈마 공정·AI 분석 결합 통합지능화 시스템 구현
MoS₂·WS₂ 합성부터 식각까지 6인치 웨이퍼 공정 자동화
다중모달 데이터로 공정 상태 실시간 진단
반도체 제조 자율화 기반 마련

승인 2026-06-17 10:02:20

관심 있는 쿠키뉴스 기사를 Google 검색에서 더 쉽게 만나보세요.

4인치 MoS2의 원자층 식각 성공. “First-Principles Calculation guided High-Purity Layer Control of 4-inch MoS2 by Plasma RIE” Chemistry of Materials. 한국기계연구원

인공지능(AI)이 반도체 공정을 실시간으로 분석하고 스스로 제어하는 시대가 한 걸음 더 가까워졌다.

한국기계연구원(이하 기계연) 반도체장비연구센터 김형우 박사팀이 세계 최초로 차세대 2차원(2D) 반도체용 플라즈마 통합 지능화 시스템을 개발했다고 17일 밝혔다.

이번 성과는 기존 양산 장비의 관측창(view port)을 그대로 활용할 수 있어 AI 반도체와 차세대 전자소자, 디스플레이 산업에 폭넓게 활용될 전망이다.

연구팀은 6인치 웨이퍼 기반 2D 반도체 합성·식각 공정을 자동화하고, AI를 활용해 공정 결과를 원자층 수준까지 예측하는 데 성공했다.

이번 기술의 핵심은 반도체를 만드는 과정에서 발생하는 방대한 데이터를 AI가 실시간으로 분석해 공정 상태를 판단하고 최적의 조건을 찾아내는 데 있다.

기존 반도체 제조는 온도와 압력, 가스 농도 같은 수많은 변수를 연구자의 경험에 의존해 조정했다.

같은 장비를 사용해도 공정 조건이 조금만 달라지면 품질 편차가 발생해 균일한 생산이 쉽지 않았다.

연구팀은 플라즈마 기반 반도체 제조장비와 실시간 진단장비, AI 분석 기술을 하나의 플랫폼으로 통합해 이 문제를 해결했다.

특히 차세대 반도체 소재로 주목받는 이황화몰리브덴(MoS₂)과 이황화텅스텐(WS₂) 같은 2D 반도체를 6인치 웨이퍼 크기로 제조하고 공정을 정밀하게 제어했다.

2D 반도체는 실리콘보다 훨씬 얇다. 원자 몇 개 층만으로도 반도체 기능을 수행할 수 있어 초저전력 AI 반도체와 차세대 전자소자 후보로 꼽힌다.

반면 두께가 원자 수준에 불과해 공정 오차가 조금만 발생해도 성능이 크게 달라진다.

균일한 제조 기술 확보가 상용화의 핵심 과제로 꼽혀왔다.

연구팀은 저온 플라즈마 기반 플라즈마화학기상증착(PECVD) 장비와 반응성이온식각(RIE) 장비를 활용해 약 150℃ 수준의 저온 환경에서 2D 반도체를 합성했다.

기존 2D 반도체 제조는 고온 화학기상증착(CVD) 방식이 주류였다.

이 방식은 반도체 생산라인과 호환성이 떨어지고 기판에 열 손상을 줄 수 있다는 한계가 있었다.

새 공정은 저온에서도 균일한 박막을 형성할 수 있어 기존 반도체 양산 공정과 연계하기 쉽다.

4인치 교차형상 1T/2H-MoS2 이종구조 확장 성공. "Unblocking of Schottky Barrier near the Junction of MoS2 Heterostructure under Electrochemical Potential", Energy Environmental Materials. 한국기계연구원

아울러 연구팀은 원자층 단위 식각을 단일 공정으로 구현해 생산성을 높였다.
식각은 반도체 표면을 원하는 두께만큼 깎아내는 공정이다.

원자층 수준 제어는 차세대 반도체 성능을 결정하는 핵심 기술로 꼽힌다.

또 연구팀은 공정 중 플라즈마에서 발생하는 빛과 가스 성분 변화를 실시간으로 측정하는 AI 지능화 시스템도 구축했다.

이는 광학방출분광기(OES)는 플라즈마가 내는 빛을 분석하고, 비행시간 질량분석기(ToF-MS)와 사중극자 질량분석기(QMS)는 공정 중 생성되는 화학종의 질량 변화를 분석한다.

기존에는 OES 같은 단일 센서 데이터만 활용하는 경우가 많았다.

연구팀은 OES와 ToF-MS, QMS를 동시에 활용하는 다중모달 진단 체계를 구축했다.

이를 통해 플라즈마 내부에서 어떤 화학 반응이 일어나는지 실시간으로 파악했다.

수집한 데이터는 머신러닝 모델이 분석했다.

연구팀은 시계열 다중모달 데이터를 기반으로 공정 결과를 예측하는 알고리즘을 개발했다.

그 결과 2D 반도체 두께 변화를 원자층 수준에서 높은 정확도로 예측하는 데 성공했다.

특히 연구팀은 OES·QMS·ToF-MS 데이터를 동시에 분석하는 Tri-cycleGAN 기반 머신러닝 모델을 적용, 각 진단장비의 측정 결과를 상호 보완적으로 예측하는 기술도 구현했다.

이와 함께 디지털 이미지의 RGB 색상 정보를 활용해 식각 두께를 예측하는 기술도 개발했다.

이와 관련해 연구팀은 관련 분야에서 30편 이상의 SCI 논문을 발표했고, 4인치 웨이퍼 기반 MoS₂-WS₂ 이종구조와 교차형상 1T·2H-MoS₂ 이종구조, WS₂-그래핀 이종구조와 원자층 식각 기술을 확보했다.

김 박사는 “저온 환경에서 6인치 웨이퍼 규모 2D 반도체 공정을 원자층 수준으로 구현했다는 점에 의미가 있다"며 ”다중모달 데이터 기반 머신러닝 기술로 공정 예측과 최적화를 동시에 구현해 공정 재현성과 생산성을 크게 높였다"고 설명했다.

한편, 이번 연구성과는 국제학술지 ‘Advanced Materials, Advanced Science’, ‘Chemistry of Materials’, ‘ACS Sustainable Chemistry & Engineering’ 등에 게재됐다.