서울대학교 공과대학은 재료공학부 유효빈 교수 연구팀이 고등과학원 손영우 교수, 이화여자대학교 박창원 교수 연구팀과의 공동연구를 통해, 무아레 격자 중첩을 통한 2차원 양자물질 플랫폼을 구현했다고 밝혔다.

왼쪽부터 박대성 연구원(석사 졸업, 현 삼성전자 재직), 김병현 연구원(서울대학교 석박통합과정 재학 중), 박창원 이화여자대학교 물리학과 교수, 야나노세 구니히로 고등과학원 박사, 손영우 고등과학원 교수, 유효빈 서울대학교 재료공학부 교수

이번 연구 결과는 지난 5월 14일 과학기술 분야 최고 권위 학술지 ‘네이처(Nature)’지에 ‘Unconventional domain tessellations in moiré-of-moiré lattices’ 제하의 논문으로 온라인 게재됐다. 아울러 해당 연구는 한국연구재단의 우수신진연구 및 선도연구센터 사업, 포스코청암재단의 포스코사이언스 신진교수 펠로십, 고등과학원 등의 지원으로 수행됐다.

본 연구는 그래핀 삼중층 구조에서 서로 다른 무아레 격자들이 중첩될 때 형성되는 위계적 구조와 복합 상호작용을 원자 수준에서 규명한 최초의 사례로, 향후 프로그래머블 양자소자 및 차세대 전자 재료 개발을 위한 새로운 고체 플랫폼의 가능성을 제시했다는 평가를 받고 있다.

◇ 연구 배경

‘무아레(moiré) 현상’은 두 개의 규칙적인 무늬가 겹칠 때 생기는 새로운 중첩 무늬를 의미한다. 예를 들어 두 겹의 망사천을 겹치면 원래 없던 물결 무늬가 나타나고, TV 화면 속 줄무늬 셔츠에서 새로운 격자 무늬가 보이기도 한다. 최근 과학계는 이 같은 단순한 시각적 효과 외에도, 무아레 현상이 전자의 움직임과 성질을 근본적으로 바꿀 수 있다는 점에 주목하고 있다.

전자기기나 양자소자의 작동 원리에서 핵심이 되는 전자의 움직임과 상태는, 이를 구성하는 물질 내부의 원자들이 어떤 규칙에 따라 얼마만큼의 간격으로 배열돼 있는지와 밀접히 관련돼 있다. 일반적인 고체 물질에서는 이 원자 간 배열이 고정돼 있어, 전자의 성질을 인위적으로 바꾸기 어렵다.

이에 반해 그래핀(graphene)처럼 원자 한 층으로 이뤄진 매우 얇은 2차원 물질을 두 장 겹친 후 약간 비틀면, 각 층의 원자 배열 간 간섭으로 새로운 격자 구조인 ‘무아레 격자(moiré lattice)’가 형성돼 기존 물질로는 구현할 수 없는 새로운 격자 주기를 인위적으로 설계하는 것도 가능하다. 이를 통해 전자의 흐름과 성질을 정밀하게 조절할 수 있어, 양자기술 및 차세대 전자소자 개발을 위한 새로운 재료 플랫폼으로 각광받고 있다.

기존 무아레 구조 연구는 두 층을 겹친 ‘단일 무아레 구조’에 집중한 사례가 대부분이었다. 하지만 세 층 이상을 쌓아 겹치는 경우, 각 층 사이에서 형성된 서로 다른 무아레 격자들이 중첩되며 완전히 새로운 위계적 구조, 즉 ‘이중 무아레 구조(moiré-of-moiré lattice)’가 만들어질 수 있다. 두 개의 무아레 격자 주기를 각각 독립적으로 제어할 수 있는 이 구조는 전자 상태 조절의 자유도를 기존보다 한층 높일 수 있다는 점에서 중요한 의미를 지닌다.

‘이중 무아레 구조’에서는 여러 층의 상호작용으로 인해 원자 배열의 미세한 변화나 그에 따른 복잡한 물리 현상이 일어날 수 있지만, 그 기전에 관한 연구는 아직 충분히 이뤄지지 않았다. 따라서 향후 보다 복잡하고 정밀한 전자 구조를 구현하기 위해 이중 무아레 구조의 위계적 구조 형성과 각 층간 복합적인 상호작용의 원리를 규명하는 연구가 반드시 필요한 상황이었다.

◇ 연구 과정

이에 공동연구팀은 그래핀 세 층을 겹치고 각 층의 비틀림 각도를 정밀하게 조절함으로써, 두 개의 무아레 격자가 서로 중첩되는 ‘이중 무아레 구조’를 구현했다. 연구진은 이 구조에서 원자들이 스스로 안정된 배열을 찾아가며 형성하는 새로운 격자 패턴을 고성능 투과전자현미경을 통해 직접 관찰했고, 지금까지 보고된 적 없는 삼각형, 카고메(Kagome)*, 육각별 등 새로운 격자 패턴이 자발적으로 형성되는 것을 발견했다.

*카고메(Kagome) : 정삼각형과 육각형이 교차하는 격자 구조

이 구조는 원자들이 스스로 가장 안정한 배열을 찾아가며 정렬된 결과로, 단순히 바로 인접한 두 층 사이의 상호작용만으로는 설명할 수 없었다. 연구팀은 한 층을 건너뛴 비인접한 층들 사이에서도 비교적 약한 상호작용이 발생하며, 이것이 전체 구조 형성에 매우 중요한 역할을 한다는 사실을 밝혀냈다.

이처럼 복잡하게 얽힌 층간 상호작용의 결과, 단순한 기존 무아레 구조와 전혀 다른 위계적인 격자 구조와 독특한 물리적 특성이 나타남을 알 수 있는데, 이는 삼중층 이상의 구조에서만 구현 가능한 독특한 현상이다. 따라서 연구팀은 이 구조가 형성되는 과정을 실험 결과와 시뮬레이션을 결합해 정밀하게 분석했고, 비틀림 각도에 따라 어떤 격자 패턴이 나타나는지를 정리한 ‘도메인 격자 상태도’를 완성해 보고했다. 이 상태도는 앞으로 다중 무아레 구조를 활용해 물질의 전자적 성질을 설계하는 데 유용한 지침이 될 것으로 예상된다.

◇ 연구 의의

이번 연구는 기존 단일 무아레 구조의 한계를 뛰어넘어, 서로 다른 무아레 격자가 겹쳐진 복합 구조에서도 원자 배열과 전자 상태를 정밀하게 설계할 수 있다는 가능성을 보여준 중요한 성과로 평가받는다. 특히 두 개의 무아레 격자 주기를 각각 독립적으로 조절할 수 있어, 전자의 성질을 변화시키기 위한 설계의 자유도가 크게 확장된 점이 핵심 성과이다.

특히 연구진은 원자 한 층 두께의 얇은 2차원 물질을 겹침으로써, 기존에 보고된 적 없는 새로운 양자역학적 현상을 실험적으로 구현했고, 이를 설명할 새로운 물리·재료 과학적 방법론을 제시한 의미 있는 성과를 거뒀다. 따라서 향후 이에 기반해 2차원 소재의 양자물질 플랫폼을 구현할 때 더욱 정교한 설계 및 조절이 가능할 것으로 기대된다. 아울러 새로운 개념의 전자소자나 연산장치를 개발하는 응용 연구의 토대도 마련할 것으로 예상된다.

◇ 연구진 의견

연구를 책임진 유효빈 교수는 “이번 연구는 무아레 구조가 단순한 시각 효과나 기하학적 배열을 넘어, 원자 간의 상호작용과 전자 상태까지도 정밀하게 설계할 수 있는 새로운 도구가 될 수 있음을 실험적으로 입증했다는 점에서 그 의미가 깊다”며 “특히 이중 무아레 구조에서 나타나는 위계적 격자 형성과 장거리 상호작용은 기존 재료 설계 방식과는 전혀 다른 접근법을 가능케 한다”고 설명했다. 또한 “연구 결과는 향후 전기장과 같은 외부 자극에 따라 이러한 격자 구조와 전자 상태를 능동적으로 조절할 수 있는 ‘프로그래머블 재료’ 개발로도 이어질 수 있을 것”이라며 이번 연구결과가 차세대 전자기기와 양자기술 분야에 큰 파급력을 미칠 것으로 예측했다.

◇ 연구진 진로

한편 논문의 공동 주저자인 박대성 연구원은 석사과정 이수 중 투과전자현미경(TEM)을 활용해 ‘뒤틀린 반데르발스 물질(twisted vdW materials)’에서 형성되는 모아레 격자 구조를 연구했으며, 현재 삼성전자에서 PA (Process Architecture) 직무를 맡아 반도체 제조 공정을 설계·개발하고 있다. 특히 공정 단계 혁신을 통한 반도체 성능 향상과 경제성 확보에 매진 중이다.

참고자료

· 논문/저널명 : ‘Unconventional domain tessellations in moiré-of-moiré lattices’, Nature
· DOI : https://doi.org/10.1038/s41586-025-08932-0