[김윤식 박사, 김창영 교수] 전자 상관관계에 의한 철 칼코겐화물 위상 표면 상태의 취약성 관측 (Physical Review Letters 논문 게재

“Fragility of Topology under Electronic Correlations in Iron Chalcogenides”
양자 물질에서 위상학적(topological) 성질과 전자 상관관계의 상호작용은 응집물질물리학의 핵심 주제 중 하나이다. 일반적으로 위상 표면 상태는 전자를 서로 독립적인 페르미온으로 가정하는 단일 입자 묘사로 기술되지만, 강한 전자 상관관계 효과가 작동하는 계에서는 이러한 묘사가 더 이상 적절하지 않다. 그 극단적인 예가 모트 절연상으로, 전자가 공간적으로 국소화되면서 준입자 잔여(quasiparticle residue)가 감소하여 비결맞음(incoherence) 상태가 되는 현상이다. 따라서 준입자 잔여가 변할 때 위상 불변량이 어떻게 진화하는지를 살피는 것은 위상과 상관관계 효과 사이의 상호작용을 이해하는 데에 새로운 시각을 제공할 수 있다.
본 연구에서는 비자명한 Z2 위상과 궤도선택적 모트상(orbital-selective Mott phase, OSMP)을 동시에 가지는 철 칼코겐화물 초전도체인 FeTe1−xSex (FTS)를 대상으로, 고해상도 레이저 기반 각분해 광전자분광법(ARPES)을 이용하여 셀레늄 함량과 온도에 따른 위상 표면 상태의 변화를 관측하였다. 셀레늄 함량 x = 0.04와 x = 0.09 사이에서 자명한 위상과 비자명한 위상 사이를 잇는 위상학적 상전이를 발견하였으며, FeTe 끝단에서는 자명한 위상이 나타남을 확인하였다. 또한 온도가 상승함에 따라 띠 반전(band inversion)에 의해 결정되는 위상 불변량은 그대로 보존되지만, OSMP의 출현에 의해 디랙 표면 상태(Dirac surface state)의 결맞음이 급격히 손상되어 위상 보호 성질이 사실상 약화됨을 관측하였다. 본 연구는 단일 입자 관점에서는 위상이 보존되어 있더라도 강한 전자 상관관계가 위상 보호 효과를 실질적으로 무너뜨릴 수 있음을 보임으로써, 위상과 상관관계 효과 사이의 상호작용에 대한 중요한 통찰을 제공한다.
The interplay between topology and electronic correlations is one of the central topics in the study of quantum materials. Topological surface states are typically described within an effective single-particle picture in which electronic quasiparticles are treated as independent fermions. However, this description is no longer adequate when strong many-body correlation effects set in—an extreme case being the Mott insulating phase, where electrons become spatially localized and the quasiparticle residue diminishes. Tracking how topological invariants evolve as a function of the quasiparticle residue can therefore yield new insights into the interplay between topology and correlation effects.
Here, we investigate the iron chalcogenide superconductor FeTe1−xSex (FTS), which simultaneously hosts nontrivial Z2 topology and an orbital-selective Mott phase (OSMP). Using high-resolution laser-based angle-resolved photoemission spectroscopy (ARPES), we tracked the evolution of the topological surface state as a function of selenium content and temperature. We identified a topological phase transition between trivial and nontrivial topology in the lightly Se-doped regime, with the critical behavior occurring between x = 0.04 and x = 0.09, resulting in a trivial topology at the Te end. Furthermore, we found that at elevated temperatures the band inversion—and thus the topological invariant—remains intact, yet the Dirac surface state becomes rapidly incoherent due to the emergence of the OSMP. Our results demonstrate that the nontrivial topology in iron chalcogenides is fragile under strong electronic correlations, highlighting a key distinction between single-particle topology and its practical robustness in correlated systems.
Authors: Younsik Kim*(서울대), Junseo Yoo(서울대), Sehoon Kim(서울대), Sungsoo Hahn, Kiyohisa Tanaka, Li Yu, Minjae Kim* and Changyoung Kim*(서울대)
Publication date: 12 May 2026

