오랫동안 물리학에서 외부 자극 없이 물질 안에서 자연스럽게 나타나는 자성은 두 종류뿐이라고 여겨졌다. 하나는 모든 전자 스핀이 같은 방향으로 정렬돼 눈에 보이는 자기장을 만드는 강자성(페로마그네티즘)이고, 다른 하나는 1933년에 발견된 반강자성(안티페로마그네티즘)으로 스핀이 업-다운-업-다운처럼 번갈아 배열돼 서로 상쇄되면서 외부로 드러나는 자기 효과가 없는 상태다. 이 두 범주 체계는 약 90년 동안 자성에 대한 이해를 지배해 왔다. 그런데 미국 에너지부 산하 SLAC 국립가속기연구소가 주도한 연구진이 학술지 사이언스(Science)에 2026년 10월 29일 발표한 결과는, 이 둘 어디에도 깔끔하게 들어맞지 않는 '제3의 자성 상태'가 실재한다는 결정적 실험 증거를 제시했다.
번갈아 배열되지만 비틀린 격자
이 제3의 상태는 2022년에 '알터마그네트(altermagnet)'라는 이름이 제안된 물질군이다. 연구 책임자인 SLAC 및 스탠퍼드 재료·에너지과학연구소의 대니얼 요스트는 "최근 몇 년간 강자성과 반강자성이라는 이분법에 들어맞지 않는 현상들이 관측돼 왔으며, 이번 결과가 그 세 번째 상태가 실재한다는 견고한 실험적 확인을 제공한다고 본다"고 설명했다. 알터마그네트는 반강자성처럼 스핀이 업-다운-업-다운으로 번갈아 배열돼 알짜 자화가 0이면서도, 강자성처럼 스핀 전류를 활용할 수 있는 성질을 함께 지닌다. 한때 양립 불가능하다고 여겨지던 두 성질이 공존하는 셈이다. 연구진은 그 비결을 결정 격자의 기하학적 비틀림에서 찾는다. '업' 스핀을 둘러싼 격자 구조가 '다운' 스핀을 둘러싼 격자에 대해 회전돼 있어 대칭성이 깨지고, 이 깨짐이 독특한 거동을 만든다는 것이다.
빠져 있던 조각, 카이랄성
2024년까지 알터마그네티즘이 실재한다는 정황은 강했지만 결정적인 조각이 빠져 있었다. 바로 카이랄성(chirality), 곧 '손대칭성'의 직접 증거였다. 카이랄 물질은 거울상과 겹쳐질 수 없는데, 왼손이 오른손 장갑에 들어가지 않는 것과 같다. 알터마그네트는 반강자성과 똑같이 스핀이 번갈아 배열되지만, 격자의 비틀림 때문에 전자·자기 구조에 일반 반강자성에는 없는 고유한 손대칭성이 생긴다. 즉 카이랄성의 유무가 두 물질을 양자 수준에서 구별하는 열쇠가 된다.
연구진은 수십 년간 반강자성으로 분류되다 최근 알터마그네트로 의심받아 온 텔루르화망간(MnTe)을 대상으로 삼았다. 이들은 프랑스 유럽싱크로트론방사광시설(ESRF)의 ID32 빔라인으로 시료를 가져갔다. 고도로 제어된 편광 X선을 만들 수 있는 설비다. 요스트는 "카이랄 물질은 왼손 편광 X선과 오른손 편광 X선을 서로 다르게 산란시키지만, 비카이랄 물질은 둘을 똑같이 산란시킨다"고 설명했다. 원편광 X선을 쪼이고 좌·우 편광에 대한 반응을 비교한 결과, 일반 반강자성이라면 존재할 수 없는 명확한 카이랄 신호가 드러났다. 첫 실험은 2024년에 완료됐고 2025년 초 반복 실험으로 결과가 재확인됐다. ESRF의 박사후연구원이자 공동 저자인 레이철 니켈은 "알터마그네티즘은 불과 몇 년 전 제안됐을 뿐인데, 이렇게 빠르게 모델이 확인되고 있다는 점이 놀랍다"고 말했다.
스핀트로닉스 실무에 주는 의미
이 발견이 겨냥하는 응용 분야는 스핀트로닉스다. 기존 컴퓨팅이 전자의 전하만을 이용해 정보를 저장·이동시키는 데 비해, 스핀트로닉스는 전하와 스핀을 함께 활용해 제어 변수를 하나 더 얻는다. 더 빠르고 견고하며 데이터센터의 전력 소비를 크게 줄일 잠재력이 있다. 다만 지금까지의 성과는 두 기존 자성의 한계에 묶여 있었다. 요스트에 따르면 강자성체는 외부 자기장에 너무 쉽게 영향을 받아, 영구자석을 든 사람이 소자 옆을 지나가는 것만으로 비트가 뒤집혀 저장 정보가 흐트러질 수 있다. 반강자성체는 이 문제를 해결하지만 외부로 거의 드러나지 않아 저장된 데이터를 읽거나 효율적인 스핀 전류를 끌어내기 어렵다. 알터마그네트는 알짜 자화가 0이라 안정적이면서도 정보 추출에 필요한 스핀 편극 전류를 만들어낼 수 있어 양쪽의 장점을 겸한다.
물론 이번 성과는 특정 후보 물질에서 핵심 특성을 직접 관측했다는 기초과학적 확인에 가깝다. 상용 소자로 가려면 알터마그네틱 상태를 빛과 전기로 어떻게 제어하고 조정할 수 있는지가 남은 과제이며, 연구진도 이를 후속 연구 방향으로 꼽았다. 한국의 소자·메모리 실무자 입장에서 당장 설계에 반영할 단계는 아니지만, 반강자성 기반 스핀트로닉스 연구를 보완하거나 대체할 새로운 재료 후보군이 실험적으로 열렸다는 점은 중장기 기술 로드맵에서 주목할 만한 신호다. 이 연구는 DOE 과학국의 지원을 일부 받았다.