인지야공

인지야공/오늘의 AI 이슈/17번째 글

무작위 점들을 타원체 하나가 지나갈 수 있나 — 1/4 에서 무너지는 문제

실행: python 딥러닝/daily/DAILY_2026_10_05_ellipsoid_fitting.py (CPU 2분, cvxpy 와 Clarabel 필요) 이 글의 수치는 전부 그 스크립트를 돌려 얻은 것이다. 작은 차원(d = 8~24)의 모의실험이고, 증명을 확인한 것이 아니다. 이슈는 10월 5일에 골랐고 글은 7일에 썼다.


1. 무슨 일이 있었나

10월 2일, Meta 가 수학자들과 Muse Spark(1.1, 1.2)로 함께 쓴 수학 논문 6편을 공개했다 (Meta 연구 블로그, AlphaSignal, Runtimewire). Meta 는 그중 5편이 그동안 풀리지 않던 문제에 답한다고 밝혔다.

보도에서 확인한 사실은 이렇다.

  • 수학자들은 연구용으로 따로 만든 장치 없이, 일반 채팅 화면의 “Thinking Mode”로 몇 달에 걸쳐 작업했다.
  • 문제를 고르고, 탐색 방향을 정하고, 논증을 검증한 것은 수학자다. 논문들은 모델의 기여를 한정된 범위로 적고 있다.
  • 분야는 확률, 미분방정식, 군론, 최적화 등이다. 예를 들어 2015년부터 열려 있던 4계 비선형 슈뢰딩거 방정식의 유한 시간 폭발, 한 군론 명제의 반례가 포함됐다.
  • 일부 결과는 독립적으로 나온 다른 연구와 겹친다. 이 글이 다루는 타원체 문제는 2026년 8월에 다른 세 그룹이 관련 결과를 올렸다. 한 그룹은 같은 경계를 증명했다 (arXiv 2608.10184, arXiv 2608.27372).

“AI 가 수학 난제를 풀었다”는 제목은 이 사실들보다 크다. 이 글은 평가를 하지 않고, 6편 중 가장 그림으로 그리기 쉬운 한 문제를 직접 풀어 본다. Aykut Arslan 이 Muse Spark 와 쓴 논문의 주제인 타원체 맞추기다.


2. 핵심 개념 — 점들을 지나는 타원

2차원에서 먼저

평면에 점을 몇 개 찍는다. 원점이 중심인 타원 하나가 그 점들을 전부 지나가게 할 수 있을까?

원점이 중심인 타원은 식 하나로 쓴다.

x⊤Σ x=1,Σ=(abbc)⪰0x^{\top} \Sigma\, x = 1, \qquad \Sigma = \begin{pmatrix} a & b \\ b & c \end{pmatrix} \succeq 0
기호뜻
xx점의 좌표 벡터
Σ\Sigma타원의 모양을 정하는 대칭행렬. 2차원에서는 미지수가 a,b,ca, b, c 셋이다
x⊤Σxx^{\top}\Sigma xax12+2b x1x2+c x22a x_1^2 + 2b\,x_1 x_2 + c\,x_2^2. 미지수 a,b,ca, b, c 에 대해 일차식이다
Σ⪰0\Sigma \succeq 0양의 준정부호. 고유값이 모두 0 이상이라는 뜻이고, 곡선이 모든 방향으로 닫혀 있다는 조건이다

점 하나를 지나라는 조건은 미지수에 대한 일차방정식 하나다. 미지수가 셋이니 점 셋이면 Σ\Sigma 가 정해진다. 그런데 그렇게 정해진 곡선이 타원이라는 보장은 없다.

숫자로 따라가 보자. 점 (1,0)(1, 0) 과 (0,1)(0, 1) 을 지나려면 a=1a = 1, c=1c = 1 이다. 셋째 점에 따라 bb 가 정해진다.

  • 셋째 점이 (1,1)(1, 1) 이면 1+2b+1=11 + 2b + 1 = 1 에서 b=−12b = -\tfrac12. 고유값은 1±121 \pm \tfrac12, 곧 0.5 와 1.5 다. 둘 다 양수라서 타원이다.
  • 셋째 점이 (0.4,0.4)(0.4, 0.4) 이면 0.16+0.32b+0.16=10.16 + 0.32b + 0.16 = 1 에서 b=2.125b = 2.125. 고유값은 1±2.1251 \pm 2.125, 곧 3.125 와 −1.125 다. 음수가 있으니 쌍곡선이다. 한 방향으로 열려 있다.
세 점을 지나는 곡선이 타원일 때와 쌍곡선일 때 왼쪽은 점 (1,0), (0,1), (1,1) 을 지나는 기울어진 타원이다. 오른쪽은 점 (1,0), (0,1), (0.4,0.4) 를 지나는 곡선으로, 타원이 될 수 없어 두 갈래로 열린 쌍곡선이 된다. 셋째 점 (1, 1): 타원 셋째 점 (0.4, 0.4): 쌍곡선 (1,0)(0,1)(1,1) (1,0)(0,1)(0.4,0.4) 고유값 0.5, 1.5: 모든 방향으로 닫힌다 고유값 3.125, −1.125: 한 방향으로 열린다

방정식은 풀렸는데 답이 타원이 아니다. 이 문제의 어려움이 여기에 있다. 방정식을 푸는 것과 닫힌 모양이라는 조건을 지키는 것은 다른 일이다.

d 차원으로

dd 차원에서 Σ\Sigma 는 d×dd \times d 대칭행렬이고, 미지수는 d(d+1)2\tfrac{d(d+1)}{2} 개다. 차원이 크면 약 d2/2d^2/2 개다. 점 nn 개를 표준정규분포에서 무작위로 뽑는다. 질문은 같다. 모든 점을 지나는 타원체가 있는가.

찾기: Σ⪰0  이면서  xi⊤Σ xi=1(i=1,…,n)\text{찾기: } \Sigma \succeq 0 \ \text{ 이면서 } \ x_i^{\top} \Sigma\, x_i = 1 \quad (i = 1, \dots, n) nd2<14 ⇒ 거의 언제나 있다nd2>14 ⇒ 거의 언제나 없다\frac{n}{d^2} < \frac14 \ \Rightarrow\ \text{거의 언제나 있다} \qquad\qquad \frac{n}{d^2} > \frac14 \ \Rightarrow\ \text{거의 언제나 없다}
기호뜻
dd차원
nn점의 수
xix_iii 번째 점. 각 좌표를 표준정규분포에서 독립으로 뽑는다
n/d2n/d^2점의 수를 차원의 제곱으로 나눈 비율. 이 문제의 “눈금”이다
“거의 언제나”dd 가 커질수록 확률이 1에 가까워진다는 뜻

둘째 줄이 Saunderson, Parrilo, Willsky 가 내놓은 추측이고, 이번에 증명됐다고 보도된 내용이다.

방정식 수만 세면 경계는 n≈d2/2n \approx d^2/2 여야 한다. 미지수가 그만큼이니까. 추측은 그 절반인 d2/4d^2/4 를 말한다. “닫혀 있어야 한다”는 조건 하나가 쓸 수 있는 점의 수를 정확히 반으로 깎는다는 주장이다.

이런 문제를 준정부호 계획법(semidefinite programming)이라 부른다. 일차방정식에 “행렬의 고유값이 모두 0 이상”이라는 조건이 붙은 꼴이다. 고유값이 무엇인지는 고유값·고유벡터 노트에 있다.

상전이

“조금 넘으면 거의 언제나 불가능, 조금 모자라면 거의 언제나 가능”처럼 확률이 한 점에서 갑자기 뒤집히는 현상을 상전이라 부른다. 물이 0도에서 어는 것과 같은 말이다. 고차원의 기하 노트에서 본 것처럼, 차원이 크면 무작위한 것들이 평균 근처에 몰려 “대개 그렇다”가 “거의 언제나 그렇다”로 바뀐다. 그래서 고차원의 무작위 문제에서는 이런 날카로운 경계가 자주 나온다.


3. 직접 재 보기

타원체 맞추기 실험

풀이기(Clarabel)로 다음 문제를 풀었다. 모든 점을 지나는 대칭행렬 중 최소 고유값이 가장 큰 것을 찾고, 그 최소 고유값 t∗t^* 가 0 이상이면 타원체가 있다고 판정한다. 처음에는 “있는가, 없는가”만 묻는 꼴로 풀었는데 경계 근처에서 풀이기가 실패했다. 이 꼴은 언제나 답이 있어서 2,088번의 풀이가 모두 정상 종료됐다.

[A] 1/4 에서 무너지는가

n/d2n/d^2 를 바꿔 가며 타원체가 있는 비율을 쟀다.

n/d2n/d^2d=8 (60번)d=12 (50번)d=16 (40번)d=24 (24번)
0.15100%100%100%100%
0.2093%94%90%100%
0.2292%96%95%100%
0.2485%78%82%83%
0.2665%64%52%46%
0.2855%38%15%0%
0.3045%24%10%8%
0.3325%4%0%0%
0.400%0%0%0%
  • 차원이 클수록 가파르다. d=8 에서는 0.22 와 0.36 사이에서 92% 가 10% 로 천천히 내려온다. d=24 에서는 0.22 의 100% 가 0.28 에서 0% 가 된다.
  • 비율이 50% 를 지나는 지점은 d=8 에서 0.290, d=12 에서 0.271, d=16 에서 0.261, d=24 에서 0.258 이었다. 차원이 커지면서 1/4 에 다가간다.
  • 정확히 1/4 이 아닌 것은 차원이 작아서다. 증명된 것은 d→∞d \to \infty 의 극한이다. 미지수가 정확히는 d2/2d^2/2 가 아니라 d(d+1)/2d(d+1)/2 인 것도 작은 차원에서 경계를 오른쪽으로 민다.
  • d=24 의 0.28 이 0% 인데 0.30 이 8% 인 것은 시행이 24번뿐이라 생긴 흔들림이다(24번 중 2번).

[B] 닫힘 조건을 빼면 1/2

Σ⪰0\Sigma \succeq 0 조건을 빼고 방정식만 풀었다. 이제는 쌍곡선 같은 열린 곡면도 허용한다.

n/d2n/d^2d=8d=16d=24
0.40100%100%100%
0.50100%100%100%
0.55100%0%0%
0.600%0%0%

경계는 미지수의 수 d(d+1)/2d(d+1)/2 에 정확히 있다. n/d2n/d^2 로는 d=8 에서 0.562, d=16 에서 0.531, d=24 에서 0.521 이고, 차원이 커지면 1/2 로 간다. 여기서는 확률이 서서히 바뀌지 않고 100% 에서 0% 로 바로 떨어진다. 방정식이 미지수보다 많으면 무작위 점에서는 해가 없다.

왼쪽 그림의 점선이 이것이다. 실선(닫힘 조건 있음)은 1/4 에서, 점선(없음)은 1/2 에서 무너진다. 닫혀 있으라는 조건의 값이 정확히 절반이다.

[C] 경계에 다가가면 타원체가 납작해진다

d=16 에서, 가장 둥근 해의 최소 고유값(에 dd 를 곱한 값)의 중앙값을 쟀다. 이 값이 클수록 타원체가 공에 가깝고, 0이면 한 방향으로 무한히 늘어난다.

n/d2n/d^2점의 수d×d \times 최소 고유값 (중앙값)
0.0250.725
0.10260.553
0.15380.511
0.20510.311
0.24610.141
0.26670.013
0.2872−0.113

점이 늘수록 여유가 줄어 1/4 근처에서 0을 지난다. 그 뒤로는 값이 음수다. 모든 점을 지나는 곡면은 여전히 있지만 어느 방향으로는 열려 있어야만 한다. 2절의 쌍곡선이 16차원에서 나타난 것이다. 타원체가 “갑자기” 없어지는 것이 아니라, 점점 납작해지다가 경계에서 한 방향이 터진다.


4. 흔한 오해와 한계

“AI 가 혼자 난제를 풀었다.” 보도된 사실은 다르다. 문제를 고르고 논증을 검증한 것은 수학자이고, 타원체 문제는 같은 시기에 사람들로 이루어진 다른 그룹들도 풀었다. 모델이 초안을 쓴 부분이 있다는 것과, 그 초안을 사람이 검증하고 다듬었다는 것이 논문에 함께 적혀 있다.

“시뮬레이션으로 1/4 을 확인했다.” 아니다. 이 글의 실험은 d=24 까지이고, 50% 지점은 0.258 이었다. 1/4 로 다가가는 경향을 본 것이다. 극한에서 정확히 1/4 이라는 것은 증명이 하는 일이고, 그 증명을 나는 검토하지 않았다.

“방정식이 풀리면 답이 있다.” [B]와 [A]의 차이가 그것이다. n/d2n/d^2 가 0.3 이면 방정식은 100% 풀리지만 타원체는 d=24 에서 8% 만 있었다. 조건 하나가 가능한 범위를 반으로 줄인다.

“이 문제는 쓸모없는 퍼즐이다.” 타원체 맞추기는 데이터의 공분산 구조를 “대각 성분 + 저계수 성분”으로 나누는 문제(요인 분석)를 풀 수 있는 조건에서 나왔다. 더 넓게는 “무작위 제약을 몇 개까지 만족시킬 수 있나”라는 질문이고, 신경망이 무작위 데이터를 몇 개까지 외울 수 있나 하는 문제와 같은 계열이다.

실험의 한계. 차원이 작고 시행 수가 24~60번이라 비율에 ±10%p 안팎의 흔들림이 있다. 판정은 풀이기의 수치 허용오차(10−610^{-6})에 기대고 있어서, 경계에 아주 가까운 경우는 잘못 판정됐을 수 있다.


5. 한 문단 요약

Meta 가 10월 2일 공개한 Muse Spark 공저 논문 6편 중 하나는, dd 차원의 무작위 점 nn 개를 원점 중심의 타원체 하나가 전부 지나갈 수 있는 경계가 n=d2/4n = d^2/4 라는 추측을 증명했다고 보도됐다(같은 시기 다른 그룹들도 관련 결과를 냈다). 점 하나를 지나라는 조건은 행렬 Σ\Sigma 의 성분에 대한 일차방정식 하나이고, 미지수는 약 d2/2d^2/2 개다. 그래서 방정식만 보면 경계는 n/d2=1/2n/d^2 = 1/2 이고, 실제로 그 자리에서 100% 가 0% 로 떨어졌다. “모든 방향으로 닫혀 있어야 한다”는 조건을 넣으면 경계가 절반으로 내려온다. 타원체가 있을 확률이 50% 가 되는 지점은 d=8 에서 0.290, d=24 에서 0.258 로 1/4 에 다가갔고, 차원이 클수록 전환이 가팔랐다. 경계에 다가갈수록 가장 둥근 해의 최소 고유값이 0으로 줄어, 타원체가 납작해지다가 한 방향으로 열린다.


참고

표시는 이 브라우저에만 남는다. 서버로 가는 것은 없다.