By admin
잔디 상태를 평가하기 위해 축구 선수 팀을 경기장으로 보내는 임무를 맡고 있다고 상상해 보십시오(물론 그들에게도 그럴 가능성이 있는 작업). 무작위로 위치를 선택하면 일부 영역에서는 함께 모여 다른 영역은 완전히 무시될 수 있습니다. 그러나 들판에 균일하게 퍼지는 것과 같은 전략을 주면 잔디 상태를 훨씬 더 정확하게 파악할 수 있습니다.
이제 2차원뿐만 아니라 수십, 심지어 수백 차원으로 퍼져나가야 한다고 상상해 보세요. 이것이 바로 MIT CSAIL(컴퓨터 과학 및 인공 지능 연구소) 연구원들이 앞서 나가고 있는 과제입니다. 그들은 데이터 포인트를 공간 전체에 보다 균일하게 배포하여 시뮬레이션 정확도를 향상시키는 방법인 “낮은 불일치 샘플링”에 대한 AI 기반 접근 방식을 개발했습니다.
핵심 참신함은 포인트가 더 나은 균일성을 위해 “통신”하고 자체 최적화할 수 있도록 하는 그래프 신경망(GNN)을 사용한다는 것입니다. 그들의 접근 방식은 로봇 공학, 금융, 계산 과학과 같은 분야의 시뮬레이션, 특히 정확한 시뮬레이션과 수치 계산에 중요한 복잡하고 다차원적인 문제를 처리하는 데 있어 중추적인 향상을 가져왔습니다.
“많은 문제에서 포인트를 더 균일하게 분산시킬수록 복잡한 시스템을 더 정확하게 시뮬레이션할 수 있습니다.”라고 새 논문의 수석 저자이자 MIT CSAIL 박사후 연구원인 T. Konstantin Rusch는 말합니다. “우리는 기하학적 딥러닝 기술을 사용하여 균일한 간격의 포인트를 생성하는 MPMC(Message-Passing Monte Carlo)라는 방법을 개발했습니다. 이를 통해 당면한 문제에 특히 중요한 차원, 즉 많은 응용 프로그램에서 매우 중요한 속성을 강조하는 포인트를 생성할 수 있습니다. 모델의 기본 그래프 신경망을 사용하면 점들이 서로 ‘대화’할 수 있어 이전 방법보다 훨씬 더 나은 균일성을 달성할 수 있습니다.”
이들의 연구는 9월호에 게재됐다. 국립과학원(National Academy of Sciences)의 간행물.
나를 몬테카를로로 데려가 주세요
몬테카를로 방법의 아이디어는 무작위 샘플링을 통해 시스템을 시뮬레이션하여 시스템에 대해 학습하는 것입니다. 표본 추출은 전체 모집단의 특성을 추정하기 위해 모집단의 하위 집합을 선택하는 것입니다. 역사적으로 이 수치는 이미 18세기 수학자 피에르 시몽 라플라스(Pierre-Simon Laplace)가 각 개인의 수를 세지 않고 프랑스의 인구를 추정하기 위해 사용했을 때 사용되었습니다.
Sobol’, Halton 및 Niederreiter와 같이 불일치가 낮은 시퀀스, 즉 균일성이 높은 시퀀스인 낮은 불일치 시퀀스는 오랫동안 무작위 샘플링을 낮은 불일치 샘플링으로 교환하는 준 무작위 샘플링의 표준이 되어 왔습니다. 이는 가격 옵션부터 위험 평가에 이르기까지 컴퓨터 그래픽 및 전산 금융과 같은 분야에서 널리 사용되며, 공간을 포인트로 균일하게 채우면 보다 정확한 결과를 얻을 수 있습니다.
연구팀이 제안한 MPMC 프레임워크는 무작위 샘플을 균일성이 높은 포인트로 변환합니다. 이는 특정 불일치 측정값을 최소화하는 GNN으로 무작위 샘플을 처리하여 수행됩니다.
매우 균일한 포인트를 생성하기 위해 AI를 사용하는 데 있어 가장 큰 과제 중 하나는 포인트 균일성을 측정하는 일반적인 방법이 계산 속도가 매우 느리고 작업하기 어렵다는 것입니다. 이 문제를 해결하기 위해 팀은 L2 불일치라는 더 빠르고 유연한 균일성 측정으로 전환했습니다. 이 방법만으로는 충분하지 않은 고차원 문제의 경우 점의 중요한 저차원 투영에 초점을 맞춘 새로운 기술을 사용합니다. 이런 방식으로 특정 애플리케이션에 더 적합한 포인트 세트를 생성할 수 있습니다.
그 의미는 학계를 훨씬 뛰어 넘는다고 팀은 말합니다. 예를 들어 전산 금융에서 시뮬레이션은 샘플링 포인트의 품질에 크게 의존합니다. Rusch는 “이러한 유형의 방법을 사용하면 무작위 포인트가 비효율적인 경우가 많지만 GNN에서 생성된 낮은 불일치 포인트로 인해 정확도가 높아집니다.”라고 말합니다. “예를 들어, 우리는 MPMC 포인트가 이전의 최첨단 준 무작위 샘플링 방법을 4배에서 24배로 능가하는 32차원의 계산 금융의 고전적인 문제를 고려했습니다.”
몬테카를로의 로봇
로봇 공학에서 경로 및 동작 계획은 실시간 의사 결정 프로세스를 통해 로봇을 안내하는 샘플링 기반 알고리즘에 의존하는 경우가 많습니다. MPMC의 향상된 균일성은 자율 주행이나 드론 기술과 같은 것에 대한 보다 효율적인 로봇 탐색 및 실시간 적응으로 이어질 수 있습니다. “사실 최근 사전 인쇄에서 우리는 실제 로봇 동작 계획 문제에 적용할 때 MPMC 포인트가 이전의 낮은 불일치 방법보다 4배 향상된 결과를 달성했음을 입증했습니다.”라고 Rusch는 말합니다.
CSAIL의 Daniela Rus는 “전통적인 낮은 불일치 시퀀스는 당시에 큰 발전을 이루었지만 세상은 더욱 복잡해졌습니다. 현재 우리가 해결하고 있는 문제는 10차원, 20차원 또는 심지어 100차원 공간에 존재하는 경우가 많습니다.”라고 말합니다. 전기 공학 및 컴퓨터 과학 분야의 이사이자 MIT 교수입니다. “우리는 차원이 커짐에 따라 적응할 수 있는 더 스마트한 것이 필요했습니다. GNN은 불일치가 낮은 포인트 세트를 생성하는 방법에 대한 패러다임 전환입니다. 포인트가 독립적으로 생성되는 기존 방법과 달리 GNN을 사용하면 포인트가 서로 ‘채팅’할 수 있으므로 네트워크는 일반적인 접근 방식에서 흔히 발생하는 문제인 클러스터링과 간격을 줄이는 방식으로 포인트를 배치하는 방법을 학습합니다.”
앞으로 팀은 모든 고정된 수의 포인트와 차원에 대해 새로운 GNN을 교육하는 현재의 한계를 해결하여 모든 사람이 MPMC 포인트에 더욱 쉽게 액세스할 수 있도록 할 계획입니다.
연구에 참여하지 않은 스탠포드 대학교 통계학 교수인 Art B. Owen은 “응용 수학의 대부분은 지속적으로 변화하는 수량을 사용하지만 계산을 통해 일반적으로 제한된 수의 점만 사용할 수 있습니다.”라고 말합니다. “100년이 넘는 역사를 지닌 불일치 분야에서는 추상적인 대수학과 정수론을 사용하여 효과적인 샘플링 지점을 정의합니다. 본 논문에서는 그래프 신경망을 사용하여 연속 분포에 비해 불일치가 적은 입력 지점을 찾습니다. 이러한 접근 방식은 이미 작은 문제에서 가장 잘 알려진 낮은 불일치 점 집합에 매우 근접해 있으며 계산 금융의 32차원 적분에 대한 큰 가능성을 보여주고 있습니다. 우리는 이것이 수치 계산을 위한 좋은 입력 지점을 찾기 위해 신경 방법을 사용하려는 많은 노력 중 첫 번째가 될 것으로 기대합니다.”
Rusch와 Rus는 워털루 대학교 연구원인 Nathan Kirk, 옥스퍼드 대학교의 DeepMind AI 교수이자 전 CSAIL 제휴사인 Michael Bronstein, 워털루 대학교 통계 및 계리 과학 교수 Christiane Lemieux와 함께 논문을 작성했습니다. 그들의 연구는 부분적으로 Schmidt Futures의 AI2050 프로그램, Boeing, 미국 공군 연구소 및 미국 공군 인공 지능 가속기, 스위스 국립 과학 재단, 캐나다 자연 과학 및 공학 연구 위원회의 지원을 받았습니다. EPSRC Turing AI 세계 최고의 연구 펠로우십.