Aleksander Madry는 폴란드계 미국인 컴퓨터 과학자이자 MIT 교수로, 기계 학습을 전문으로 하며 적대적 강건성과 인공지능 시스템의 보안에 중점을 둔다. 그는 신경망을 악의적인 입력에 강하게 만드는 연구와 OpenAI에서 준비 책임자로서의 리더십 역할로 잘 알려져 있으며, 고급 AI 모델과 관련된 위험의 평가와 완화를 감독한다.
Madry의 학문적 및 전문적 작업은 이론 컴퓨터 과학과 응용 기계 학습의 교차점에 있다. 그의 기여는 연구자들이 딥러닝 모델의 취약점을 이해하는 방식을 형성했으며, 더 안전한 AI 시스템 개발에 영향을 미쳤다. 그는 또한 AI 안전에 관한 광범위한 논의, 특히 대규모 언어 모델과 그 잠재적 사회적 영향에 관한 논의에서 저명한 목소리를 내고 있다.
초기 생애 및 교육
Aleksander Madry는 폴란드에서 태어났지만, 그의 정확한 생년월일은 공개적으로 문서화되지 않았다. 그는 수학과 컴퓨터 과학에 일찍 관심을 가지게 되었고, 이는 그를 이 분야의 고등 교육으로 이끌었다. 그는 바르샤바 대학교에서 학부 과정을 마치고 컴퓨터 과학 석사 학위를 취득했다. 그의 초기 학문적 초점은 알고리즘과 조합 최적화였으며, 이는 나중에 기계 학습에 대한 그의 접근 방식을 형성하게 된다.
2006년, Madry는 매사추세츠 공과대학에서 박사 과정을 밟기 위해 미국으로 이주했다. 그는 전기 공학 및 컴퓨터 과학 학과에서 Michel Goemans 교수의 지도를 받았다. 그의 박사 연구는 근사 알고리즘과 그래프 이론에 중점을 두었으며, 특정 최적화 문제에 대한 효율적 계산의 한계를 탐구한 논문으로 마무리되었다. 그는 2011년에 박사 학위를 받았다.
MIT에서의 학문적 경력
박사 학위를 마친 후, Madry는 토론토 대학교에서 박사후 연구원으로 시간을 보내며 기계 학습 그룹의 연구자들과 협력했다. 이 기간은 그의 연구 관심사가 이론 컴퓨터 과학에서 떠오르는 딥러닝 분야로 전환되는 시점을 표시했다. 그는 2014년에 전기 공학 및 컴퓨터 과학 학과의 조교수로 MIT에 복귀했으며, 이후 부교수와 정교수로 승진했다.
MIT에서 Madry는 컴퓨터 과학 및 인공지능 연구소(CSAIL)의 수석 연구원이 되었다. 그는 Madry Lab을 설립하고 이끌며 기계 학습 모델의 강건성을 이해하고 개선하는 데 중점을 두었다. 그의 그룹의 작업은 신경망이 적대적 예제(의도적으로 교란되어 오분류를 유발하는 입력)에서 실패하는 이유와 그러한 공격에 대응하는 방법에 대한 근본적인 질문을 다루었다.
적대적 강건성 연구
Madry의 가장 영향력 있는 연구 기여는 적대적 강건성에 대한 작업이다. 2018년, 그는 "적대적 공격에 강한 딥러닝 모델을 향하여"라는 제목의 획기적인 논문을 공동 저술했으며, 이 논문은 적대적 교란에 더 강한 신경망을 훈련하는 프레임워크를 도입했다. 이 논문은 작은 교란 예산 내에서 최악의 예제에 대해 모델을 훈련하는 min-max 최적화 접근 방식을 제안했다. 이 방법은 종종 적대적 훈련이라고 불리며, 강건성 연구의 표준 기준이 되었다.
이 논문은 또한 적대적 예제의 본질에 대한 이론적 통찰을 제공하여, 그것이 단순히 고차원 공간의 특이성일 뿐만 아니라 많은 모델의 선형적 특성에 내재적임을 보여주었다. 이 작업은 수천 번 인용되었으며, 인증된 강건성 및 강건한 최적화와 같은 후속 연구에 영향을 미쳤다. Madry의 발견은 자율 주행 및 사기 탐지와 같은 보안에 민감한 응용 분야에서 AI를 배포하는 데 실질적인 의미를 가진다.
AI 안전 및 해석 가능성에 대한 기여
적대적 강건성 외에도, Madry는 기계 학습의 해석 가능성과 투명성 연구에 기여했다. 그의 연구는 특히 트랜스포머 모델의 맥락에서 신경망의 내부 표현을 이해하는 방법을 탐구했다. 그는 모델이 예측을 할 때 의존하는 특징이나 패턴을 식별하는 기술을 조사했으며, 이는 디버깅과 신뢰성 보장에 중요하다.
2022년, Madry는 "야생에서의 해석 가능성"이라는 논문을 공동 저술하여 대규모 언어 모델에서 인간이 이해할 수 있는 개념을 추출하는 방법을 조사했다. 이 작업은 딥 네트워크의 불투명한 행동과 AI 시스템의 책임성 필요성 사이의 격차를 메우는 것을 목표로 했다. 그의 접근 방식은 경험적 분석과 이론적 근거를 결합하여, 엄격한 컴퓨터 과학 배경을 반영했다.
OpenAI에서의 역할
2023년, Madry는 MIT에서 휴직하고 OpenAI에 준비 책임자로 합류했다. 이 역할에서 그는 최첨단 AI 모델과 관련된 위험을 평가하고 완화하는 데 전념하는 팀을 이끌고 있다. 준비 팀은 사이버 공격을 위한 AI의 오용, 잘못된 정보의 확산, 또는 인간의 이익에 반하는 행동을 할 수 있는 자율 시스템의 개발과 같은 잠재적 위험을 식별하는 데 초점을 둔다.
Madry의 OpenAI에서의 작업은 생성형 AI 시스템, 특히 GPT-4와 같은 대규모 언어 모델을 위한 스트레스 테스트와 안전 프로토콜 설계를 포함한다. 그는 안전 조치가 사후에 적용되는 것이 아니라 개발 과정에 통합되어야 한다고 주장하며, 사전 예방적 위험 평가의 중요성을 강조했다. 그의 리더십은 책임 있는 AI 배포 원칙에 맞추려는 OpenAI의 광범위한 노력의 일부였다.
수상 및 인정
Madry는 그의 연구로 여러 영예를 받았다. 2019년, 그는 뛰어난 가능성을 보여주는 초기 경력 과학자에게 주어지는 Sloan Research Fellow로 선정되었다. 그는 또한 국제 학습 표현 회의(ICLR)와 신경 정보 처리 시스템 회의(NeurIPS)를 포함한 주요 학회에서 최우수 논문상을 받았다. 그의 작업은 국립 과학 재단과 국방 고등 연구 계획국(DARPA)의 보조금으로 자금을 지원받았다.
학문적 영예 외에도, Madry는 AI 시스템 보안의 과제를 논의하는 수많은 산업 및 정책 행사에 초청 연사로 나섰다. 그는 또한 최고 수준의 기계 학습 학회 프로그램 위원회에서 활동했으며, 학계와 산업계에서 경력을 쌓은 많은 학생들을 멘토링했다.
영향 및 영향력
Madry의 연구는 인공지능 분야에 광범위한 영향을 미쳤다. 그의 적대적 훈련 방법은 학술 연구와 산업 실무 모두에서 널리 사용되며, 특히 보안이 중요한 영역에서 그렇다. 그의 이론적 분석은 현재 모델의 한계를 명확히 하는 데 도움이 되었으며, 강건한 최적화에 대한 새로운 연구 방향을 고무했다.
그의 OpenAI로의 이동은 또한 AI 안전에 관한 정책 논쟁에서 그를 핵심 인물로 만들었다. 그는 이 분야가 더 엄격한 평가 기준을 필요로 한다고 주장했으며, 학계, 산업, 정부 간의 협력을 옹호했다. 그의 관점은 연구자와 실무자로서의 이중 경험에 의형성되며, 신할 수 있는 AI 구축의 과제에 대한 독특한 시각을 제공한다.
선정 출판물
Madry는 50편 이상의 동료 검토 논문을 저술 또는 공동 저술했다. 그가 가장 많히 인용된 작품 중 일부는 다음과 같다:
- "적대적 공격에 강한 딥러닝 모델을 향하여" (2018, Aleksandar Makelov, Ludwig Schmidt, Dimitris Tsipras, Adrian Vladu와 공동)
- "딥 신경망을 위한 그라디언트 기반 속성 방법의 통일된 관점" (2017, Marco Tulio Ribeiro와 공동)
- "야생에서의 해석 가능성: GPT-2에서 간접 객체 식별을 위한 회로" (2022, Kevin Wang과 공동)
이러한 출판물은 강건성, 해석 가능성, 딥러닝의 이론적 기초에 대한 그의 관심을 반영한다.
개인 생애 및 공공 참여
Madry는 협력적이고 개방적인 연구 접근 방식으로 알려져 있다. 그는 활발한 학문적 존재감을 유지하며, 복잡한 주제를 더 널은 청중에게 설명하는 강연과 블로그 게시물을 발표한다. 그는 또한 AI의 윤리적 함의에 대한 공공 논의에 참여하며, 투명성과 책임성의 필요성을 강조했다.
그는 MIT에서 교수직을 계속 유지하고 있지만, 현재 그의 주된 초점은 OpenAI에서의 작업에 있다. 그의 경력은 학문 연구와 산업 AI 개발 사이의 성장하는 연계성을 예시하며, 그는 두 커니티 모두에서 존경받는 목소리로 남아 있다.