로만 얌폴스키는 켄터키주 루이빌 대학교의 컴퓨터 과학자이자 교수로, 사이버 보안 연구소를 이끌고 있다. 그는 고급 AI 시스템의 잠재적 위험과 윤리적 함의에 초점을 맞춘 인공지능 안전 분야에 대한 기여로 널리 인정받고 있다. 그의 연구는 사이버 보안, 행동 생체 인식, 그리고 AI 행동 검증을 위한 공식적 방법 개발을 아우른다.
얌폴스키의 연구는 AI의 장기적 안전에 대한 논의를 형성하는 데 영향력을 발휘해 왔으며, 특히 통제 문제 - 초지능 기계가 인간의 가치와 일치하도록 보장하는 방법 - 에 관한 논의에 기여했다. 그는 인공지능 안전과 보안을 포함한 수많은 논문과 저서를 저술했으며, 학술 회의와 공개 포럼에서 선제적 안전 조치의 시급한 필요성에 대해 자주 강연한다.
초기 생애와 교육
얌폴스키는 소련에서 태어나 후에 미국으로 이주했다. 그는 2003년 루이빌 대학교에서 컴퓨터 과학 학사 학위를, 2004년 같은 기관에서 컴퓨터 과학 석사 학위를 취득했다. 2008년 루이빌 대학교에서 행동 생체 인식과 보안에 초점을 맞춘 논문으로 컴퓨터 과학 및 공학 박사 학위를 완료했다.
대학원 과정 동안 얌폴스키는 사이버 보안과 AI의 교차점에 초기 관심을 발전시켰으며, 이는 이후 그의 학문적 경력의 초석이 되었다. 그는 또한 패턴 인식과 이상 탐지 관련 프로젝트에서 연구 조교로 일했다.
학문적 경력
박사 학위를 마친 후, 얌폴스키는 2008년 루이빌 대학교의 조교수로 교수진에 합류했다. 그는 2014년 부교수로, 2020년 정교수로 승진했다. 교수 업무 외에도 그는 사이버 보안 연구소를 설립하고 이끌며, 대학원생을 지도하고 AI 안전, 적대적 머신 러닝, 안전한 소프트웨어 설계에 관한 연구를 수행하고 있다.
얌폴스키는 200개 이상의 동료 검토 논문을 발표했으며, AI와 보안에 관한 수많은 국제 회의의 프로그램 위원회에서 활동했다. 그는 또한 인공지능 연구 저널과 IEEE 정보 포렌식 및 보안 거래와 같은 저널의 빈번한 검토자로 활동하고 있다.
AI 안전 연구
얌폴스키는 고급 AI와 관련된 실존적 위험에 대한 연구로 가장 잘 알려져 있다. 그는 초지능 시스템의 개발이 근본적인 통제 문제를 제기한다고 주장해 왔으며, 인간 지능을 능가하는 AI를 완전히 제약하는 것이 불가능할 수 있다고 말한다. 2015년 논문 "특이점과 기계 윤리"에서 그는 AI 안전이 소프트웨어 검증과 유사한 공식적 수학 문제로 취급되어야 한다고 제안했다.
그는 또한 "AI 박싱" - AI 시스템을 제한된 환경에 가두어 해를 끼치지 못하게 하는 개념 - 을 탐구했다. 그러나 얌폴스키는 그러한 격리의 실현 가능성에 대해 회의적인 입장을 표명하며, 충분히 지능적인 시스템이 탈출 방법을 찾을 수 있다고 시사했다. 그의 2018년 저서 인공지능 안전과 보안은 주요 연구자들의 기여를 모아 미래 안전 연구를 위한 로드맵을 제시한다.
사이버 보안과 행동 생체 인식
AI 안전 외에도 얌폴스키는 사이버 보안, 특히 행동 생체 인식 분야에서 상당한 기여를 했다. 그의 초기 연구는 키 입력 역학과 마우스 움직임 패턴을 사용하여 사용자를 인증하는 것이었으며, 이는 사기 탐지와 접근 통제에 응용된다. 그는 또한 머신 러닝 모델에 대한 적대적 공격을 연구하여 작은 섭동이 신경망을 속여 잘못된 예측을 하게 할 수 있음을 입증했다.
그의 사이버 보안 연구는 국립 과학 재단과 국방부의 보조금으로 자금을 지원받았으며, 그는 산업 파트너와 안전한 인증 시스템에 대해 협력해 왔다.
공공 참여와 영향력
얌폴스키는 활발한 공공 지식인으로, AI 위험을 논의하기 위해 미디어와 팟캐스트에 자주 출연한다. 그는 정부 기관에 증언했으며 OpenAI 및 Google DeepMind 안전 팀과 같은 조직이 주최한 워크숍에 참여했다. 그의 견해는 때때로 논란을 불러일으켰는데, 그는 상당한 안전 조치가 곧 시행되지 않으면 AI 재앙의 확률이 높다고 주장해 왔다.
그는 일반 청중에게 복잡한 AI 개념을 설명하는 인기 블로그와 유튜브 채널을 운영하고 있다. 그는 또한 MIT CSAIL 및 Stanford AI Lab과 같은 기관의 연구자들을 모아 AI 안전에 관한 학술 워크숍을 조직했다.
주요 저작
- 인공지능 안전과 보안 (2018)
- "특이점과 기계 윤리" (2015)
- "AI 정렬의 불가능성에 관하여" (2020)
- "딥 러닝의 적대적 예제" (2019)
수상 및 인정
얌폴스키는 2019년 루이빌 대학교의 우수 교수상을 포함하여 연구에 대한 여러 상을 받았다. 그는 다양한 학술 순위에서 최고 AI 안전 연구자 중 한 명으로 선정되었으며, 옥스퍼드 대학교와 카네기 멜론 대학교에서 강연하도록 초청받았다.
개인 생활
얌폴스키는 가족과 함께 켄터키주 루이빌에 거주하고 있다. 그는 열렬한 체스 플레이어이며 지역 토너먼트에 참가해 왔다. 그는 또한 마음의 철학에 관심이 있으며 종종 철학적 질문을 AI 연구에 통합한다.
참고 문헌
- Yampolskiy, R. (2018). 인공지능 안전과 보안. CRC Press.
- Yampolskiy, R. (2015). "특이점과 기계 윤리." 의식 연구 저널.
- 루이빌 대학교 교수 프로필.