Shmuel Ur는 이스라엘의 컴퓨터 과학자이자 인공지능 연구자로, 머신러닝 시스템의 테스팅 및 검증에 대한 연구로 잘 알려져 있다. 그의 경력은 IBM Research에서의 중요한 기여와 학계 기관들과의 협력을 포함하며, AI 애플리케이션의 신뢰성과 안전성을 보장하는 데 초점을 맞추고 있다.
.
Ur의 초기 연구는 소프트웨어 테스팅과 정형 검증에 중점을 두었으며, IBM 재직 기간 동안 이 분야에서 폭넓게 논문을 발표했다. 그는 이후 머신러닝이 제기하는 도전 과제, 특히 신경망 및 기타 AI 모델을 위한 견고한 테스트 방법론의 필요성에 주목하게 되었다. 그의 연구는 전통적인 소프트웨어 테스팅과 학습된 시스템의 고유한 특성(비결정성 및 입력 섭동에 대한 민감성 등) 사이의 간극을 해소한다.
.
초기 경력 및 IBM Research
Ur는 1990년대에 IBM Research에 합류하여 하드웨어 및 소프트웨어 검증 작업을 수행했다. 이스라엘의 IBM 하이파 연구소에서 그는 복잡한 시스템을 위한 모델 체킹 및 테스트 생성 프로젝트에 기여했다. 이 기간 동안의 그의 작업은 이후 AI 검증에 대한 관심의 기초를 마련했으며, 정형 기법을 점점 더 정교해지는 소프트웨어 시스템에 적용했다.
AI 검증으로의 전환
2010년대 중반까지 Ur는 머신러닝 및 딥러닝 시스템으로 관심을 돌렸다. 그는 전통적인 테스팅 기법이 종종 블랙박스로 작동하는 신경망 모델의 동작을 검증하기에는 불충분하다는 점을 인식했다. 그의 연구는 AI 시스템의 취약점을 노출하는 테스트 케이스를 체계적으로 생성하는 방법을 제안했으며, 오분류를 유발하는 적대적 예제를 포함한다. 이 작업은 중요한 애플리케이션에 사용되는 모델의 견고성을 보장하려는 AI 커뮤니티의 광범위한 노력과 일치한다.
학계 및 산업 협력
Ur는 테크니온 - 이스라엘 공과대학교 및 텔아비브 대학교와 같은 기관의 연구자들과 방문 직위 및 협력을 유지해 왔다. 그는 또한 삼성 리서치 및 인텔을 포함한 산업 파트너와 AI 안전 관련 프로젝트에서 협력했다. 그의 컨설팅 활동은 AI 제품을 위한 검증 프레임워크 개발에 초점을 맞추었지만, 이러한 협력의 구체적인 세부 사항은 공개적으로 문서화되지 않았다.
주요 논문 및 기여
Ur는 50편 이상의 동료 심사 논문을 저술하거나 공동 저술했으며, 그중 다수는 국제 소프트웨어 공학 컨퍼런스 및 IEEE 소프트웨어 공학 트랜잭션과 같은 학술지에 게재되었다. 주목할 만한 연구로는 신경망을 위한 커버리지 기준 및 AI 모델의 편향 탐지 방법에 대한 연구가 있다. 그의 논문은 AI 테스팅을 연구하는 연구자들에 의해 자주 인용되며, 이는 이 틈새 분야에서 그의 영향력을 나타낸다.
후기 연구 및 현재 초점
최근 몇 년 동안 Ur는 AI와 정형 검증의 교차점을 탐구하며, 배포 전에 AI 시스템을 검증하는 보다 엄격한 접근 방식을 옹호해 왔다. 그는 컨퍼런스에서 신뢰할 수 없는 AI의 윤리적 함의에 대해 연설했으며, 투명성과 책임성의 필요성을 강조했다. 2025년 현재, 그는 독립 연구 및 자문 역할을 통해 이 분야에 계속 기여하고 있다.
유산 및 영향
Ur의 연구는 테스팅 및 검증을 인공지능 연구 내 중요한 하위 분야로 확립하는 데 기여했다. 그는 고전적인 검증 기법을 머신러닝의 도전 과제에 적용함으로써 학계 연구와 산업 관행 모두에 영향을 미쳤다. 그의 노력은 AI 시스템이 강력할 뿐만 아니라 신뢰할 수 있도록 보장하려는 더 광범위한 운동의 일부이다.
참고 문헌
이 기사는 Ur의 논문 실적 및 컨퍼런스 발표를 포함한 공개적으로 이용 가능한 정보를 기반으로 한다. 특정 날짜와 소속은 그의 전문 경력에서 가져온 것이지만, 공개 출처가 제한적이어서 일부 세부 사항은 검증되지 않은 상태로 남아 있다.