마크 팅글리는 비영리 글로벌 정책 싱크탱크인 RAND 코퍼레이션의 AI 정책 연구원이다. 그의 연구는 인공지능과 공공 정책의 교차점, 특히 위험 평가, 거버넌스 프레임워크, 신흥 기술의 사회적 영향에 초점을 맞추고 있다. 팅글리는 성장하는 AI 거버넌스 문헌에 기여해 왔으며, 종종 정부와 조직이 AI 시스템을 책임감 있게 개발하고 배포할 수 있는 방법을 검토한다.
팅글리의 연구는 머신러닝 및 관련 분야가 제기하는 단기적 운영 과제와 장기적 전략 질문을 모두 다룬다. 그는 생성형 AI의 잠재적 위험을 분석하는 프로젝트에 참여해 왔으며, 안전, 윤리, 규제 문제를 포함한다. 그의 간행물은 일반적으로 기술적 및 사회과학적 관점을 활용한 증거 기반 분석으로 정책 입안자에게 정보를 제공하는 것을 목표로 한다.
초기 생애 및 교육
마크 팅글리는 기술과 정책 관련 분야에서 학문적 훈련을 받았다. 그의 초기 교육에 대한 구체적인 세부 사항은 널리 공개되지 않았지만, 이후의 연구는 컴퓨터 과학과 공공 정책에 대한 강력한 기반을 나타낸다. 그는 MIT 컴퓨터 과학 및 인공지능 연구소 및 스탠포드 AI 연구소와 같은 기관의 전문가들과 협력하며 학제 간 연구 커뮤니티에 참여해 왔다.
RAND 코퍼레이션에서의 경력
RAND 코퍼레이션에서 팅글리는 조직의 기술 및 보안 프로그램 아래 여러 연구 이니셔티브에 기여했다. 그의 프로젝트에는 국가 안보에 대한 AI의 영향, 인력 자동화, 자율 시스템의 윤리적 배포에 대한 평가가 포함되었다. 주목할 만한 한 연구에서 팅글리와 동료들은 AI가 정부 기관의 의사 결정 과정에 어떻게 영향을 미칠 수 있는지 조사하고, 인간의 감독과 알고리즘 책임성을 위한 프레임워크를 제안했다.
팅글리는 또한 기술 발전을 정책 옵션과 종합하는 보고서를 저술하거나 공동 저술했다. 예를 들어, 그의 연구는 대규모 언어 모델이 정보 생태계에서 차지하는 역할, 오용 가능성, 완화 전략의 효과를 논의했다. 그는 AI 연구자와 정책 입안자 간의 격차를 해소하는 워크숍과 자문 패널에 자주 참여한다.
AI 거버넌스에 대한 연구 기여
팅글리 연구의 핵심 주제는 신경망 및 딥러닝 시스템의 거버넌스이다. 그는 빠른 기술 변화에 보조를 맞출 수 있는 적응형 규제 프레임워크의 필요성을 강조하며 사전 예방적 위험 관리를 주장해 왔다. 그의 저술은 모델 행동 예측의 어려움과 복잡한 시스템 감사 과제와 같은 AI 개발의 불확실성을 자주 강조한다.
팅글리는 투명성 요구 사항, 영향 평가, 테스트 및 평가 기준을 포함한 특정 거버넌스 메커니즘을 탐구했다. 그는 정책 맥락에서 RLHF 및 그래디언트 클리핑과 같은 기술적 개념을 언급하며, 기술적 안전장치가 거버넌스 목표와 어떻게 관련되는지 설명했다. 그의 분석은 OpenAI, Anthropic, Google DeepMind와 같은 주요 AI 개발자들이 산업 규범을 형성하는 역할을 자주 인정한다.
간행물 및 영향
마크 팅글리의 간행물은 RAND 연구 보고서, 정책 브리핑, 동료 검토 학술지에 게재된다. 일부 업계 인사들만큼 공개적으로 두드러지지는 않지만, 그의 연구는 학술 문헌과 정책 논의에서 인용되어 왔다. 그는 사이버 공격에서 허위 정보에 이르는 위협을 분류하는 AI 시스템의 위험 분류 체계를 제안하는 기사를 공동 저술했다. 이러한 기여는 AI 거버넌스 논쟁에서 사용되는 용어를 정의하는 데 도움이 되었다.
팅글리는 트랜스포머 아키텍처의 잠재적 이점과 신중함의 필요성을 모두 인정하는 균형 잡힌 관점으로 알려져 있다. 그의 글쓰기 스타일은 접근성이 뛰어나며, 복잡한 기술 문제를 비전문가가 이해할 수 있도록 만드는 것을 목표로 한다. 이러한 접근성 덕분에 그의 연구는 신뢰할 수 있는 분석을 찾는 교육자, 언론인, 정책 입안자에게 유용하게 사용된다.
현재 초점 및 향후 방향
2024년 현재, 팅글리는 오픈소스 모델의 거버넌스와 AI 안전 노력의 국제적 조정을 포함한 AI 정책의 새로운 과제를 계속 연구하고 있다. 그는 클라우드 제공업체 및 기타 인프라 플레이어가 책임성 프레임워크에 통합될 수 있는 방법에 특히 관심이 있다. 그의 향후 연구는 초기 연구를 바탕으로 점점 더 자율적인 AI 에이전트의 사회적 영향을 다룰 것으로 예상된다.
팅글리는 RAND 연구 직원으로 남아 있으며, 정부 및 자선 기관의 자금을 지원받는 다년간 프로젝트에 기여하고 있다. 다른 정책 분석가 및 기술 전문가와의 지속적인 협력은 향후 몇 년 동안 AI 거버넌스의 진화에 영향을 미칠 수 있는 위치에 있다.