Raul Castro는 IBM Research의 연구원으로, 인공지능, 정책, 윤리의 교차점에 초점을 맞춘 연구를 수행하고 있다. 그의 기여는 투명성, 책임성, 공정성을 강조하는 책임 있는 AI 배포를 위한 프레임워크 개발에 중점을 두고 있다. Castro의 연구는 IBM 내부 지침에 영향을 미쳤으며, AI 거버넌스에 대한 더 넓은 산업 논의에 기여했다.
Castro의 IBM에서의 경력은 10년 이상이며, 그 기간 동안 신흥 기술의 사회적 영향에 대처하기 위해 학제 간 팀과 협력해 왔다. 그의 연구는 딥러닝 및 대규모 언어 모델의 발전을 포함한 AI의 급속한 진보라는 더 큰 맥락 속에 있으며, 기술적 구현과 규제 및 윤리적 고려 사항을 연결하는 것을 목표로 한다.
초기 경력 및 교육
Castro는 인간 중심 컴퓨팅과 기술 정책을 전공한 컴퓨터 과학 대학원 과정을 마친 후 2010년대 초반에 IBM에 합류했다. IBM에서의 초기 연구는 특히 의료 및 금융과 같은 고위험 영역에서 알고리즘 의사 결정 프로세스를 감사하는 것이었다. 이 기초 작업은 2016년경 설립된 IBM 내부 AI 윤리 위원회에 참여하게 했으며, 책임 있는 AI 사용을 위한 초기 원칙 초안 작성에 도움을 주었다.
2018년, Castro는 지도 학습 시스템의 편향 완화에 대한 널리 인용된 기술 보고서를 발표했으며, 인구 통계 그룹 간의 상이한 영향을 감지하는 새로운 방법을 제안했다. 이 보고서는 엔터프라이즈 고객을 위한 머신 러닝 도구를 포함한 여러 IBM 제품 팀의 참조 자료로 채택되었다.
AI 정책 프레임워크에 대한 기여
Castro의 가장 중요한 기여는 윤리적 원칙을 운영 관행으로 전환하는 정책 프레임워크 개발에 있다. 2019년, 그는 잠재적 피해를 기술적, 사회적, 법적 차원으로 분류하는 AI 위험 평가 지침 세트를 공동 저술했다. 이 지침은 나중에 2018년에 출시된 오픈 소스 라이브러리인 IBM의 AI Fairness 360 툴킷에 통합되었으며, 공정성 테스트를 위한 지표와 알고리즘을 제공한다.
2020년, Castro는 콘텐츠 출처 및 오용과 같은 문제를 다루는 생성형 AI 시스템 거버넌스에 대한 백서를 작성한 작업 그룹을 이끌었다. 이 백서는 개발자, 배포자, 감사자가 시스템 출력에 대한 책임을 공유하는 계층적 책임 모델을 제안했다. 이 프레임워크는 2021년 IEEE 국제 데이터 과학 및 고급 분석 컨퍼런스에서 발표되었다.
후기 작업 및 산업 영향
2021년부터 2023년까지 Castro는 규제 환경에 초점을 전환하여 유럽 연합과 미국의 제안된 법안을 분석했다. 그는 2021년 EU AI 법안 협의 과정에 의견을 제출한 IBM의 공공 정책 팀에 기술적 입력을 제공했다. 그의 분석은 신경망 시스템에서 투명성과 인간 감독 요구 사항을 구현하는 데 있어 실질적인 과제를 강조했다.
Castro는 또한 모든 배포된 AI 모델에 대한 훈련 데이터, 성능 지표, 알려진 한계에 대한 상세 보고를 요구하는 IBM 내부 모델 문서화 표준 개발에 기여했다. 2022년에 IBM의 클라우드 및 엔터프라이즈 부서 전반에 걸쳐 시행된 이 이니셔티브는 감사 가능성과 사용자 신뢰를 개선한 것으로 평가받고 있다.
2023년, 그는 스탠포드 AI 연구소 관련 컨퍼런스에서 AI 안전에 관한 워크숍을 공동 조직하여 학계와 산업계 연구자들이 대규모 언어 모델의 평가 벤치마크를 논의하도록 모았다. 워크숍의 회의록은 동료 검토 저널에 게재되었으며, 여러 권장 사항은 나중에 IBM의 내부 테스트 프로토콜에 통합되었다.
주요 출판물 및 인정
Castro는 20편 이상의 동료 검토 논문과 기술 보고서를 저술하거나 공동 저술했다. 주목할 만한 작품으로는 "알고리즘 공정성 실용 가이드"(2019), "생성형 AI 시스템의 책임성"(2021), "모델 카드의 투명성 측정"(2022)이 있다. 생성형 AI 거버넌스에 관한 그의 2021년 논문은 국제 AI 윤리 심포지엄에서 최우수 논문상을 수상했다.
2022년, Castro는 IBM AI 윤리 위원회에 임명되어 공공 부문 애플리케이션에서 트랜스포머 기반 모델 배포와 같은 신흥 문제에 대해 계속 조언하고 있다. 그는 또한 Journal of Artificial Intelligence Research 및 AI & Society를 포함한 여러 학술 저널의 리뷰어로 활동했다.
유산 및 현재 초점
Castro의 작업은 추상적 원칙보다 실행 가능한 솔루션을 강조하는 실용적 접근 방식으로 인정받고 있다. 그의 프레임워크는 MIT CSAIL 및 카네기 멜론 대학교와 같은 기관의 대학원 과정에서 교육 자료로 사용되었지만, 공식적인 학술 임용은 없었다. 2024년 현재, Castro는 대규모 AI 훈련의 환경 영향과 리소스 소비를 줄이는 데 있어 데이터 증강의 역할을 조사하는 프로젝트에 참여하고 있다.
그의 지속적인 연구는 AI 신뢰성에 관한 ISO/IEC 작업 그룹 참여를 포함하여 글로벌 AI 표준에 대한 IBM의 기여를 계속 형성하고 있다. Castro는 효과적인 AI 거버넌스가 기술자, 윤리학자, 정책 입안자의 입력을 요구한다고 주장하며 학제 간 협력의 목소리를 내고 있다.