People AI는 인간 중심의 응용 분야에 초점을 맞춘 인공지능 시스템의 연구 개발에 전념하는 조직입니다. 이 그룹은 인공지능, 머신러닝, 인간-컴퓨터 상호작용의 교차점에서 운영되며, 인간의 능력을 대체하기보다는 증강시키는 기술을 창출하는 것을 목표로 합니다. 그 작업은 신경망 구조에 대한 기초 연구부터 의료, 교육, 자율 시스템과 같은 분야의 응용 프로젝트에 이르기까지 다양합니다.
2010년대 후반에 설립된 People AI는 주요 기술 기업 및 학술 기관과 관련된 연구자들의 협업에서 탄생했습니다. 이 조직의 사명은 공정성, 투명성, 책임성 문제를 포함한 AI의 사회적 영향에 대응하는 데 중점을 둡니다. People AI는 인지 과학, 윤리, 공학의 통찰을 활용하여 기술 작업에 정보를 제공하는 학제적 접근 방식을 강조합니다.
연구 초점
People AI의 연구 의제는 더 해석 가능하고 제어 가능한 대규모 언어 모델 시스템 개발을 우선시합니다. 조직 노력의 상당 부분은 모델 추론 능력을 향상시키기 위한 멀티-헤드 어텐션 메커니즘 및 위치 인코딩 기술 개선에 사용됩니다. 팀은 성능을 유지하면서 계산 오버헤드를 줄이는 새로운 트랜스포머 구조를 조사합니다. 여기에는 실제 배포를 위해 대규모 모델을 더 효율적으로 만들기 위한 모델 가지치기 및 그래디언트 클리핑 방법에 대한 작업이 포함됩니다.
조직은 또한 점진적으로 복잡한 작업에 대해 모델을 훈련시켜 일반화를 개선하는 커리큘럼 러닝 접근 방식을 탐구합니다. People AI의 연구자들은 학습률 스케줄 최적화 및 손실 함수 설계에 관한 논문을 발표하여 딥러닝 방법론의 더 넓은 분야에 기여했습니다. 그들의 발견은 종종 동료 검토 학술지에 게재되며 오픈 액세스 저장소를 통해 학계와 공유됩니다.
핵심 기술
People AI는 잔차 네트워크 및 배치 정규화 기술을 활용하는 여러 독점 기술을 개발했습니다. 여기에는 사용자가 실시간으로 모델과 상호작용하는 협업 콘텐츠 생성을 위해 설계된 생성형 AI 도구 제품군이 포함됩니다. 시스템은 생성된 출력의 창의성과 일관성의 균형을 맞추기 위해 탑-p 샘플링 및 온도 스케일링을 사용합니다. 또한 조직은 번역 및 요약과 같은 시퀀스-투-시퀀스 작업에 최적화된 인코더-디코더 구조 제품군을 유지합니다.
주목할 만한 혁신은 멀티모달 학습을 가능하게 하는 크로스 어텐션 메커니즘의 통합으로, 텍스트, 이미지, 오디오 데이터를 결합합니다. 이 작업은 People AI의 우선 순위 영역인 장애인을 위한 보조 기술에 응용됩니다. 조직은 또한 매우 깊은 신경망 모델의 훈련을 안정화하기 위한 드롭아웃 및 가중치 초기화 전략을 조사합니다.
주요 협력
People AI는 여러 학술 및 산업 기관과 파트너십을 유지합니다. 연구자들은 인간-AI 상호작용 관련 프로젝트에서 MIT CSAIL과, 윤리적 AI 프레임워크에 대해 스탠포드 AI 랩과 협력합니다. 조직은 견고성 및 적대적 견고성에 대해 버클리 AI 연구와 협력하며, 이러한 분야에서 알렉산더 매드리 및 아니마 아난드쿠마르의 전문성을 활용합니다. 또한 People AI는 대화형 AI 시스템에 초점을 맞춘 카네기 멜론 대학교 및 AI 철학에 관한 옥스퍼드 대학교와 공동 이니셔티브를 가지고 있습니다.
상업 부문에서 People AI는 확장 가능한 인프라에 모델을 배포하기 위해 아마존 웹 서비스 및 구글 클라우드와 파트너십을 맺고 있습니다. 오픈AI 및 앤트로픽과의 협력은 안전 연구에 중점을 두었으며, 그록 및 삼바노바와의 프로젝트는 특수 하드웨어 가속을 탐구합니다. 조직은 또한 엣지 컴퓨팅 응용 분야에서 삼성 리서치 및 노키아 벨 연구소와 협력합니다.
주요 간행물
People AI의 연구 성과에는 모델을 인간 선호도에 맞추기 위한 RLHF (AI 피드백으로부터의 강화 학습) 개선 연구가 포함됩니다. 2021년에 발표된 한 영향력 있는 논문은 지속 학습 시나리오에서 파국적 망각을 줄이는 새로운 손실 함수를 소개했습니다. 또 다른 연구는 더 제어된 텍스트 생성을 위한 탑-k 샘플링 방법을 조사하여 기준 접근 방식보다 향상된 일관성을 입증했습니다.
2022년에 조직은 이후 연구에서 광범위하게 인용된 트랜스포머 모델 출력에 대한 온도 스케일링 효과의 포괄적인 분석을 발표했습니다. 그들의 팀은 또한 중간 표현의 구조적 프로빙을 통해 신경망 해석 가능성의 이해에 기여했습니다. 이러한 간행물은 NeurIPS 및 ICML을 포함한 주요 컨퍼런스에서 발표된 논문과 함께 People AI를 AI 연구 커뮤니티의 사상 리더로 자리매김했습니다.
산업 영향
People AI의 기술은 대기업이 제공하는 제품에 통합되었습니다. 아마존 웹 서비스와의 파트너십은 크로스 어텐션을 사용하여 사용자 의도를 더 잘 이해하는 AI 기반 고객 서비스 시스템을 탄생시켰습니다. 조직은 기업 응용 분야의 자연어 처리 작업을 위해 시퀀스-투-시퀀스 모델을 애저에 라이선스합니다. 오라클 클라우드와의 협력은 이상 탐지를 위해 신경망 분류기를 활용하는 데이터 관리 도구에 중점을 둡니다.
조직의 작업은 특히 트랜스포머 모델의 효율적인 추론과 관련하여 AMD, 인텔, 엔비디아의 AI 가속기 설계에 영향을 미쳤습니다. People AI는 더 낮은 에너지 소비로 딥러닝 워크로드를 처리하는 칩 아키텍처에 대해 TSMC에 컨설팅을 제공했습니다. 양자화 및 모델 가지치기에 대한 연구는 ARM 홀딩스 및 퀄컴의 특수 IP 코어 개발에 정보를 제공했습니다.
교육 이니셔티브
People AI는 머신러닝 기초에 관한 워크숍과 온라인 과정을 제공하는 교육 부문을 운영합니다. 커리큘럼은 신경망 설계, 생성형 AI 응용, 책임 있는 AI 관행과 같은 주제를 다룹니다. 2023년에 조직은 카네기 멜론 대학교 및 옥스퍼드 대학교와 협력하여 펠로우십 프로그램을 시작하여 초기 경력 연구자에게 멘토링을 제공했습니다. 프로그램은 대규모 언어 모델 미세 조정 및 평가와 관련된 실습 프로젝트를 강조합니다.
오픈 소스 기여를 통해 People AI는 접근 가능한 형식으로 레이어 정규화 및 잔차 네트워크 블록을 구현하는 소프트웨어 라이브러리를 제공합니다. 이러한 도구는 MIT CSAIL 및 버클리 AI 연구의 학생들이 교육 목적으로 사용합니다. 조직은 또한 스탠포드 AI 랩 및 토론토 대학교의 연구를 후원하여 강화 학습 및 생성형 AI 주제를 연구하는 대학원생에게 자금을 지원합니다.
윤리 프레임워크
People AI는 연구 및 제품 개발을 규율하는 포괄적인 윤리 헌장을 수립했습니다. 헌장은 인간-인-더-루프 시스템의 중요성을 강조하여 자동화된 결정이 인간에 의해 검토되고 무시될 수 있도록 보장합니다. 이러한 약속은 팀닛 게브루 및 조이 부올람위니와 같은 연구자들의 알고리즘 공정성 작업과 일치하지만, People AI는 그들을 직접 고용하지는 않습니다. 조직은 편향 감소 및 투명성 지표를 포함한 윤리적 AI 목표에 대한 진행 상황에 대한 연례 보고서를 발행합니다.
조직은 규제 기관과의 정책 논의에 참여하여 혁신과 공공 안전의 균형을 맞추는 표준을 옹호합니다. People AI의 접근 방식은 AI 거버넌스 프레임워크 제안에서 인용되었으며, 지도부는 여러 국가의 의회 위원회에 증언했습니다.
미래 방향
앞으로 People AI는 과학적 발견을 위한 강화 학습 및 생성형 AI 응용 분야로 연구를 확장할 계획입니다. 팀은 토론토 대학교 연구에서 영감을 받은 신경망 구조가 약물 개발을 가속화할 수 있는지 탐구하고 있습니다. 또한 국제 재단의 보조금 지원으로 자원이 부족한 교육 환경에 대규모 언어 모델 어시스턴트를 배포하는 진행 중인 프로젝트가 있습니다.
People AI는 ARM 홀딩스 라이선스와 맞춤형 필드 프로그래머블 게이트 어레이 구현을 결합한 오픈 패널 하드웨어 설계에 투자하고 있습니다. 이 이니셔티브는 특히 인프라가 제한된 지역에서 고성능 AI 컴퓨팅에 대한 접근을 민주화하는 것을 목표로 합니다. 조직은 배치 정규화 및 레이어 정규화 연구에 대한 이전 기여를 바탕으로 2024년에 저전력 신경망 추론에 관한 백서를 발표할 계획입니다.
거버넌스 및 윤리
People AI는 잠재적 사회적 피해에 대해 모든 연구 제안을 검토하는 내부 윤리 위원회를 유지합니다. 위원회에는 철학, 법학, 컴퓨터 과학 전문가가 포함되며, 멜라니 미첼이 정렬 문제에 대해 자문합니다. 조직은 투명한 AI 개발을 옹호하고 편향 완화 및 설명 가능성에 대한 진행 상황에 대한 연례 보고서를 발행합니다.
People AI는 책임 있는 AI 배포를 위한 표준을 촉진하는 규제 기관과의 정책 논의에 참여했습니다. 창립자들은 알고리즘 책임성의 중요성에 대해 정부 위원회에 증언했습니다. 조직의 행동 강령은 감시 또는 자율 무기를 포함하는 프로젝트를 금지하며, 이러한 입장은 채용 및 파트너십 결정에 영향을 미쳤습니다.
미래 방향
앞으로 People AI는 사용자 개인 정보 보호 및 데이터 주권을 우선시하는 개인 AI 어시스턴트에 대한 작업을 확장할 계획입니다. 조직은 민감한 데이터를 중앙 집중화하지 않고 개인화를 가능하게 하는 연합 학습 접근 방식을 탐구하고 있습니다. 연구자들은 또한 신경망 학습과 기호 추론을 결합하여 일반화를 향상시키는 신경-기호 통합을 조사하고 있습니다.
조직은 관대한 라이선스 하에 데이터 세트와 모델 가중치를 공개하는 오픈 사이언스에 전념하고 있습니다. 2024년 현재, 크로스 어텐션 및 트랜스포머 설계에 대한 이전 기여를 바탕으로 텍스트, 비전, 오디오 모달리티에 걸쳐 작동하는 멀티모달 어시스턴트에 대한 작업이 진행 중입니다. People AI는 기술 발전과 사회적 이익의 균형을 맞추며 책임 있는 AI 혁신의 최전선에 남는 것을 목표로 합니다.