Common Sense AI는 일상적인 상식을 이해하고 적용할 수 있는 인공지능 시스템을 발전시키는 데 전념하는 조직이다. 이 이니셔티브는 기계가 인간이 쉽게 사용하는 암묵적 지식 - 예를 들어 물이 젖어 있다는 것, 물체를 떨어뜨리면 떨어진다는 것, 사람들이 일반적으로 먹고 자야 한다는 것 - 을 파악할 수 있게 하는 분야의 근본적인 과제에 초점을 맞춘다. 이 작업은 인공지능과 인지과학의 교차점에 있으며, 전문 분야에서 뛰어난 능력을 보임에도 불구하고 기본적인 추론 작업에서 종종 실패하는 현재 모델의 한계를 해결한다.
이 조직의 사명은 대부분의 현대 AI 시스템, 특히 대규모 언어 모델이 패턴 인식에 뛰어나지만 인간이 유아기 경험을 통해 습득하는 직관적 물리학과 사회적 추론에는 어려움을 겪는다는 인식에서 비롯된다. Common Sense AI는 상식에 초점을 맞춤으로써 예상치 못한 상황과 모호한 맥락이 일반적인 실제 환경에서 안전하고 효과적으로 작동할 수 있는 더 견고하고 적응력 있는 시스템을 만드는 것을 목표로 한다.
연구 접근 방식
Common Sense AI는 기계 학습, 인지 심리학, 언어학의 통찰을 결합한 다학제적 전략을 사용한다. 연구 팀은 좁고 잘 정의된 작업에서의 성과를 측정하는 전통적인 지표를 넘어서 상식 추론을 테스트하도록 특별히 설계된 벤치마크와 평가 프레임워크를 개발한다. 이러한 벤치마크에는 종종 인과 관계, 공간 관계, 사회적 관습에 대한 이해를 요구하는 시나리오가 포함된다.
이 조직은 또한 기존 AI 아키텍처에 상식 지식을 통합하는 방법을 조사한다. 여기에는 신경망을 구조화된 지식 베이스로 보강하는 방법을 탐구하고 모델이 반사실적 상황에 대해 추론하도록 장려하는 훈련 절차를 개발하는 것이 포함된다. Common Sense AI의 연구자들은 다른 AI 분야에서 사용되는 커리큘럼 학습과 유사한 기법을 활용하여 점차 복잡한 상식 시나리오를 도입하는 커리큘럼 학습 접근 방식에 대한 연구를 발표했다.
주요 프로젝트 및 제품
이 조직의 대표 프로젝트 중 하나는 다양한 AI 애플리케이션에 통합될 수 있는 상식 추론 엔진이다. 이 엔진은 물리적 및 사회적 상황에 대한 실시간 추론을 제공하여 다른 시스템이 더 정보에 입각한 결정을 내릴 수 있도록 설계되었다. 예를 들어, 이 엔진을 사용하는 로봇은 테이블 가장자리에 놓인 컵이 떨어질 가능성이 있다거나 우산을 든 사람이 비가 올 것이라고 예상하고 있다는 것을 추론할 수 있다.
Common Sense AI는 또한 연구 커뮤니티에서 널리 사용되는 일련의 오픈소스 데이터셋을 개발했다. 이러한 데이터셋에는 시간적 추론에서 감정 상태 이해에 이르기까지 상식의 다양한 측면을 테스트하는 수천 개의 주석이 달린 시나리오가 포함되어 있다. 이 데이터셋은 수많은 학술 논문에서 인용되었으며 주요 AI 연구 기관의 평가 방법 개발에 영향을 미쳤다.
협력 및 파트너십
이 조직은 여러 학술 및 산업 파트너와 활발한 협력을 유지하고 있다. MIT CSAIL과 스탠포드 AI 연구소의 연구자들은 기계의 상식에 대한 이론적 기초를 탐구하는 공동 프로젝트에서 Common Sense AI와 협력했다. 이러한 파트너십은 주요 AI 학회 및 저널에서 여러 동료 검토 출판물로 이어졌다.
Common Sense AI는 또한 산업 파트너와 협력하여 연구를 실용적인 문제에 적용한다. 삼성 리서치와의 주목할 만한 협력은 모바일 어시스턴트의 상식 능력을 개선하여 모호한 상황에서 사용자 의도를 더 잘 이해할 수 있게 하는 데 초점을 맞췄다. 아마존 AI와의 또 다른 프로젝트는 상식 추론이 사용자 요구의 더 넓은 맥락을 이해함으로써 추천 시스템을 향상시킬 수 있는 방법을 탐구했다.
영향 및 향후 방향
Common Sense AI의 작업은 상식이 진정으로 지능적인 시스템의 핵심 구성 요소라는 AI 커뮤니티 내의 인식 성장에 기여했다. 이 조직의 벤치마크는 OpenAI 및 구글 딥마인드와 같은 기업의 연구자들이 평가 제품군의 일부로 채택하여 이 분야의 발전을 촉진하는 데 도움을 주었다.
앞으로 Common Sense AI는 상식이 세계와의 물리적 상호작용에 기반해야 하는 구현 지능과 같은 영역으로 연구를 확장할 계획이다. 이 조직은 또한 상식이 생성형 AI 시스템의 안전성과 신뢰성을 향상시킬 수 있는 방법, 특히 의료 및 자율 주행과 같은 고위험 응용 분야에서 탐구하고 있다. 2024년 현재, 이 조직은 연구자와 엔지니어 팀을 계속 확장하고 있으며, 연구 결과를 다양한 AI 애플리케이션에 혜택을 줄 수 있는 배포 가능한 기술로 전환하는 지속적인 노력을 기울이고 있다.
리더십 및 팀
이 조직은 인지과학과 AI 배경을 가진 연구자 그룹에 의해 설립되었으며, 인간과 유사한 학습과 추론에 더 깊은 초점을 두어야 한다고 오랫동안 주장해 온 조슈아 테넨바움과 브렌던 레이크와 같은 주목할 만한 인물이 포함된다. 팀에는 딥러닝, 자연어 처리, 로봇 공학 전문가가 포함되어 있으며, 이는 상식 과제의 학제적 성격을 반영한다. Common Sense AI는 빠른 반복과 학문 간 아이디어의 개방적 교환을 장려하는 평평한 조직 구조를 유지한다.