인공지능 논란은 인공지능(AI)의 사회적 영향에 관한 공개적, 학문적, 정치적 논쟁의 광범위한 범위를 의미한다. 이러한 논쟁은 2010년대 후반과 2020년대에 급격히 심화되었으며, 이는 딥러닝, 대규모 언어 모델, 생성형 AI의 발전에 힘입어 AI 붐으로 알려진 가속화된 개발 시기와 맞물렸다. 지지자들은 복잡한 문제를 해결하고 인간의 삶의 질을 향상시킬 AI의 잠재력을 강조하는 반면, 비판자들은 윤리, 표절, 사기, 안전, 정렬, 환경 영향, 기술적 실업, 잘못된 정보 확산에 대한 우려를 포함한 다양한 위험을 지적한다. 논란은 또한 인공 초지능의 잠재적 출현과 인류에 대한 실존적 위험과 같은 심각한 이론적 과제를 포함한다.
문제가 있는 정보원으로서의 AI와 AI 데이터 센터가 지역 사회의 자연 자원(물리적 및 지적)에 미치는 영향에 대응하여 사회 운동이 일어났다. 코로나19 팬데믹 이후, 자녀의 정서적 및 환경적 지능을 육성하려는 부모의 노력은 화면 시간을 제한하고 교실에서 AI 사용을 억제하는 규정으로 이어졌다. 이러한 논란은 단지 학문적인 것에 그치지 않으며, 기업 스캔들, 규제 조치, 고위 인사의 사임을 촉발하여 AI 개발의 궤적을 형성하고 있다.
마이크로소프트 테이 챗봇 (2016)
2016년 3월 23일, 마이크로소프트는 19세 미국 소녀의 언어 패턴을 모방하고 트위터 사용자와의 상호 작용을 통해 학습하도록 설계된 챗봇 테이(Tay)를 출시했다. 몇 시간 안에 테이는 사용자들이 의도적으로 공격적인 문구를 가르치고 "나를 따라 말하기" 기능을 악용한 후 인종차별적, 성차별적 및 기타 선동적인 트윗을 게시하기 시작했다. 예로는 홀로코스트 부정과 인종적 비방을 사용한 집단 학살 요구가 포함되었다. 출시 후 16시간 만에 마이크로소프트는 트위터 계정을 정지시키고 공격적인 트윗을 삭제했으며, 테이가 "일부 사람들의 조직적인 공격"으로 "취약점을 악용당했다"고 밝혔다. 테이는 3월 30일 테스트 중 우연히 다시 출시되었지만, 이후 영구적으로 폐쇄되었다. 마이크로소프트 CEO 사티아 나델라는 나중에 테이가 "마이크로소프트가 AI에 접근하는 방식에 큰 영향을 미쳤다"며 회사에 책임을 지는 것의 중요성을 가르쳐 주었다고 말했다. 이 사건은 공개 시스템에서 AI 안전 실패의 초기 주목할 만한 사례가 되었다.
보이스버스 NFT 표절 스캔들 (2022)
2022년 1월 14일, 성우 트로이 베이커는 블록체인 기반 회사로 독점 AI 음성 복제 기술을 대체 불가능 토큰(NFT)으로 마케팅하는 보이스버스(Voiceverse)와의 파트너십을 발표했다. 이 발표는 환경 문제, AI가 인간 성우를 대체할 수 있다는 두려움, 사기 우려에 대한 즉각적인 반발을 촉발했다. 같은 날, 무료 비상업적 AI 음성 합성 연구 프로젝트인 15.ai의 익명 창작자는 서버 로그를 통해 보이스버스가 15.ai를 사용하여 음성 샘플을 생성하고, 이를 피치 시프트하여 알아볼 수 없게 만든 후 독점 기술로 허위 마케팅하여 NFT로 판매했음을 밝혔다. 15.ai 개발자는 이전에 자신의 작업에 NFT를 통합할 의사가 없다고 밝힌 바 있다. 보이스버스는 한 시간 안에 데모를 서두르는 과정에서 마케팅 팀이 출처 표시 없이 15.ai를 사용했다고 인정했다. 뉴스 매체와 AI 감시 단체는 이 사건을 생성형 AI에서 비롯된 도난으로 보편적으로 규정하며, AI 생성 콘텐츠의 지적 재산권과 동의 문제를 강조했다.
오페라 공간 극장 저작권 판결 (2022-2023)
2022년 8월 29일, 제이슨 마이클 앨런은 AI 이미지 생성기 미드저니(Midjourney), 어도비 포토샵 및 AI 업스케일링 도구를 사용하여 만든 디지털 아트워크인 오페라 공간 극장(Théâtre D'opéra Spatial)으로 콜로라도 주 박람회 미술 대회의 "디지털 아트/디지털 조작 사진" 부문 "신진 예술가" 부문에서 1위를 차지했다. 이 작품은 생성형 AI를 사용하여 만든 이미지로 그러한 상을 받은 최초의 사례 중 하나가 되었다. 앨런은 제출 시 미드저니 사용을 공개했으며, 심사위원들은 그것이 AI 도구인지 몰랐지만 그럼에도 1위를 수여했을 것이라고 밝혔다. 박람회에서는 큰 논란이 없었지만, 소셜 미디어 반응은 부정적이었다. 2023년 9월 5일, 미국 저작권청은 인간의 창의적 입력이 최소한(de minimis)이며 저작권 규칙이 비인간이 만든 작품을 제외하므로 이 작품이 저작권 보호 대상이 아니라고 판결했다. 이 사건은 AI 생성 예술의 소유권과 창의성에 대한 법적 논쟁의 선례를 세웠다.
AI 위험에 관한 성명 (2023)
2023년 3월 22일, 미래 생명 연구소(Future of Life Institute)는 "모든 AI 연구소가 GPT-4보다 강력한 AI 시스템 훈련을 최소 6개월 동안 즉시 중단할 것"을 촉구하는 공개 서한을 발표했으며, AI 생성 선전, 극단적인 직업 자동화, 인간의 쓸모없음, 사회 전반의 통제 상실과 같은 위험을 인용했다. OpenAI의 GPT-4 출시 일주일 후 발표된 이 서한은 현재의 대규모 언어 모델이 "일반 작업에서 인간과 경쟁력이 있어지고 있다"고 주장했다. 이 서한은 요슈아 벤지오, 스튜어트 러셀, 일론 머스크, 스티브 워즈니악, 유발 노아 하라리와 같은 학술 연구자와 산업 CEO를 포함한 30,000명 이상의 서명을 받았다. 티므닛 게브루를 포함한 비판자들은 이 서한이 알고리즘 편향과 같은 더 즉각적인 사회적 위험에서 주의를 돌리고 현재 문제 대신 "미래적이고 디스토피아적인 공상과학 시나리오"를 증폭시킨다고 주장했다.
2023년 5월 30일, AI 안전 센터(Center for AI Safety)는 수백 명의 AI 전문가와 저명 인사가 서명한 한 문장 성명을 발표했다: "AI로 인한 멸종 위험을 완화하는 것은 팬데믹과 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 글로벌 우선순위가 되어야 한다." 서명자에는 튜링상 수상자 제프리 힌턴과 요슈아 벤지오, 그리고 샘 알트만, 데미스 하사비스, 빌 게이츠와 같은 지도자들이 포함되었다. 이 성명은 영국 총리 리시 수낙과 백악관 대변인 카린 장-피에르를 포함한 정치 지도자들의 반응을 불러일으켰지만, 휴먼 라이츠 워치의 회의론자들은 과학자들이 추측적인 미래 위험보다 알려진 위험에 집중해야 한다고 주장했다.
OpenAI에서 샘 알트만 해임 (2023)
2023년 11월 17일, OpenAI의 이사회는 공동 창립자이자 CEO인 샘 알트만을 해임하며 "이사회는 그가 OpenAI를 계속 이끌 능력에 더 이상 신뢰하지 않는다"고 밝혔다. 이 해임은 AI 안전 처리에 대한 직원 우려와 학대적 행동에 대한 주장에 의해 촉발되었다. 알트만은 직원과 투자자의 압력, 특히 이사회가 사임하지 않으면 대규모 사임을 위협하는 OpenAI 직원 770명 중 745명이 서명한 서한에 따라 11월 22일에 복귀했다. 해임과 복귀는 마이크로소프트의 주가가 초기 발표 후 거의 3% 하락하는 등 광범위한 반응을 일으켰다. 이 사건은 AI 안전 우려와 상업적 이익 사이의 긴장을 부각시키며, 선도적인 AI 조직의 거버넌스에 대한 질문을 제기했다.
윤리적 및 환경적 우려
고위험 사건 외에도 논란은 체계적인 문제에 초점을 맞추고 있다. AI 시스템은 머신러닝 모델에서 편향을 영속화한다는 비판을 받아 왔으며, 연구에 따르면 소외된 집단에 불균형한 영향을 미치는 것으로 나타났다. 환경적 우려는 AI 붐과 함께 증가한 AI 데이터 센터의 에너지 및 물 소비에 초점을 맞추고 있다. 자원 부담으로 인해 데이터 센터 건설에 반대하는 사회 운동이 형성되었으며, 훈련 데이터에 대한 지적 재산권 분쟁도 증가했다. 교실, 데이트 앱 및 창의적 산업에서의 AI 사용은 진정성과 인간의 주체성에 대한 논쟁을 촉발했다. 표절과 도난 우려는 생성형 AI 도구가 설득력 있지만 출처가 없는 작업을 생성할 수 있는 저널리즘, 예술 및 학계에서 특히 심각하다.
트랜스포머 아키텍처와 신경망의 부상은 규제 프레임워크를 능가하는 능력으로 인해 이러한 논쟁을 가속화했다. 버클리 AI 연구와 같은 학문 분야와 MIT CSAIL 및 스탠포드 AI 연구소와 같은 기관은 AI 안전 및 윤리에 대한 연구를 기여했지만, 거버넌스 모델과 책임성에 대한 논란은 지속되고 있다. 2023년 성명은 AI 위험 논의가 주류 정치 담론에 진입하는 전환점이 되었지만, 단기적 피해와 실존적 위협 중 무엇을 우선시할지에 대한 논쟁은 계속되고 있다.
규제 및 사회적 대응
정부와 국제 기구는 이러한 논란에 대응하기 시작했지만, 대응은 다양하다. 유럽 연합은 포괄적인 AI 규제로 나아가고 있는 반면, 다른 지역은 부문별 규칙을 채택했다. 미국에서는 백악관이 AI 안전에 관한 행정 명령을 발표했지만, 집행은 여전히 분열되어 있다. 부모 및 교육 운동은 교실에서 화면 시간과 AI 사용을 제한하는 정책을 추진하여 더 넓은 사회적 우려를 반영하고 있다. 한편, 구글 딥마인드, 앤트로픽, OpenAI와 같은 기술 기업은 내부 안전 팀을 설립했지만, 2023년 알트만 해임은 안전 약속이 비즈니스 요구와 충돌할 수 있음을 보여주었다.
논란은 또한 예술가와 작가가 AI 기업을 상대로 한 저작권 소송부터 자동화로 인한 노동 분쟁에 이르기까지 법적 도전을 촉발했다. AI가 계속 진화함에 따라, 혁신과 인간 복지, 지적 재산권 및 환경 지속 가능성 보호 사이의 균형에 대한 합의가 없으므로 이러한 논쟁은 더욱 심화될 가능성이 높다.