기술적 특이점은 주로 고도화된 인공지능에 의해 추동되는 기술 발전이 너무 빠르고 자기 강화적이 되어 인간 문명의 예측 불가능하고 되돌릴 수 없는 변혁을 초래할 것이라는 가상의 미래 시점이다. 이 용어는 정상적인 규칙이 붕괴하고 그 너머의 예측이 불가능해지는 수학적 특이점에 비유된다.
아이디어의 기원
수학자이자 물리학자인 스타니스와프 울람은 1950년대 존 폰 노이만과의 대화를 회고하며, 폰 노이만이 "기술의 끊임없이 가속하는 진보"가 "인류 역사의 어떤 본질적 특이점에 접근하여, 그 너머에서는 우리가 아는 인간사의 지속이 불가능해질" 것이라고 언급했다고 서술했다. 이 개념은 컴퓨터 과학자이자 SF 작가인 버너 빈지에 의해 상당히 발전되었으며, 그의 영향력 있는 1993년 에세이 "다가오는 기술적 특이점"은 초인적 지능의 창조가 이후의 미래가 증강되지 않은 인간에게 근본적으로 알 수 없게 되는 사건의 지평선을 표시할 것이라고 주장하고, 이것이 수십 년 내에 발생할 수 있다고 예측했다.
커즈와일과 가속 수익의 법칙
미래학자 Ray Kurzweil은 이 아이디어를 대중적 독자층에 널리 알렸으며, 특히 2005년 저서 "특이점이 다가온다"에서 두드러진다. 커즈와일은 컴퓨팅, 생명공학 및 기타 분야의 지수적 추세가 "가속 수익의 법칙"으로 공식화되어 인간과 기계 지능의 융합으로 이어질 것이라고 주장하며, 특이점이 2045년경 도래할 것이라고 반복적으로 예측해 왔다. 그의 구체적 예측의 실적은 방향적 정확성에 대한 칭찬과 놓친 날짜 및 과도한 주장에 대한 비판을 동시에 받아 왔다.
지능 폭발
특이점이 어떻게 발생할 수 있는지 설명하기 위해 가장 자주 인용되는 메커니즘은 수학자 I. J. 굿이 1965년에 기술하고 이후 Nick Bostrom이 발전시킨 "지능 폭발"이다. 즉, 자신의 설계를 개선할 수 있는 AI 시스템이 빠르게 가속하는 피드백 루프에서 연속적으로 더 강력한 버전을 생산하여 인간의 이해를 훨씬 넘어서는 Superintelligence에 도달할 수 있다는 시나리오로, 일부는 이를 Artificial general intelligence에서 그 너머로 가는 빠른 경로로 간주한다. 이러한 틀은 특이점 개념을 현대의 Existential risk from AI 논쟁과 밀접하게 연결하는데, 갑작스럽고 통제되지 않은 능력 도약은 과정 수정을 위한 시간을 거의 남기지 않기 때문이다.
비판과 회의론
비판자들은 특이점 개념이 실제로는 수익 체감을 보이는 S자형 곡선을 따르는 경향이 있는 지수 곡선의 의심스러운 외삽에 기반하며, "지능"이 단순히 무한정 확장될 수 있는 단일 스칼라 양이 아니라고 주장한다. 에너지 가용성, 칩 제조 용량, 데이터 가용성을 포함한 물리적 제약이 병목 현상으로 지적된다. Yann LeCun 및 Gary Marcus와 같은 연구자들은 단기적 특이점 시나리오를 추측에 불과하며 현재 시스템이 실제로 작동하는 방식에 충분히 근거하지 않았다고 일축하면서도, AI 진보가 역사적 기준으로 여전히 빠르다는 점은 인정한다.
현대적 관련성
"특이점"이라는 특정 날짜가 있는 사건은 이제 대중적 해설자보다 연구자들 사이에서 더 신중하게 사용되지만, AI 진보가 빠르고 통제하기 어려운 자기 개선의 변곡점에 도달할 수 있는지에 대한 근본적 질문은 계속해서 AI safety 및 AI alignment 연구에 영향을 미치며, 여기에는 Scaling laws와 추가적인 추론 시간 계산을 사용하는 Reasoning model 시스템의 능력 향상 속도에 대한 논쟁이 포함된다.