인공지능의 잠재적 위협: 인류를 능가할 가능성

인공지능(AI) 분야의 전문가들은 AI가 인간 지능을 능가할 것이라고 믿고 있습니다. 이는 시간 문제일 뿐이며, 5~20년 사이에 발생할 가능성이 약 50%입니다. 인류는 이러한 AI가 우리를 지배하려고 시도하는 문제에 직면할 수 있습니다.

AI 개발의 선두주자인 제프리 힌턴은 이 문제에 대해 우려를 표명합니다. 특히 AI가 인간보다 똑똑해질 수 있다는 점, 그리고 AI가 인간에게서 지배권을 빼앗을 수 있는지에 대한 우려가 있습니다. 이는 심각히 고려해야 할 실존적 위협이며, 몇 년 전에는 공상 과학처럼 여겨졌습니다.

큰 언어 모델(LLM)은 뇌가 언어를 이해하는 방식을 이해하기 위한 이론으로 개발되었습니다. LLM은 뇌가 언어를 이해하는 방식에 대한 최고의 이론으로 여겨집니다. 비록 아직 LLM의 작동 방식이나 뇌의 작동 방식을 자세히 이해하지는 못하지만, 서로 매우 유사한 방식으로 작동할 것이라고 생각합니다.

우려를 불러일으키는 요인

힌턴의 우려를 불러일으킨 것은 두 가지 요인입니다. 하나는 Google의 대형 챗봇과 GPT-4와 같은 AI와의 교류입니다. 이러한 AI는 뛰어난 능력을 가지고 있으며 많은 것을 이해하고 있습니다. 각자의 데이터 비트를 조사할 수 있는 동일한 신경망 복사본을 여러 개 만들고 모두가 학습한 내용을 공유할 수 있습니다.

또 다른 우려는 이러한 AI가 우수한 지능을 가졌다는 점입니다. 이는 방어를 위해 AI의 군사적 사용을 제한하지 않으려는 정부의 입장으로 인해 더욱 심각해집니다.

AI의 위협 대응

이러한 위협에 대응하기 위해 힌턴은 AI를 제어할 수 있는지에 대해 거대한 자원을 투자해야 한다고 주장합니다. 현재 AI 연구의 최전선에서 활동하고 있는 서구 국가들이 이 분야에서 앞서 나가고 있지만 중국이 더 많은 자원을 투자하고 있습니다.

사회적 영향

AI는 많은 직업을 대체할 것으로 예상됩니다. 이는 생산성과 부의 증가로 이어질 수 있지만, 부가 균등하게 분배되지 않는 한 사회에 심각한 영향을 미칠 수 있습니다. 부자와 가난한 사람 사이의 격차가 커지고 극우 포퓰리즘이 부상할 가능성이 있습니다.

힌턴은 모든 사람에게 보편적 기본 소득을 제공하여 직업을 잃은 사람들이 기본적인 필요를 충족할 수 있도록 해야 한다고 주장합니다. 그러나 이로써 자존감 문제는 해결되지 않습니다. 그는 정부가 경제에 개입하여 승자와 패자를 결정하지 않도록 해야 한다고 믿습니다.