https://www.youtube.com/embed/O29X1Ls8KoA

우리는 왜 비행기가 하늘에 머무르는지, 심장 제세동기가 어떻게 생명을 구하는지, 또는 전신 마취가 어떻게 환자를 의식 불명 상태로 만드는지 정확히 이해하지 못하면서도 매일 이 기술들을 신뢰하고 사용합니다. 비행기의 양력에 대한 흔한 설명은 거꾸로 나는 비행기를 설명하지 못하고, 미세한 각도 변화로 인한 급작스러운 정지를 설명하지 못합니다. 심장 제세동기의 작동 원리나 마취 약물이 정확히 어떻게 뇌에 영향을 미치는지도 아직 완전히 밝혀지지 않았습니다. 요점은, 우리 삶에 필수적인 많은 기술이 우리가 직관적으로 이해하기에는 너무나 복잡하다는 것입니다. 우리는 그들이 ‘작동한다’는 사실만으로 충분히 신뢰하고 받아들입니다. 하지만 이러한 ‘설명 불충분’이 때로는 사람들을 불안하게 만들기도 합니다. 특히 인공지능(AI) 분야에서는 더욱 그렇습니다.

AI와 설명 가능성의 딜레마

자율주행차와 같은 자율 시스템에 대한 가장 큰 우려 중 하나는 그들이 왜 특정 결정을 내리는지 우리가 완전히 이해하지 못한다는 점입니다. 예를 들어, 작년에 자율주행차가 라스베이거스에서 긴급 상황에 대응하던 소방차를 막아선 사례가 있습니다. 이유를 분석해보니, 자율주행차는 빨간색 차량을 인식하도록 훈련되었으나 소방차는 노란색이었기 때문입니다. 하지만 설령 노란색 소방차를 인식하도록 훈련되었더라도, AI는 인간이 응급 차량을 볼 때 거치는 사고 과정을 겪지 않습니다. 자율주행 AI는 세상을 일련의 형태와 확률로 인식하며, 충분한 훈련을 통해 이러한 인식이 유용한 행동으로 전환될 뿐입니다. 근본적으로 AI는 우리가 보는 것을 우리와 같은 방식으로 보지 못합니다.

이러한 현상은 새로운 것이 아닙니다. 1976년, 수학자 케네스 아펠과 볼프강 하켄은 컴퓨터를 이용한 최초의 수학적 증명인 ‘4색 정리’를 발표했습니다. 이 정리는 인접한 두 국가가 같은 색이 되지 않도록 지도를 색칠하려면 네 가지 색상만 있으면 된다는 내용입니다. 문제는 손으로 검증하기에는 지도 구성의 가짓수가 너무 많다는 것이었고, 결국 컴퓨터의 도움을 받아 증명에 성공했습니다. 이 증명은 당시 큰 논란을 불러일으켰습니다. 많은 나이 든 연구자들은 컴퓨터가 오류를 범했을 수 있다며 회의적이었지만, 젊은 수학자들은 수천 페이지에 달하는 손 계산보다 컴퓨터가 더 정확할 것이라고 믿었습니다. 이 사례는 우리가 필요한 만큼의 정확도가 있다면, 어떤 것을 완전히 이해할 필요가 없을 수도 있다는 점을 시사합니다.

자율주행차로 돌아가 생각해볼 때, ‘트롤리 문제’와 같은 이론적 딜레마를 AI에 적용하곤 합니다. 하지만 인간 운전자 또한 현실에서 치명적인 실수를 저지를 수 있습니다. 2020년 미시건에서 한 자동차가 트럭을 피하려다 인도의 젊은 커플을 덮친 사례가 있습니다. 만약 AI가 도로에서 발생하는 사고를 훨씬 줄일 수 있다면, 우리는 그 결정 과정을 설명할 수 없더라도 괜찮을까요? 예측이 설명보다 근본적으로 쉽기 때문에, 현대 과학의 데이터 기반 영역들은 예측에 더 집중하는 경향이 있습니다. 우리는 어떤 현상을 완전히 이해하지 못하더라도 유용한 예측을 할 수 있습니다.

설명이 반드시 필요한 순간들: 정의와 음모론

그러나 설명이 정말 중요할 때도 있습니다. 특히 사법 분야에서는 예측에 초점을 맞추는 것이 골치 아픈 문제를 야기할 수 있습니다. 보석 및 가석방 결정에 알고리즘이 점점 더 많이 사용되는데, 이 알고리즘은 피고인이 미래에 범죄를 저지를지 여부를 예측합니다. 이는 그들이 왜 범죄를 저지르는지, 그리고 어떻게 재범을 막을 수 있는지에 대한 이해를 배제하며, 불의를 야기할 수 있는 간극을 만듭니다.

또한, 설명에 대한 인간의 깊은 욕구는 때때로 사람들을 극단으로 몰고 가 음모론을 탄생시키기도 합니다. 음모론은 세상의 사건들이 무작위적이거나 연결되지 않은 것이 아니라, 보이지 않는 영향에 의해 그려진다는 이야기를 전개합니다. 음모론자들은 과학자와 유사하게 세상에서 보이는 패턴을 설명하고 싶어 하며, 이를 위해 많은 노력을 기울입니다. 하지만 과학과 가장 큰 차이점은 과학은 증거에 기반하여 우리의 믿음을 업데이트하는 반면, 음모론은 자신의 입장을 변호하기 위해 사실을 왜곡한다는 점입니다.

가장 유명한 음모론 중 하나인 ‘켐트레일’은 비행기 증기 흔적이 사실 사람들에게 약물을 투여하거나 날씨를 통제하려는 의도적인 시도라는 잘못된 주장입니다. 제트 엔진은 배기가스에서 증기를 생산하고, 이 뜨거운 수증기가 차가운 외부 공기와 만나 얼면서 하늘에 작은 얼음 결정 줄무늬를 만드는 것이 과학적 설명입니다. 그럼에도 불구하고 이 주장이 계속되는 부분적인 이유는 ‘신뢰’ 때문입니다. 모든 사람이 열역학을 다시 공부하거나 제트 엔진의 작동 원리를 파고들고 싶어 하지 않기 때문에, 우리는 언젠가 과학적 합의를 믿어야 합니다. 음모론은 또한 공동체 의식과 단순한 우연 이상의 설명이 필요하다는 인간적 욕구를 기반으로 합니다.

복잡한 세상을 헤쳐나가는 방법: 신뢰와 설명의 재정의

저는 과거에 복잡한 프로세스를 지나치게 단순하게 설명하여 오히려 혼란을 가중시키거나, 시간 제약 때문에 복잡성을 제대로 설명할 수 없다고 말하는 실수를 저질렀습니다. 그러면서 저는 사람들의 뿌리 깊은 설명 욕구를 인지하지 못했습니다. 다른 많은 과학자들도 때로는 “증거는 분명하다”거나 “잘 확립된 사실이다”라고만 말하며 설명을 소홀히 합니다. 하지만 기후, 건강, 금융, AI에 이르기까지 우리가 접하는 많은 현상에는 단순하고 직관적인 논리가 없는 경우가 많습니다. 이러한 상황은 불투명하거나 직관적이지 않은 기술에 대한 의존도가 높아지면서 더욱 심화될 것입니다.

저는 수학 박사 학위가 있음에도 불구하고 모든 기후 시뮬레이션이나 AI 알고리즘의 세부 사항을 완전히 이해하지는 못합니다. 저처럼 많은 사람들은 주장을 평가하기 위해 다른 방안을 찾아야 했습니다. 저는 실적이 좋은 전문가들을 신뢰하고, 출처를 정확히 확인하며, 불일치가 있는지 찾아보고, 가능한 한 많이 설명하려고 노력합니다. 변화하는 세상에서 우리는 무슨 일이 일어나고 있는지 아는 것과 왜 그런 일이 일어나는지 알고 싶어 하는 것 사이의 간극을 좁혀야 할 것입니다. 즉, 설명할 수 없는 것을 신뢰할 수 있는 더 나은 방법과 신뢰할 수 없는 것을 더 잘 설명할 수 있는 방법을 찾아야 합니다.