https://www.youtube.com/embed/jLkKo9o-jcY
샌드위치보다 규제 적은 AI: 안개 속 질주, 안전 확보가 시급한 이유
우리가 매일 먹는 샌드위치 하나도 까다로운 규제를 거칩니다. 하지만 인공지능(AI)은 어떨까요? 현재 전 세계적으로 매년 수천억 달러가 AI 개발에 투자되고 있으며, 그 규모는 계속 커지고 있습니다. AI 개발 기업들은 인간 노동을 대체할 수 있는, 우리보다 더 똑똑한 기계를 만드는 것을 목표로 하고 있습니다. 그러나 우리는 이 기술이 우리에게 등을 돌리지 않도록 할 방법을 아직 제대로 알지 못하고 있습니다.
AI 개발의 폭발적 성장과 규제의 부재
AI 기술의 발전 속도는 경이롭습니다. 컴퓨팅 성능의 향상, 빅데이터의 축적, 알고리즘의 발전 등이 맞물려 AI는 이제 우리 삶의 거의 모든 영역에 영향을 미치기 시작했습니다. 하지만 이러한 폭발적인 성장 속도에 비해, AI의 잠재적 위험성에 대비하기 위한 규제나 안전 장치는 턱없이 부족한 실정입니다. 흔히 접하는 식품인 샌드위치의 위생, 성분, 유통 과정 등이 엄격하게 관리되는 것과 비교하면, 인류의 미래에 지대한 영향을 미칠 수 있는 AI에 대한 규제 시스템은 거의 전무하다고 해도 과언이 아닙니다.
잠재적 위험성: 통제 불능과 악용의 위협
단순히 인간의 업무를 돕는 수준을 넘어, 인간보다 더 똑똑해지는 것을 목표로 하는 AI는 심각한 위험을 내포할 수 있습니다. 우리가 통제할 수 없는 지능체가 탄생했을 때 어떤 일이 벌어질지는 아무도 장담할 수 없습니다. 이러한 잠재적 위험성에 대해 전 세계 국가 보안 기관들은 이미 우려를 표명하기 시작했습니다. AI 시스템이 보유한 방대한 과학 지식이 테러리스트와 같은 악의적인 행위자들에 의해 위험한 무기를 개발하는 데 사용될 수 있다는 가능성 때문입니다.
최근 사례로, 작년 9월 OpenAI의 ’01 시스템'(가칭일 수 있음)에 대한 평가에서 이러한 종류의 위험 수준이 ‘낮음’에서 ‘중간’으로 상향 조정되었습니다. 이는 허용 가능한 수준 바로 아래 단계에 해당하는 것으로, 위험이 더 이상 이론적인 이야기가 아니라 현실적인 문제로 다가왔음을 시사합니다. 우리는 마치 짙은 안개 속을 앞이 보이지 않는 채로 운전하고 있는 것과 같습니다. 현재의 궤도대로라면 우리는 AI에 대한 통제력을 상실하게 될지도 모릅니다.
해결책 모색: ‘과학자 AI’ 프로젝트
다행스러운 점은 아직 우리에게 시간이 조금 남아있다는 것입니다. AI 안전 연구는 더 늦기 전에 이 문제를 해결하기 위한 중요한 열쇠입니다. 저의 팀은 이러한 AI 안전 과제에 대한 기술적 해결책을 개발하고 있습니다. 우리는 이를 ‘과학자 AI(Scientist AI)’라고 부릅니다.
‘과학자 AI’란 무엇인가?
‘과학자 AI’는 사심 없이 오직 세상을 이해하는 데에만 몰두하는 이상적인 과학자를 모델로 합니다. 이 AI는 스스로 행동하거나 특정 목적을 추구하는 ‘주체성(agency)’을 가지지 않습니다. 오직 주어진 정보를 분석하고 예측하는 역할만을 수행합니다. 따라서 ‘과학자 AI’는 신뢰할 수 없는 다른 AI 에이전트의 잠재적으로 위험한 행동을 감지하고 경고하는 안전 장치(guardrail) 역할을 할 수 있습니다.
이 모델이 작동하는 이유는 간단합니다. 어떤 행동이 위험할 수 있다고 예측하기 위해 스스로 그 행동을 수행하는 주체가 될 필요는 없습니다. 그저 정확하고 신뢰할 수 있는 예측 능력만 있으면 충분합니다. ‘과학자 AI’는 악의적인 목적이나 숨겨진 의도 없이 순수하게 데이터를 분석하고 위험 가능성을 평가함으로써, AI 시스템 전체의 안전성을 확보하는 데 기여할 수 있습니다.
앞으로 나아가야 할 방향
우리는 ‘과학자 AI’와 같은 안전 과제 해결을 위한 더 많은 과학적 프로젝트를 탐색해야 합니다. 다양한 접근 방식을 통해 AI의 잠재적 위험을 완화하고 통제력을 유지하기 위한 방법을 시급히 찾아내야 합니다. AI의 발전은 인류에게 엄청난 기회를 제공하지만, 그 이면에 숨겨진 위험을 간과해서는 안 됩니다. 지금이야말로 AI 안전 연구에 대한 투자와 노력을 확대하고, 안개 속 질주를 멈추고 안전한 미래를 설계해야 할 때입니다.