일반인공지능이 인간을 넘어서는 징후를 포착할 수 있을까?

최근 ChatGPT와 SORA와 같은 생성형 인공지능의 급격한 성장으로 인해 2030년대에 일반인공지능(AGI; Artificial General Intelligence)이 등장할 것이라는 주장이 힘을 얻고 있다. 많은 인공지능 연구자들은 일반인공지능이 머지않아 개발될 것으로 확신하고 있고, 일부 전문가들은 일반인공지능이 실현되고 나면 곧이어 초지능(super intelligence)도 출현할 것으로 예견하고 있다.

일반인공지능은 보통 스무 살 인간의 지능수준을 갖는 인공지능으로 정의되며, 초지능은 IQ 6000을 넘는 지능으로 묘사된다. 인간과 같은, 혹은 인간보다 더 똑똑한 인공지능이 탄생할 경우, 인간은 이 기술과 어떻게 공존할 수 있을까?

일반인공지능이나 초지능과의 공존 문제를 고민하기에 앞서 무엇보다 일반인공지능의 정의에 대해 합의된 공감대가 만들어질 필요가 있다. 이 정의가 분명하지 않은 상태에서는 일반인공지능의 도래 가능성과 시점에 대한 예측, 나아가 일반인공지능이 야기하는 문제의 성격 자체가 달라질 수 있기 때문이다. 공학적 관점에서 인공지능의 ‘일반성’은 학습 데이터에 포함되지 않은 새로운 데이터나 작업을 처리할 수 있는 능력을 의미한다. 반면 과학철학이나 인지과학의 관점에서 바라보는 지능의 일반성은 자신이 처해 있는 환경에서 당면한 여러 종류의 문제를 해결해 나갈 수 있는 능력을 의미한다. 만약 지능의 일반성을 과학철학과 인지과학의 관점처럼 개체가 환경에 적응하는 방식으로 문제를 해결하는 것으로 정의한다면, 물리세계와 연결할 로보틱스 분야의 발전 속도가 빠르지 않기 때문에 일반인공지능은 인공지능 분야의 전문가들이 예상하는 것보다는 다소 늦게 도래할 것으로 예상할 수 있다. 따라서 일반인공지능과의 공존에 대한 고민이 의미가 있기 위해서는 무엇보다 일반인공지능에 대한 명확한 정의를 세우는 일이 중요하고, 이것 자체가 중요한 그랜드 퀘스트다.

포괄적인 의미에서 일반인공지능이 도래한다고 할 때, 인간과의 공존에서 가장 심각한 이슈는 무엇보다 일자리 문제가 될 것이다. 일반인공지능이 가져올 대표적인 혜택은 무엇보다 효율성이며, 앞으로 더 많은 분야에서 반복적이고 시간이 많이 소요되는 작업이 자동화될 것이다. 그 덕분에 인간은 더 고차원적이고 기존에 존재하지 않던 많은 새로운 작업에 시간을 쓸 수 있을 것으로 기대된다. 인공지능의 일자리 대체는 단순작업에만 한정되지 않을 것이다. 그동안 인공지능으로 인해 운송 및 물류와 같은 단순 노동과 관련한 직업이 가장 먼저 대체될 가능성이 크다고 생각되었으나, 최근에는 창작 관련 직업들조차 인공지능으로 인해 위험에 처해 있다. 따라서 일반인공지능의 등장은 단순작업에서 고급창작까지 인간의 일에 대한 고민을 더 높은 불확실성 속으로 밀어 넣게 될 것이다.

일자리 문제뿐만 아니라, 일반인공지능이 가져다줄 효율성의 이면에는 인간과의 공존을 근본적으로 저해하는 여러 문제가 숨어 있다. 우선, 일반인공지능을 지향하는 인공지능 개발의 지속가능성 문제가 있다. 지금까지의 인공지능은 에너지 문제와 희토류 채굴의 문제와 같은 현실적인 자원의 한계를 고려하지 않고 발전해 왔다. 그러나 최근 막대한 연산 능력이 요구되는 생성형 인공지능 서비스가 확대되면서 데이터센터의 운용과 냉각에 막대한 전력이 사용되고 있다. 이와 같은 상황이 지속된다면 에너지 공급의 지속가능성뿐만 아니라 이로 인해 발생하는 환경적 영향도 감당하기 어려울 것으로 전망된다.

일반인공지능과 인간의 안정적인 공존을 위한 또 한 가지 중요한 고려사항으로 인공지능의 윤리성과 공정성 문제가 있다. 현재의 인공지능은 인간이 생성한 데이터를 기반으로 학습하기 때문에 우리 세계의 다양한 편견과 불공정성을 그대로 물려받을 가능성이 크다. 그리고 현재는 정확한 원칙을 입력하고 피드백을 제공하는 것으로 이 문제를 어느 정도 해결할 수 있다. 실제로 OpenAI 등은 인간과 인공지능이 공존할 수 있도록 인간의 피드백을 통한 강화 학습 기술을 활용하고 있음을 밝힌 바 있다. 그러나 일반인공지능이 도래할 경우, 이들은 더이상 인간의 피드백을 필요로 하지 않고, 스스로 데이터를 수집, 분석, 판단하면서 능력을 높여갈 것이다. 이러한 상황에서 인간이 제공하는 원칙과 피드백을 강제할 방법이 있는지 의문스럽다. 또한, 현재의 최첨단 인공지능 기술발전은 소수의 회사에 의해 폐쇄적으로 진행되고 있으며 개방적인 오픈소스 진영과의 성능 차이도 시간이 갈수록 커져 가고 있다. 폐쇄적으로 개발되는 일반인공지능은 그 과정에서 어떤 데이터들과 레이블이 활용되었는지, 어떤 방향을 지향하고 있는지 등 제3자가 투명하게 검증할 수 없다는 점에서 그 우려는 점점 커지고 있다.

인간과 일반인공지능의 공존이 많은 기대와 우려를 동시에 제기하고 있는 가운데, 무엇보다 사전에 인공지능이 인간의 통제를 벗어나는 순간을 포착할 수 있는 프로그램에 대한 논의가 중요하다. 인공지능이 인간의 예상을 뛰어넘는 시점이나 기준을 사전에 설정하는 것은 과학기술적으로 아직까지 어려운 과제다. 인공지능 기술은 그 복잡성으로 인해 개발자 및 연구자들에게도 블랙박스와 같기 때문이다. 알파고의 경우만 해도, 알파고 개발자들은 언제 알파고가 인간보다 바둑을 잘 두게 되었는지 알지 못했을 가능성이 높다. 그럼에도 인공지능과 인간의 공존을 위해서는 인공지능이 인간의 통제를 벗어나고 있다는 징후를 투명하게 포착하기 위한 다학제적 합의와 기술 개발이 계속해서 이루어져야 할 것이다.

일반인공지능의 등장은 인류에게 양날의 검으로 작용할 수 있다. 일반인공지능과 초지능의 가능성과 징후에 대한 예측, 이들이 미래에 가져올 변화 및 대응 방안에 대한 논의는 인공지능과 인간의 공존을 위한 필수적인 작업이자, 그랜드 퀘스트이다.