코기토 에르고 숨

‘나는 생각한다, 고로 나는 존재한다(cogito ergo sum)’라는 르네 데카르트의 철학적 명제와 AI가 무슨 상관이 있단 말인가? AI는 새롭게 나온 기술로서, 그저 유용하게 사용하기만 하면 된다고 대부분 사람들이 생각하는데, 이 책의 저자들은 서두부터 존재론적 질문을 던지고 있다. 이 명제는 ‘사유하는 정신이 인간의 가장 중요한 능력’이라는 뜻으로, 인간이야말로 역사의 중심에 설 자격이 있다는 의미를 내포하고 있는데, 이런 인간의 지위가 AI로 인해 흔들릴 수도 있다는 것인가?

AI 시대엔 의사결정 방식이 다음의 세 가지로 나뉠 것이다. 하나는 인간에 의한 결정이고, 다른 하나는 기계에 의한 결정이며, 나머지 하나는 인류가 지금까지 경험해본 적이 없는 생경한 방식인 인간과 기계의 협력에 의한 결정이다. 즉, AI는 이제껏 도구에 불과했던 기계를 우리의 파트너로 격상시켰다! 앞으로는 모든 분야에서 AI의 지원이 당연시되어, 때로는 무엇이 인간의 결정이고 무엇이 AI의 결정이며 무엇이 인간과 AI의 공동 결정인지 분간이 안 될 것이다. “‘네 생각’엔 우리가 어떻게 해야 할 것 같아?”라고 AI에게 물으며 살지도 모른다. 수시로 인터넷 검색을 하며 사는 것처럼 말이다.

만약, 인간 외에도 ‘생각’하는 존재가 있다면, 다시 말해, 인간의 이성을 흉내 내는 기계가 있다면, 만물의 영장이라던 인간은 무엇이 되는 것인가? 일례로 2016년에 딥마인드에서 구글 데이터센터의 냉각 장치를 조절해 온도를 최적으로 맞추는 AI를 개발했는데, 이 AI가 세계 최고의 엔지니어들의 방법보다도 전기료를 40%나 획기적으로 절감시켰다. 이 외에도 내성 없는 항생제인 할리신을 개발한 것 등 AI가 인간의 능력을 뛰어넘는 사례들이 증가하고 있다. 인간이 무력해지는 순간이다.



AI에 대한 규제와 관리의 필요성

현재 AI를 학습시키는 방법으로 지도학습, 비지도학습, 강화학습을 사용하는데, 무슨 데이터를 어떻게 학습했는지 명확히 알 수 없기 때문에, AI가 도출한 결과에 대한 불안한 요소가 늘 존재한다. AI는 윤리적이나 철학적으로 자신을 반추하지 못하고, 그저 제가 아는 기법을 이용해 결과를 산출할 뿐이기 때문이다. 그래서 반드시 인간이 AI를 규제하고 관리해야 한다.

AI를 활용하여 고객 서비스를 제공하는 대형 네트워크 플랫폼들이 이제는 일상생활, 상거래, 기업 운영, 정부 행정, 정치적 논의 등 우리 삶 전반에 걸쳐 강력한 영향력을 발휘하기에 더욱더 그럴 필요가 커지고 있다. 즉, 네트워크 플랫폼과 그 AI가 허용하거나 선호하는 콘텐츠는 순식간에 부상하기도 하고, 반대로 원치 않거나 금지하는 콘텐츠는 원천적으로 차단되어, 개인과 사회에 제공되는 정보의 편향이 심각하게 발생할 수 있기 때문이다.

문제는 이런 알고리즘을 누가 개발하고 어떤 기준으로 관리하는지 알 수가 없으니, 만약 어떤 의도를 가지고 정보를 왜곡한다 해도 우리로서는 이를 알아차리기 쉽지 않다. 그러므로 인간이 AI를 규제하고 관리해야 한다는 것이다.



세상의 파괴자?

원자폭탄 개발의 책임자였던 물리학자 로버트 오펜하이머는 뉴멕시코주 사막에서 진행된 최초의 핵무기 실험을 참관한 후에, 힌두교 경전 《바가바드 기타》의 한 구절로 자신의 소회를 다음과 같이 표현했다. “이제 나는 죽음이요 세상의 파괴자가 되었도다.” 지금과 비교하면 아주 초보적인 핵무기에 불과한데도 이렇게 말했다면, 그가 오늘날의 가공할 AI와 사이버 무기들을 본다면 어떠할까?

AI가 기존 무기체계를 정교화하고 성능을 강화하는 것도 문제지만, 더 큰 문제는 지금까지 존재하지 않았던 새로운 방식으로 은밀한 공격을 가할 수 있다는 것이다. 가장 대표적인 예가 이란의 핵시설 제어 컴퓨터를 해킹함으로써 핵시설 전체를 무력화시킨 스턱스넷(Stuxnet) 사건이다.

그런데 사이버 공격은 특정한 목표물만 타격하는 것이 아니다. SNS를 이용해 미국 대통령선거에 개입하려던 러시아의 공격처럼, 이제는 다양한 형태의 사이버 침투, 온라인 흑색선전, 정보전 등 사이버 공격은 사회 전반에 광범위하게 영향을 미치고 있다. 공격을 받더라도 그 성격이나 범위, 특징이 명확하지 않기 때문에 공격자를 식별하기가 어렵거나 아예 불가능해서, 현재 강대국들은 어쩌면 핵무기 자체보다 더 무서운 사이버 분쟁에 휘말리는 중이다.



새로운 인류의 탄생?

미래 세대는 어릴 때부터 베이비시터, 과외 교사, 상담사, 친구 등 다양한 역할을 수행하는 AI 도우미와 함께 자랄지 모른다. 디지털 도우미는 주인의 취향과 편견에 따라 더욱 맞춤형으로 성장하기 때문에, 주인의 사용 만족도가 극대화될 것이다. 그러면 사람들이 인간보다 디지털 도우미를 더 좋아하게 되어 인간관계 대신에 AI에 더 의존하게 될 텐데, 그렇게 되면 아이들은 AI를 그저 서비스로만 경험하게 될 것인가? AI를 삶의 동반자로 생각하는 새로운 인류가 만들어지는 것은 아닌가?

그저 AI의 사용 편의성만을 생각하는 우리에게, 저자들이 던지는 화두는, 우리가 어떤 미래를 맞이할지 고민하고 노력해야 한다는 외침으로 들린다. 아무도 경험해보지 못했기에, 확실한 답을 제시할 수 없더라도, 답을 찾아가기 위해 우리가 누구인지, 우리가 원하는 것이 무엇인지, 그렇기 위해서 우리는 어떻게 행동해야 하는지, 서로 토론해가며 기준을 세우는 것이 시급하다 생각된다. 우리는, 덜 생각해도 알아서 척척 해주는 세상을 꿈꾸지만, 역설적이게도 그런 세상엔 우리가 있을 자리가 점점 줄어들 것 같다. AI 시대를 맞이해서 우리에게 정말로 필요한 것은 진중한 사색이리라! 르네 데카르트의 명제가 나의 귀에 맴돈다.

“나는 존재하고 싶다. 고로, 나는 생각해야 한다.”