로고이미지

이용약관 | 개인정보처리방침

포커스 | AI 앞에 선 인간

기계 앞에서 인간과 지성의 본질을 되묻는다

- 김재인, 《AI 빅뱅》

작성일: 2023.08.03

포커스 요약

1. 이미지 생성 인공지능의 결여된 창의성

2. 언어 자료들과 인간 현실 사이의 엄청난 괴리

3. 인문학과 융합교육이 나아갈 방향

우리 생활 속에 파고든 인공지능

금년 초에 미국의 여러 미디어에는 인공지능을 소재로 그린 한 컷 만화들이 실렸는데, 그 가운데 매우 인상적인 것 두 가지가 있다. 하나는 관광객들이 로댕의 ‘생각하는 사람’을 관람하는 장면으로, 한 사람이 친구에게 말을 건넨다. “저 사람은 챗GPT에 대해 들어보지 못한 게 분명해.” 챗GPT에게 물어보면 될 텐데 왜 저렇게 심각하게 고민하느냐는 뜻이다. 다른 하나는 어느 회사 사무실에서 직원들이 모두 해고 통지서를 받고 당황하는 장면인데, 옆에서 사장이 주머니에 손을 넣고 이렇게 말한다. “그 통지서도 챗GPT가 쓴 것이랍니다.” 인공지능에 밀려나는 노동자들의 퇴직 처리 업무까지 인공지능이 떠맡았다는 것이다.

인류가 발명해 온 도구들은 대부분 신체의 부족함을 보완하는 것이었다. 정보화 시대에 접어들어 두뇌의 기능을 보조하는 컴퓨터가 등장했고, 이제는 거기에서 한 단계 더 나아가 스스로 ‘생각(?)’을 하는 인공지능이 탄생하여 날로 업그레이드되고 있다. 그 가운데 챗GPT는 누구나 쉽게 사용할 수 있는 대화형 인공지능으로서, 인간이 던지는 질문에 답변을 내놓는 챗봇이다. 기존의 기계들과는 차원이 다른 이 시스템이 우리의 일과 삶에 어떤 변화를 가져올 것인지, 특히 인간의 어느 부분까지 대체할 수 있을지에 대해 많은 논의가 이뤄지고 있다. 《AI 빅뱅》은 인문학적 관점에서 AI의 정체를 짚으면서 인간 지성의 속성을 살피고 교육의 소임을 밝히는 책이다.



인공지능은 예술가가 될 수 없다

챗GPT는 예술적 창작마저 능숙하게 해내기에 충격적이다. 바야흐로 인간의 창의성도 기계에 빼앗기는 것인가? 저자는 그렇지 않다고 말한다. AI가 만들어 내는 작품들은 ‘본뜬 것’일 뿐 ‘창조’는 아니다. 일정한 알고리즘에 따라 기존 스타일에서 최대한 벗어난 작품을 무작위로 생산하기만 하지, 그 결과물을 찬찬히 살펴보면서 미적인 가치가 있는 것을 걸러내지는 않는다.

예술적 행위의 핵심은 평가에 있고, 그것은 언제나 인간의 몫이라고 저자는 강조한다. 예술은 우리가 경험한 적이 없는 세계를 감각할 수 있도록 만드는 활동으로서 기존의 것을 넘어서는 새로운 가치의 창조에 의미가 있는데, 그 가치의 평가가 인간의 핵심 능력으로 남는다는 것이다.



아무리 매개변수를 늘린다 해도

챗GPT의 ‘G’는 생성(generative)이라는 의미를 담고 있다. 그런데 정말로 뭔가를 생겨나게 하는가? 엄밀하게 말해 AI는 자신이 저장한 데이터를 인출하여 재구성하는 것이다. 그 데이터는 언어로 구성되어 있다. 언어는 인간이 발명한 위대한 도구지만, 그것으로 리얼리티를 온전히 포착하는 것은 불가능하다. 언어와 존재는 일대일 함수관계가 아니기에, 언어를 매우 정교하게 구사한다 해도 세상에 대한 정확한 표상을 얻을 수 없다. AI에게 언어를 아무리 학습시키고 매개변수를 늘려도 언어 모델은 결국 언어 세계에 머물 뿐이다. 그래서 오류는 불가피하고, 사람이 일일이 체크하면서 미세 조정과 되먹임 강화 학습으로 수정해야 한다.

"

"

“알고리즘은 사실상 그 안에 버그가 존재하면 작동하지 않는다. 반면 생물은 버그나 고장에도 불구하고, 아니 어쩌면 그런 것들을 통해 작동한다. … 이런 점에서 고민은 일종의 탁월한 능력이다. 민감하지 않으면 고민도 없다. 인공지능은 고민하지 않는다. 시키는 일을 아주 잘 해낼 뿐이다. 이제 중요한 차이가 드러났다. 생각의 고장은 사람에게만 있다. … 고민이 시작이라면 다음 단계는 궁리다. 궁리란 해결책을 찾으려는 갖가지 노력과 시도다. 인공지능은 궁리하지 못한다. 주어진 명령을 따라갈 뿐이다. 자기 자신에게 명령할 수 있는 능력이야말로 자유라는 이름에 값한다.”
 

- 140-145면

인간은 행위의 동기와 기준이 자기 안에 있다. 스스로 문제를 설정하고 목표도 잡는다. 반면에 인공지능의 작업 수행 기준은 시스템 바깥에 있다. 모든 기계 학습은 자율 학습이 아니고 인간의 지도를 받는다. 그래서 예를 들어 AI 판사가 판례에 기계적으로 구속받지 않고 변화된 사회의 가치를 따라 판결을 내리는 것은 불가능하다. 결과적으로 가장 보수적인 법적 판단을 내릴 수밖에 없다. 인공지능이 엄청나게 진보했다고 하지만, 인간과 똑같은 지능을 갖추는 데 필요한 논리나 알고리즘은 아직 개발되지 않은 셈이다.



문해력 향상을 위하여
챗GPT는 학습된 데이터를 통계적으로 처리해서 확률을 찾아내 주어진 질문에 ‘가장 그럴듯한’ 답을 내놓는다. 객관적 사실에 부합하는지를 고려하는 기능은 원천적으로 결여되어 있다. 그러다 보니 얼토당토않은 진술을 늘어놓는다. 결과적으로 거짓말을 한 셈이지만, AI는 의식이 없기 때문에 거짓말을 하면서도 거짓말인지 모른다. 주어진 언어 모델 안에서 최대한 말이 되는 내용들을 조합할 뿐이다. 따라서 알고리즘이 아무리 탁월해도 데이터의 질이 나쁘면 엉뚱한 아웃풋을 내놓는다.

이런 상황에서 인간에게는 어떤 능력이 요구되는가. 인공지능이 평균적으로 수행하는 것보다 뛰어난 능력을 갖춰야 한다. 예를 들어 인공지능이 웬만한 문장들은 번역해 내는 상황에서 인간 번역가는 그것을 검토하고 다듬고 수정 보완하는 역할을 해야 하기 때문이다. 인공지능을 적절하게 활용하면서 자신의 성과를 배가시키려면 그것보다 똑똑해야 한다. 그렇지 않으면 인공지능에 밀려나고 도태되기 쉽다. 결과적으로 사람들 사이의 능력 차이는 점점 더 벌어질 수밖에 없다.

그러므로 교육의 소임이 막중하다. 저자는 독서를 통해 문해력을 키워야 한다고 말한다. 독서는 ‘정보를 선별적으로 수용하고 가공하고 응용해서 종합하는 능동적 창조적 과정’이다. 아울러 공부의 범위를 넓혀야 한다. 문과 이과의 장벽을 없애고 모든 분야에 걸쳐 기초과목 배우도록 하면서 학문의 경계를 가로질러 융합할 수 있는 능력과 질문의 힘을 키워야 한다. 인공지능의 적용 범위가 점점 넓어지는 세상에서 내적 성찰의 미덕은 더욱 부각된다. 스스로를 돌아보면서 한계를 인식하고 그것을 넘어서려는 마음이 인간을 인간답게 하기 때문이다. 인문학은 그러한 도전을 도와주는 지렛대가 된다.

독서 Guide

1. 챗GPT가 때로 말도 안 되는 답변을 천연덕스럽게 늘어놓는 까닭은 무엇일까?

2. 저자가 말하는 ‘문제를 느끼는 힘’이란 무엇인가?

3. 인공지능 시대에 독서와 암기가 중요해지는 이유를 구체적인 상황을 들어 설명해보자.

책정보

AI 빅뱅

저자김재인

출판사동아시아

발행일2023.05.23

ISBN9788962624977

KDC126

저자정보

김찬호 ㅣ 성공회대 겸임교수

김찬호 ㅣ 성공회대 겸임교수 이미지

사회현상과 마음의 움직임을 인문학적으로 풀이하면서 더 나은 삶과 세계의 가능성을 탐구하고 여러 대중강좌를 통해 시민과 함께 배우는 사회학자. 『생애의 발견』, 『모멸감』, 『유머니즘』등 십여 권의 책을 집필했다.