노동자 연대

전체 기사
노동자연대 단체
노동자연대TV

존 패링턴 옥스퍼드 대학교 교수 초청 강연:
AI가 세계를 지배하게 될까?

이 기사는 9월 4일 노동자연대 온라인 토론회 ‘존 패링턴 옥스퍼드 대학교 교수 초청 강연: AI가 세계를 지배하게 될까?’(영상 보기)의 발제문과 시청자 토론(일부), 발제자의 정리이다. 영상에서는 전문 통역사인 천경록 동지의 순차 통역이 제공된다.

오늘의 주제는 인공지능에 대한 것입니다. 즉, 과연 로봇들이 세상을 지배하게 될까입니다.

로봇과 컴퓨터, 인공지능에 대해서 본격적으로 말씀드리기 전에 먼저 다뤄야 한다고 생각하는 주제가 있습니다. 바로 인간의 의식과 지능이란 무엇인가입니다.

인간의 의식이 정확히 무엇을 가리키고, 인간은 다른 동물과 어떻게 다른가라는 문제는 아주 오래된 화두입니다. 아마 선사시대 때부터 그랬을 것입니다.

그러나 인간 의식이 무엇인지를 근대에 와서 진지하게 고민한 사람 중에 특별히 중요한 인물로 르네 데카르트를 꼽을 수 있습니다. 데카르트는 17세기 프랑스의 철학자인데, 그는 인체를 일종의 기계처럼 여길 수 있다고 주장한 최초의 인물이기도 합니다.

그렇지만 데카르트는 의식에 대해서는 그렇게 주장하지 않았습니다. 오히려 영혼이나 인간의 정신만큼은 과학으로 파악하기 힘들다고 주장했습니다.

이처럼 몸과 마음을 분리해서 보는 관점은 이후 인간의 의식에 관한 많은 논의에서 문제를 낳게 됩니다.

저는 마르크스주의자이자 유물론자로서 인간의 정신을 과학적으로 설명하는 것이 가능하다고 생각합니다. 그렇지만 진정으로 과학적이려면 인간의 의식을 생물학이나 환경적 요인으로 환원하지 말아야 할 것입니다.

저는 인간의 의식은 유전자와 환경적 요인 둘 다의 산물이고, 유전자와 환경, 그리고 의식이 아주 복잡하고 미묘하게 상호작용한다고 봅니다. 이에 대해서는 잠시 후에 더 말씀드리겠습니다.

인류의 조상이 나무 위에서 내려와 직립 보행을 하면서 도구를 만들고, 그 결과 뇌가 발달했다

제가 이 주제에 관심을 갖게 된 계기는 마르크스주의자이자 철학자인 프리드리히 엥겔스가 쓴 어떤 글을 읽은 것이었습니다. 엥겔스는 많은 사람들에게 마르크스의 친구, 조직가, 정치사상가로서 널리 알려져 있지만 사실 엥겔스는 자연과학도 굉장히 조예가 깊은 사람이었습니다.

엥겔스는 한 소논문[‘유인원에서 인간으로 진화하는 데서 노동이 한 구실’]에서 그림에서와 같이 인류의 조상이 나무 위에서 내려와 두 발로 걷게 된 것이 인간 진화의 시작이라고 주장했습니다.

직립보행을 하면서 손이 자유로워졌고 도구를 만들 수 있었습니다. 그렇게 도구를 만들기 시작하면서, 도구 사용은 인간이 주변 세계와 상호작용하는 방식의 체계적 일부가 됩니다.

물론 자연의 모든 동물 중에 인간만 도구를 사용하는 것은 아닙니다. 그렇지만 도구를 체계적으로 사용하는 것은 인간뿐이며, 시간이 흐를수록 지속적으로 도구를 발전시키는 것도 인간뿐이라고 말씀드릴 수 있습니다.

또 한 가지 중요한 것은, 인간이 도구를 사용해 주변 세계를 변화시키는 방식이 집단적이고 협력적이고 사회적이라는 것입니다. 그리고 그 과정에서 인간의 언어가 발달하게 됩니다.

도구 사용의 경우와 마찬가지로, 자연에는 인간 말고도 소리를 이용해서 서로 소통하는 동물들이 물론 있습니다. 그렇지만 인간의 언어는 사뭇 다르다고 말씀드릴 수 있습니다. 오직 인간의 언어만이 ‘개념화’, 즉 추상적 개념을 이용해서 세계를 표현할 수 있기 때문입니다.

무슨 말이냐 하면, ‘시간’, ‘공간’, ‘과거’, ‘현재’, ‘미래’, ‘너와 나의 구분’ 등은 몹시 추상적인 개념이고, 다른 동물들에게는 이런 개념이 없습니다.

지금 말씀드린 두 가지 특징, 즉 도구와 언어를 사용해서 주변 세계를 변화시킨다는 특징에서 또 다른 변화가 생겨났는데 바로 인간의 뇌가 커진 것입니다.

인간의 뇌는 같은 체구의 유인원에 비해 3배가량 큽니다. 그뿐 아니라 인간의 뇌가 구조나 기능 면에서도 다른 동물과 전혀 다르다는 증거가 갈수록 많이 발견되고 있습니다.

비고츠키는 뇌 발달에서 인간의 언어가 중요한 구실을 한다고 제시했다

제가 인간의 의식에 흥미를 갖도록 해 준 주요 인물이 2명 더 있는데 둘 다 1917년 러시아 혁명 직후에 활동했습니다. 한 명은 레프 비고츠키라는 심리학자이고, 다른 한 명은 발렌틴 볼로쉬노프라는 언어철학자입니다. 둘 다 러시아 혁명의 여파 속에서 인간의 의식에 관한 아주 흥미로운 견해를 발전시켰습니다.

이들의 견해는 바로 언어가 인간의 의식에서 절대적으로 중심적 구실을 한다는 것입니다. 마치 인간이 주변 세계를 변화시킬 때 도구라는 수단을 사용하듯, 우리가 각종 단어를 사용하는 것이 뇌를 변화시키는 수단이라고 봤습니다. 진화 과정에서 인류의 뇌가 변한 것이든, 개별 인간이 출생 후 성장하는 과정에서 뇌가 변하는 것이든 모두 말입니다.

레프 비고츠키의 사상에 대해서는 저 말고도 많은 이들이 책을 쓴 바 있습니다. 그런데 제가 최근에 쓴 책 《마인드 시프트》[2021년에 영어로 출판] 또는 《의식》[2023년 10월 영어로 출판 예정]의 특징이라면 현대 신경과학의 성과를 근거로 비고츠키 등이 의식을 연구할 때 사용한 개념틀의 유용성을 따져 본다는 것입니다.

뇌에서 작용하는 여러 세포와 조직들

좀 더 구체적으로 말하자면, 최근의 연구들은 인간의 각종 뇌세포와 뇌의 유전물질이 진화를 거치며 변해 온 과정이 비고츠키의 주장(뇌의 변화에서 언어가 중요한 구실을 한다)에 부합한다는 점을 확인시켜 주고 있고, 생물학자로서 저는 이에 아주 큰 관심을 갖고 있습니다.

과학자들은 뇌가 얼마나 복잡한지 이제 막 이해하기 시작했습니다. [기존에 알려진] 뉴런(신경세포)뿐 아니라 ‘신경아교세포’도 뇌 작용에서 중요한 구실을 한다는 것을 알게 됐습니다. 게다가 이런 세포들이 작동하는 방식이 인간의 경우에는 여느 동물과 다른 것 같습니다.

또한 DNA뿐 아니라 RNA도 인간의 의식에 중요한 영향을 미친다는 것을 발견하고 있습니다. 그리고 이 점에서도 인간은 다른 동물들과 흥미로운 차이를 보입니다.

그렇지만 가장 중요한 최신 발견은 한 개인이 겪는 일들과 그의 인생 경험이 그 사람의 뇌세포와 뇌의 작용 방식에 영향을 크게 끼칠 뿐 아니라 관련 세포들의 게놈(유전체)도 변화시킬 수 있다는 점입니다.

현대 신경과학은 인간의 뇌가 이전까지 생각했던 것보다도 훨씬 더 동태적이라는 사실을 발견하고 있다

최신 연구 결과 중 아마도 가장 흥미로운 것은 뇌파들의 각종 주파수에 따라 뇌의 여러 영역 간 협응 과정이 달라지는 것 같다는 것입니다. 이 발견이 중요한 것은 이전까지 생각했던 것보다도 우리의 뇌가 훨씬 더 동태적으로 변한다는 것을 의미하기 때문입니다.

제 책에서는, 마르크스주의 심리학자인 레프 비고츠키와 마르크스주의 언어철학자 발렌틴 볼로쉬노프가 개척한 이런 개념틀을 이용해서 현대 신경과학의 성과가 인간의 정신과 뇌에 관해 무엇을 말해주는지를 다루려 했습니다.

분명 인류는 다른 포유류나 영장류와 많은 특징을 공유합니다. 다른 동물들도 생각을 하고, 기억력을 갖고 있고, 창의성과 상상력을 발휘합니다. 그러나 인간의 경우에는 언어를 쓰고, 또 도구를 사용해서 주변 세계를 변화시킨다는 점 때문에 다른 동물과 공유하는 이런 것들이 인간의 정신에서는 전혀 다르게 작용한다는 것, 그것 하나는 분명하게 말씀드릴 수 있습니다.

인간의 마음(정신)에서는 무의식도 중요한 비중을 차지한다

인간 의식을 다룰 때 우리가 간과하지 말아야 할 것은 이른바 무의식입니다. 어떤 점에서 이런 지적은 별로 논쟁적일 게 없습니다. 우리는 일상에서 많은 것들, 많은 생각들을 많든 적든 무의식적으로 합니다. 익숙한 것일수록 특별히 의식하지 않고도 수행하곤 합니다.

무의식에 대한 좀 더 논쟁적인 것 하나는 지그문트 프로이트와 관련돼 있습니다. 프로이트는 사람이 이성적이고 합리적인 사고에 배치되는 듯이 보이는 행동을 하는 것이 무의식 때문이라고 봤습니다.

오늘날의 관점에서 봤을 때, 프로이트가 말한 것 중 많은 것이 구식이고 반동적인 것은 사실입니다. 그럼에도 프로이트가 인간의 정신을 이해하는 데서 아주 중요하게 기여한 바를 간과하는 것은 크나큰 실수가 될 것이라고 저는 생각합니다.

구체적으로 말해, 프로이트가 인간의 정신이란 매우 동태적인 것이라고 본 것은 대단히 중요한 기여입니다. 그리고 그런 관점에서 인간의 의식을 바라보면, 왜 일부 사람들이, 예컨대 그들의 이익에 반하는 것처럼 보이는 행동에 나서는지를 설명할 수 있습니다.

특히, 인종차별이나 성차별, 성소수자 혐오의 심리적 근원에서 무의식적 공포나 욕망이 하는 구실을 설명하는 데 도움이 될 수 있습니다.

그리고 제 책에서는 비고츠키[와 볼로쉬노프 — 역자]가 중시한 언어의 구실 등을 기초로 무의식이 어떻게 작동하고, 뇌에 어떻게 작용하는지를 설명하려고 했습니다.

비고츠키는 인간의 정신이 내적 언어라는 것을 기초로 작동한다고 봤고, 특히 반사적 성격이 강한 의식일수록에서 더 그렇다고 봤습니다. 언어의 유동성[신축성]은 우리가 모순되는 생각을 동시에 갖는 이유를 설명해 줄 수 있을지도 모릅니다.

그럼 지금까지 제가 말씀드린 것들이 대체 인공지능과 무슨 관계인지 궁금하실 것입니다. 오늘날 언론이나 TV, 뉴스, 각종 보고서에서는 “인공지능”이라 불리는 컴퓨터 기술이 인간의 지능을 따라잡고 있고 심지어 능가할 수 있고 그것이 아주 우려된다는 얘기를 많이 들을 수 있습니다.

컴퓨터가 세계를 머지않아 정복할 수 있다는 생각에 개인적으로 저는 회의적입니다. 컴퓨터의 ‘지능’이 점점 인간과 유사해지고 있다는 생각은 인간 지능이 얼마나 복잡하고 또 대단한 것인지를 과소평가하는 것이라고 저는 봅니다.

컴퓨터가 인간을 따라잡고 있다는 생각이 유행하는 것은, 자본주의에서 사람들이 자신의 창조물로부터 소외되는 경향 때문이라고 봅니다.

관련해서 마르크스는 중요한 주장을 한 바 있습니다. 자본주의 생산 체계는 사람들을 원자화 시키고 사람들이 자신을 커다란 기계 속 작은 부품에 불과하다고 여기도록 만드는 탓에, 사람들은 자신들이 생산한 것(컴퓨터도 여기에 속합니다)을 마치 외부의 어떤 적처럼 느끼게 된다는 것입니다. 실제로는 인간 노동의 산물인데도, 마치 인간의 통제 바깥에 있는 것으로 여긴다는 것이죠.

물론 그렇다고 해서 컴퓨터로 인한 위협이 모두 허상이라는 것은 아닙니다. 인공지능 때문에 기자나 다른 직군의 노동자들이 일자리를 잃을 수도 있고, 미사일을 퍼붓는 드론이 전쟁에 투입되면 아주 심각한 위협이 될 것입니다. 이런 위협을 과소평가해서는 안 될 것입니다.

그러나 컴퓨터 자체가 위협이라고 생각한다면 이는 실수일 것입니다. 그보다는 자본주의가 조직되는 방식 그리고 자본주의가 컴퓨터를 사용하는 방식이 진짜 위협인 것입니다.

컴퓨터의 작동 방식

컴퓨터 프로그램을 인간의 뇌와 동급으로 여기는 것이 왜 잘못인지를 설명하려고 준비한 슬라이드입니다. 컴퓨터가 어떻게 작동하는지를 나타낸 것입니다.

컴퓨터의 경우에는 자료가 입력되면 CPU가 이를 처리해서 결과를 내놓습니다. 이 과정에서 컴퓨터가 자신이 무슨 활동을 하고 있는지 자각하고 있다는 증거는 전무합니다. 반면, 인간의 뇌는 외부 세계에서 자료를 얻고, 여기에 의미를 부여하고, 이를 통해 외부 세계에서 무슨 일이 벌어지는지를 이해하려고 의식을 사용합니다.

뇌의 신경세포가 온오프 스위치에 불과할까?

물론 어떤 사람들이 컴퓨터가 점점 진화하다 보면 그런 차이도 사라질 수 있다고 주장합니다.

챗GPT 같은 최신 프로그램들은 그 바탕 알고리듬에 “신경망”이 있다고 주장합니다. 그런 “신경망”이 인간의 뇌에 있는 신경세포 조직과 유사한 구실을 한다는 것입니다. 그러나 인공 “신경망”과 인간의 뇌에는 큰 차이점이 있습니다.

구체적으로 말해, 컴퓨터 프로그램의 인공 “신경망”은 온·오프 스위치에 불과합니다. 0이거나 1이거나, 둘 중 하나만 가능합니다. 반면 이 슬라이드에서 보시는 인간의 신경세포는 그 자체로 복잡한 구조를 갖고 있고, 이를 단순한 온·오프 스위치와 같다고 볼 수 없습니다.

인공지능의 위력을 강조하는 사람들이 흔히 펴는 또 다른 주장은 뇌의 생물학적 구조가 컴퓨터와 비교해서 별로 중요하지 않다는 것입니다. 컴퓨터의 하드웨어든, 인간 뇌의 “웨트웨어”든 그 차이는 중요하지 않고 결국 소프트웨어 차이가 전부라는 것이고 그래서 뇌를 대단히 복잡한 전자회로 정도로 여깁니다. 그리고는 언젠가는 컴퓨터가 비슷한 수준의 복잡도를 갖게 될 것이라고 주장합니다.

뇌의 신경세포들은 분명 전기 신호를 주고받습니다. 그러나 뇌 속에서는 그것 말고도 훨씬 많은 일들이 벌어지는데, 그 점을 한사코 못 본 척합니다.

구체적으로 말해, 뇌의 작용 방식은 선형적이지 않은 것 같습니다. 그래서 선형회로에서 보이는 것보다 훨씬 더 복잡한 방식으로 작용합니다.

따라서 우리는 훗날 컴퓨터가 위협적일 수도 있다는 점을 배제하지 않으면서도, 인간의 뇌가 컴퓨터보다 훨씬 더 복잡하고 또 미묘하다는 점을 분명히 해야 합니다.

그렇다면 이런 질문을 던져 볼 수 있습니다: 대체 사람들은 왜 컴퓨터가 인간을 위협할 것이라고 생각하게 됐을까요?

그 답은 앞서 제가 소개한 카를 마르크스의 소외론에서 찾을 수 있는데, 바로 우리가 세계를 소외된 방식으로 인식한다는 것입니다.

현대 자본주의 사회는 계급으로 나뉘어 있고 그것이 진정한 문제이다

지금까지 저는 인간의 의식을 아주 긴 시간 규모로 다뤘습니다. 유인원에서 인간으로 진화하는 과정에서 나타난 것이라고 말입니다. 그렇지만 현대 사회만의 중요한 차이점도 봐야 하는데 바로 계급으로 나뉘어 있다는 것입니다.

인류는 지구상에 처음 등장한 이래 대부분의 기간을 수렵 채집 사회에서 살았습니다. 그런 사회에는 계급도 없었고, 성차별이나 인종차별, 동성애 혐오도 없었습니다. 그런데 수만 년 전 농업 혁명이 벌어지고 최초의 도시와 문명이 등장하면서 모든 게 바뀌기 시작했습니다.

그런 도시들을 중심으로 오늘날 우리가 당연하게 받아들이는 문명이 건설됐고, 이제 우리는 대규모 교통수단이나 80억 인구를 먹여살릴 능력 등을 갖게 됐습니다. 그러나 동시에 계급 분단과 수많은 다른 분단(성차별, 인종차별, 동성애혐오 등)도 생겨났습니다.

현대 자본주의에서는 구성원 다수가 사회에 뭔가 문제가 있다고 생각할 수는 있지만 그럴 때에도 달리 대안이 없다고 여기기 십상입니다. 자본주의가 자연스러운 것처럼 보이기 때문입니다.

또한 사람들은 자신이 부딪힌 문제가 피부색이 다른 사람들 때문이라거나, 젠더나 국적이 다른 사람들 때문이라고 생각해 버리고 자본주의 자체가 원인이라는 점을 보지 못하기도 합니다.

마찬가지로, 사람들은 자신이 사용하는 도구나 노동 생산물이 문제의 원인이라고 생각해 버리고 자본주의가 우리를 체계적으로 억압하고 분열시킨다는 점을 놓칠 수 있습니다.

그러나 역사를 살피면, 사람들이 이런 분열에 도전하고 자본주의 자체가 문제라는 것을 꿰뚫어 본 경우들이 존재합니다.

바로 지금 이 순간 영국은 아주 흥미진진한 경험을 하고 있는데, 아주 오랜만에 각종 노동자들이 파업에 나서고 있는 것입니다. 파업 노동자들은 인플레이션 등 사람들을 벼랑 끝으로 내모는 현실에 맞서 싸우고 있습니다. 남한에도 노동자들이 자본주의에 맞서 자랑스러운 투쟁을 벌인 역사가 있다는 것을 익히 알고 있습니다.

대중 투쟁이나 혁명이 벌어졌을 때 볼 수 있는 흥미로운 점은 그런 투쟁 과정에서 사람들의 의식이 대단히 빠르게 변할 수 있다는 것입니다.

제 책에서는 사람들의 의식이 이렇게 삽시간에 변하는 현상을, 인간의 뇌가 무척 동태적이라는 점으로 설명할 수 있다고 보이려 했습니다.

미래에 인공지능이 실업을 야기하거나 살상용 전쟁 무기에 이용될 위험을 과소평가하지는 말아야 할 것입니다. 그런 식으로 컴퓨터 기술을 이용해 사람들에게 고통을 주려는 시도에 맞서 싸워야 할 것입니다.

그러나 근본적으로 문제의 원인은 자본주의 체제이지 컴퓨터가 아니라는 점을 잊지 말아야 합니다. 컴퓨터는 그저 도구이자 기계일 뿐입니다.

정리하자면, 인간의 의식은 정말로 위대한 것입니다. 우리가 누리는 엄청난 교통 수단이나 엄청난 도시들을 보면 알 수 있습니다. 인간은 불과 4만 년이라는 짧은 시간 안에, 지구 표면에 바짝 붙어 입에 풀칠하기에 바쁜 존재에서 이제는 우주로 심지어 태양계 너머로까지 로켓을 보내는 존재가 됐습니다. 컴퓨터 기술은 이런 업적 중 하나입니다.

그러나 동시에 우리는 재앙을 향해 치닫고 있습니다. 자본주의가 지구에서 벌이는 일을 중단시키지 않는다면 문명 자체가 종말을 맞이할 수 있습니다. 지구온난화, 대규모 환경 파괴, 전례 없는 규모의 생물 멸종 같은 일들이 오늘날 자본주의 하에서 벌어지고 있습니다.

물론 모든 나라에서 정치인들은 그들도 문제의 심각성을 알고 있고 뭔가 대책을 세우겠다고 말합니다. 그러나 현실은 갈수록 악화되고 있지 그 반대가 아닙니다.

그렇기 때문에 저는 그간 인류가 이룩한 과학과 기술을 대단히 사랑하지만 동시에 과학자로서 사회주의 혁명이 필요하다고 생각합니다. 사회주의 혁명 말고는 과학과 기술이 인류를 낙원이 아니라 재앙으로 이끄는 것을 막을 길이 없기 때문입니다.

미래 사회주의 사회에서 컴퓨터 기술은 세계를 더 윤택하게 만드는 수단 중 하나가 될 것이고, 그 잠재력은 오늘날의 우리로서는 상상하기도 어려울 만큼 엄청날 것입니다. 그렇지만 그렇게 하기 위해서는 자본주의 체제를 타도하고 전혀 다른 방식으로 운영되는 사회를 만들어야 합니다.

감사합니다. 이제부터 흥미로운 질문과 의견들을 기대하겠습니다.

시청자 발언 1: “인공지능의 예술 분야 침범, 문제는 AI 자체가 아닌 자본주의”

요즘은 인공지능이 그림 그리기나 작곡 같은 인간의 창작 영역까지 넘보는 것 아니냐는 두려움이 있는 것 같습니다.

근데 인공지능으로 그린 그림들도 사실 인간이 그린 그림들을 학습시키고 인간이 키워드를 넣고 반복적으로 조합하는 과정을 거치기 때문에, 이것을 어떤 인공지능의 창의성이라고 보기는 어렵다고 생각합니다.

그러나 때로는 인공지능이 만든 결과물이 꽤나 놀라운 경우들이 있는데요. 저는 카메라의 발전이 그림에 미친 영향이 모순적이었던 것과 지금 상황이 비슷하다는 생각도 듭니다. 카메라로 인해 화가들을 사실대로 똑같이 그려야 한다는 집착에서 벗어나 추상화나 입체파 같은 새로운 시도를 할 수 있었습니다. 하지만 일자리를 잃은 화가들도 많았어요.

결국에는 기술을 사용하는 자본주의라는 생산양식이 문제라는 생각이 듭니다.

한편에서 인공지능이 그림 분야를 나름 침범할 수 있는 이유 중 하나는, 인공지능이 문제라기보다는 예술이 자본주의하에서 획일화되는 것과 연결돼 있지 않을까 하는 생각이 듭니다.

예술이 산업이 되다 보니 그림 그리는 사람들이 창의성을 발휘하기보다는, 거의 일률적이고 테크닉적으로 고도화되는 것만 요구받고요. 오히려 이런 경향이 기계한테 학습시키기 쉬워진 게 아닐까 하는 생각이 들었어요.

기계가 인간을 따라잡을 만큼 창의적이 됐다기보다는 자본주의에서 인간들의 창조적 행위가 그만큼 억제되고 있는 게 더 문제 아닐까 하는 생각이 들었습니다. 이에 대한 패링턴 교수의 의견이 궁금합니다.


시청자 발언 2: “학교에 AI 보조 교사 도입한다는 정부, 어떻게 봐야 할까?”

안녕하세요. 저는 중학교에서 영어를 가르치는 현직 교사입니다. 교육 분야에서도 인공지능에 대한 논의와 연구가 정말 활발한데요.

한국 정부는 2025년부터 영어, 수학 등 몇몇 과목에 인공지능 AI 기술을 적용한 디지털 교과서를 도입하겠다고 합니다. 이걸 “AI 보조 교사”로 이름을 붙이겠다고 하는데요. 그러면서 AI를 이용하면 개별 맞춤형 교육이 가능하고 ‘학습 격차’를 해소할 수 있다는 장밋빛 환상을 내놓고 있어요.

일각에서는 “교사가 AI 보조 교사 시스템을 잘 활용해서 도움을 받게 되면 증강 지능을 갖추게 된다”고도 이야기합니다. 저 같은 교사들이 교육 과정 전반에서 인공지능을 활용할 수 있고, 특히 반복적이고 기계적이며 정답이 드러나는 평가, 기록, 피드백 등의 일은 기계가 인간을 뛰어넘을 수 있다면서, AI에 교수자의 지위를 부여할 수 있다고도 합니다. 이런 주장은 어떻게 봐야 할까요?

저는 이런 관점은, 인간을 교육하는 것에 대한 이해가 부족한 매우 협소한 생각이자 허상이라고 봅니다. 인간의 교육은 단지 지식을 전달하고 이해시키고 특정한 기능을 익히는 데만 머물러있지 않으니까 말입니다.

인간은 총체적인 관계 속에서 배웁니다. 자신을 둘러싼 세상과의 관계, 사물과의 관계, 상호작용하는 사람들과의 구체적인 관계 속에서 배웁니다. 발제자의 말씀처럼, 선형적이거나 기계적으로 배우는 것이 아니라 복합적으로 배웁니다.

교육 과정에서는 학생의 영양 실태나 심리·정서적 상태, 신체 건강의 정도, 교실에서의 경험과 교우 관계, 가족 내에서의 경험과 관계, 사회적 경험, 개인의 발달 단계나 취향 등 복합적인 요소들이 작동합니다. 교사들은 교실에서 학생의 표정과 말투 몸짓을 통해, 그런 요소들을 끊임없이 살피고 지속적으로 고려해 나름의 데이터를 축적합니다.

과연 AI가 그런 것들을 총체적으로 이해하고 학생들에게 맞춤형 교육을 제공할 수 있을까요? 교실 속 배움에서 필수적인 협력을 가르칠 수 있을까요? 학생들의 창의적인 순간들을 포착하고 그에 맞게 피드백을 줄 수 있을까요? 

저는 여전히 인간이 핵심이고, AI가 인간 교사를 대체해 교실과 학교에서 지배적인 역할을 할 수는 없다고 생각합니다. 물론, AI가 특정 기능에서는 보조적으로 쓸모 있을지 모르지만 그것의 역할이나 기능을 과장해서는 안 된다고 생각합니다.

코로나19 이전에는 온라인 수업과 동영상 수업이 교사를 대체할 것이라는 생각이 괴담처럼 떠돌았지만, 막상 코로나19 시기를 겪어 보니 등교 수업과 대면 수업에서 인간 교사가 하는 역할은 온라인이 대체할 수 없는 고유한 영역이라는 것을 많은 사람들이 깨달았습니다. 온라인 수업은 보조적 역할일 뿐이죠.

그런 점에서 정부가 AI의 기능을 과장하고, 교육 영역에 들여오려 하는 이유와 목적을 맹목적으로 추수하기보다는, 비판적으로 접근해야 한다고 생각합니다. 발제자께서 이에 대한 이야기를 더 해 주실 수 있다면 좀 더 들어 보고 싶습니다.

발제자의 정리

매우 흥미진진한 의견들 감사드립니다. 제게 주신 질문들을 최대한 많이 답하도록 애쓰겠지만 혹시 빠뜨린다고 하더라도 양해해 주시길 바랍니다.

초반에 한 분께서 인공지능 숭배가 반(反)지성주의적이고 우파적인 경향을 띤다고 말씀해 주셨는데, 타당한 지적이라고 생각합니다. 한 편으로는 인공지능이 인간을 능가한다면서 과장하는 경향이 있고, 다른 한 편으로는 자본주의가 우리를 억압하고 착취하는 흔한 방식 중 하나라는 것을 애써 보지 않는 경향이 동시에 존재한다고 생각합니다.

저 자신은 “인공지능”이라고 불리는 것, 정확히 말해 컴퓨터 기술에는 굉장히 유용한 잠재력이 많다고 생각합니다. 챗GPT나 그림을 그리는 인공지능 등을 적절하게 사용하면 우리가 예술적 영감을 얻고 교육에도 크게 이바지할 수 있다고 생각합니다.

한 분께서 카메라의 발명이 예술에 미친 영향을 언급하신 것은 매우 탁월했다고 생각합니다. 카메라의 발명으로 예술가들은 이전과는 다르게 세상을 바라보게 됐습니다. 단적으로 피카소가 세계를 표현하는 방식으로 큐비즘(입체주의)을 제시하게 된 것도 그중 하나입니다.

그러나 카메라의 발명은 또한 이전까지 그림을 그려 세계를 묘사하던 사람들의 생계를 심각하게 위협했습니다. 그리고 신기술 때문에 온갖 직종이 비슷한 어려움을 겪게 될 것이라는 점에는 의심의 여지가 없습니다.

그렇다면 이런 위험에 어떻게 맞서야 할까요? 정부 규제에 기대를 걸어야 할까요? 그렇지만 자본주의 정부들이 규제를 도입하는 것은 근본에서 자본주의를 보호하기 위한 것이지 노동자들을 보호하기 위해서가 아니라는 점을 우리는 기억해야 합니다.

노동자들이 컴퓨터 기술 탓에 자신의 삶이 더 어려워질 것이라고 염려하는 것에는 타당한 측면이 있습니다. 그리고 최선의 대응은 컴퓨터 기술이 그런 식으로 이용되지 못하도록 노동자들이 조직적으로 나서는 것입니다.

많은 분들께서 기업 아마존을 언급해 주셨습니다. 아마존은 컴퓨터 기술을 사용해서 생산의 효율을 크게 끌어올린 대표적 기업이지만 그 방식은 노동자들을 극한까지 쥐어짜는 것, 물류창고 노동자들에게 극단적으로 압력을 가하는 것입니다.

그런데 지금 영국에서, 그리고 미국과 세계 곳곳에서 아마존 노동자들은 노동조합을 설립하려 하고 또 파업이라는 아주 오래된 무기를 이용해서 저항에 나서고 있습니다.

아마존은 최첨단 기업이지만 노동자들이 택한 저항 방식은 아주 전통적 방식, 거수를 통해 파업을 표결하고 일손을 놓고 공장 밖으로 나가는 방식이었습니다. 최근 영국 코벤트리에서는 그런 방식으로 파업을 벌였습니다.

마찬가지로 미국에서도 헐리우드 배우·작가들이 파업에 나섰는데, 그들은 열악한 노동 조건과 낮은 수입, 고용 불안정뿐 아니라 컴퓨터 기술을 이용해 자신들의 처우를 악화시키는 것에도 맞서고 있습니다.

한 분께서 챗GPT 같은 컴퓨터 기술은 다른 사람들이 만든 결과물을 데이터 삼아 훈련시킨 것이므로 어떤 점에서 기생적이라고 주장하신 것에도 저는 완전히 동의합니다. 그러나 그에 맞서 싸우는 가장 좋은 방법은 노동자들이 단체 행동에 나서고 노조로 대응하는 것입니다.

교육에서 교사의 중요성을 역설해 주신 한 영어 교사분의 말씀에도 전적으로 동의합니다. 컴퓨터 기술은 교육에서 분명 유익하게 쓰일 수 있지만, 아이들을 가르치는 데서 핵심적 구실을 하는 것은 바로 교사라는 그분의 지적은 대단히 중요합니다. 레프 비고츠키가 러시아 혁명 이후 크게 관심을 가졌던 분야도 바로 교사들과 함께 작업하면서 아이들을 가르칠 새로운 방법을 개발하는 것이었습니다.

비고츠키 이전의 교육관은 아이들의 지능은 일정 수준을 벗어나지 못하고 따라서 스파르타식으로 암기 시키는 것이 최선이라는 것이었습니다. 그런데 비고츠키는 아이들이 교사와 그리고 동급생들과 상호작용하는 것이 더 효과적이라는 관점을 제시했습니다.

어떤 분께서는 언젠가는 컴퓨터가 자의식을 갖게 될 것인지를 물었습니다. 이런 일이 앞으로 영원히 절대로 벌어지지 못한다고 단언하는 것은 어리석을 것입니다.

그러나 컴퓨터가 일을 처리하면서 일말의 자의식을 갖고 있다는 증거가 현재로서는 전혀 없습니다. 컴퓨터는 분명 고도의 발명품이지만, 여전히 인간이 설계하고 프로그램한 대로 움직이는 발명품입니다.

저는 원숭이의 뇌조차도 현존하는 그 어떤 컴퓨터보다 더 고도화돼 있다고 생각합니다. 인간뿐 아니라 다른 동물들의 뇌도 수억 년에 걸친 진화의 산물이기 때문입니다.

물론 저는 인간의 정신을 이해하는 데서 절대적으로 중요한 것은 언어라고도 말씀드린 바 있습니다. 그렇지만 그건 언어가 뇌를 변화시키기 때문이고 뇌 자체는 생물학적 기관이므로, 진화의 산물이라는 얘기와 충돌하지 않습니다.

진화심리학에 관한 질문에도 마찬가지로 답변을 드릴 수 있습니다. 인간 의식에서 생물학적 요인을 무시하지 말아야 하듯이, 인간이 사회적 존재로 사회적 환경 속에서 발전해 왔다는 점도 중요하게 봐야 합니다.

인간의 정신을 생물학으로 환원하려는 경향과 생물학을 무시하려는 경향 모두를 거부해야 합니다. 인간의 의식은 생물학적 요인과 환경적 요인이 아주 복잡하게 상호작용한 산물입니다. 우리 각자의 의식은 그렇게 형성됩니다.

또 다른 분께서는 인공지능이 자본주의 경제를 침체에서 구할 성장동력이 될 수 있을까를 물으셨습니다. 분명 기술은 자본주의를 발전시키고 때로는 환골탈태 수준으로까지 변화시킵니다. 그러나 근본에서 자본주의 자체에는 경제 위기로 향하는 경향이 아로새겨져 있습니다.

이윤율 저하 경향처럼 위기로 치닫는 경향이 자본주의에서는 사라질 수 없다고 처음 규명한 사람은 카를 마르크스였습니다. 그리고 이윤율 저하 경향 문제는 지금도 해결되지 않은 채 체제의 핵심 문제로 남아있습니다.

오히려 마르크스 시절보다 오늘날 더 나빠진 것도 있는데, 바로 자본주의 체제가 생태적으로도 재앙을 낳고 있다는 것입니다. 오늘날 자본주의는 지구 전체를 위협하고 있습니다. 문명 전체의 존립을 위협하고 있다는 것은 너무 당연한 얘기이고, 어쩌면 지구 그 자체의 존립도 위협할 수 있습니다. 자본주의가 아닌 체제가 그 어느 때보다도 필요한 상황입니다.

도구는 자본주의를 타도하길 바라는 사람들에게도 유용할 수 있습니다. 지금 우리가 컴퓨터 기술을 이용해 이렇게 [화상으로] 토론하고 있는 것에서도 기술의 유용성을 확인할 수 있습니다.

우리가 진정으로 해야 하는 일은 혁명으로 자본주의 체제를 타도하는 것입니다. 그런 후에야 우리는 컴퓨터 기술로 세계를 더 윤택하게 만들 무궁무진한 가능성을 탐색할 수 있을 것입니다. 자본주의에서와 같이 기술이 인간을 옥죄는 일은 사라질 것입니다.

매우 흥미진진한 토론에 참가할 수 있어서 대단히 즐거웠습니다. 남한 동지들이 자본주의에 맞서 싸우는 투쟁에서 좋은 성과를 내기를 기원하고 더 나은 사회, 사회주의 사회를 향한 투쟁에서 좋은 소식을 들려주시기를 기대하겠습니다.