테드 창 “AI, 단시간 많이 연습했을 뿐…응용통계에 가까워”; 인간의 지능과 AI는 본질적으로 다르다고 지적했던 스티븐 핑커가 떠오르네
https://www.hani.co.kr/arti/economy/economy_general/1144548.html
테드 창 “AI, 단시간 많이 연습했을 뿐…응용통계에 가까워”
사람과디지털포럼
“이해도 의도도 없는 AI, 인간 예술 대체 못 해”
“챗GPT는 웹의 흐릿한 복제품…실수할 수도”
“챗지피티(ChatGPT)에 ‘반갑습니다’라고 말하도록 만드는 건 쉽지만, 챗지피티는 여러분을 봐도 반가움을 느끼지 않습니다.”(테드 창)
이 시대 최고의 과학소설(SF) 작가라 불리는 테드 창이 12일 서울 중구 대한상공회의소 국제회의장에서 열린 ‘제3회 사람과디지털포럼’에 참석해 ‘인공지능, 인공물, 예술’을 소재로 강연했다. 한겨레가 주최하고 한겨레경제사회연구원과 사람과디지털연구소가 주관한 이번 포럼은 ‘사람 넘보는 인공지능(AI), 인간 가치도 담아낼 수 있을까?’라는 주제로 이뤄졌다.
소설 ‘당신 인생의 이야기’(영화 ‘컨택트’ 원작)와 ‘숨’ 등의 작품을 펴내 휴고상, 로커스상 등을 수상한 그는 지난해 미 시사주간 타임지가 선정한 ‘인공지능 100대 인물’에 선정됐으며, 그가 쓴 ‘인류 과학의 진화’ ‘우리가 해야 할 일’은 세계적인 과학 학술지 ‘네이처’에 게재되기도 했다.
이날 테드 창은 인공지능은 ‘의도’와 ‘지능’이 없다고 말했다. 강아지와 아기는 말할 수 없거나 서툴러도, 반가운 마음을 사람에게 전달할 수 있지만 챗지피티는 아무것도 느낄 수 없고 아무것도 원하지 않는다. 챗지피티는 감정을 전달하려는 의도가 없기에 언어를 사용한다고 볼 수 없다는 것이 테드 창의 견해다.
테드 창은 ‘지능’을 ‘기술을 습득하는 능력’이라 봤다. 알파제로(구글의 체스 인공지능)는 네 시간 동안 천만번을 연습해야 어느 수준에 다다를 수 있지만, 인간 체스 선수는 알파제로보다 약 천배 적은 몇천 번 만에 같은 수준에 도달할 수 있다고 설명했다. 지능이 없는 인공지능은 단시간 안에 비인간적으로 많은 연습을 할 수 있을 뿐이라는 것이다. 테드 창은 “(우리가 말하는 인공지능은) 인공기술의 시연에 가깝다”며 ‘인공지능’ 대신 ‘응용통계’라는 용어를 제안했다.
테드 창은 인공지능이 기존의 저작물을 모방하면서 나타나는 인공물의 ‘그럴듯함’을 주의해야 한다고 경고했다. 테드 창은 “챗지피티는 문법적으로 정확한 문장을 구사하므로 표면적으로는 예리한 정보를 주는 것 같지만, (웹 정보의 ‘흐릿한 복제’ 과정에서) 실수가 있을 수 있다. 그것이 여러분을 속일 수 있다”고 했다. 그는 지난해 2월 ‘뉴요커’에 기고한 글에서 “챗지피티는 웹의 흐릿한 복제본에 불과하다”고 주장한 바 있다.
테드 창은 인공지능이 ‘예술’에서도 인간을 대체할 수 없다고 주장했다. 테드 창이 바라보는 예술은 ‘선택의 연속’이다. 테드 창은 “소설을 쓸 때 인공지능에 단어 선택을 맡긴다면, 인공지능은 다른 작가들이 선택한 단어를 평균 내 산출하거나 특정 작가의 형식을 모방할 것”이라며 “특징이 없거나 파생적인 이야기가 될 수밖에 없다. 어떤 경우에도 흥미로운 예술 작품을 만들 수 없을 것”이라고 했다.
영화의 경우도 마찬가지다. 최근 소라(오픈에이아이의 텍스트 기반 동영상 생성 인공지능)가 등장하자, 미래에는 이를 이용해 사람 한 명이 영화를 만들 수 있다는 예측이 나온 바 있다. 하지만 테드 창은 기존 영화를 뛰어넘을 수 없을 것이라고 진단했다. 테드 창은 “영화를 제작할 때 카메라맨은 카메라의 각도를 조절하고 디자이너는 의상을, 편집작가는 속도를, 작곡가는 음악을 선택한다”며 “예술은 선택의 결과물이며 이것이 흡입력을 만든다”고 했다.
강연 뒤에는 김범준 성균관대학교 교수(물리학)와의 대담이 진행됐다. 대담에서 테드 창은 감정을 느끼는 인공지능에 관해 “개발이 가능하다면 기술적인 성과겠지만 얼마나 효용이 있는지 모르겠다. 이미 인간이 있는데 그런 기계를 개발할 필요가 있느냐”고 되물었다. “누군가를 만났을 때 ‘반갑다’고 말하는 것은 새로운 표현이 아니지만 의미 있다. 감정을 실제로 느끼는 것과, 감정을 느끼는 것처럼 드러내는 건 다르다”라며 온도에 따라 표정이 바뀌는 기계를 예시로 들었다. 특정 온도에 웃는 얼굴이 나타나는 기계가 있다고 해서 실제로 감정을 느끼는 것은 아니며, 기계가 감정을 느끼는 것처럼 사람에게 착각을 일으킬 뿐이라는 것이다.
https://www.hani.co.kr/arti/economy/it/1142108.html
오는 6월12일 “사람 넘보는 인공지능(AI), 인간 가치도 담아낼 수 있을까?”를 주제로 열릴 제3회 ‘한겨레 사람과디지털 포럼’의 기조연사 테드 창을 인터뷰했다. 포럼에서 테드 창과 대담을 진행할 김범준 성균관대 교수(물리학)가 전자우편으로 인터뷰를 진행했다.
테드 창은 미국에서 활동하고 있는 이 시대 최고의 과학소설(SF) 작가다. 에스에프 문학계에서 가장 권위 있는 상인 네뷸러상과 휴고상을 여러 차례 받았다. 단편소설 ‘네 인생의 이야기’는 2016년 드니 빌뇌브가 감독한 영화 ‘어라이벌’(국내 제목 ‘컨택트’)로 만들어져 큰 인기를 끌었다. 테드 창은 최근엔 인공지능에 대한 깊은 통찰이 담긴 글들을 발표해 큰 주목을 받았다. 특히 지난해 2월 ‘챗지피티는 웹의 흐릿한 복제본이다’라는 ‘뉴요커’ 칼럼은 인공지능 논쟁의 차원을 높였다는 평가를 받았다.
―한겨레 독자를 위해 자기소개를 부탁한다.
“과학소설 작가 테드 창이다. 단편소설집 ‘당신 인생의 이야기’와 ‘숨’을 펴냈다.”
―당신은 대학에서 자연과학과 컴퓨터과학을 전공했다. 과학소설 작가뿐 아니라 누구나 과학에 익숙해져야 하는 이유는?
“우주가 어떻게 작동하는지 아는 것은 중요하다. 바로 과학이 우리에게 가르쳐주는 지식이다. 우주는 우리가 원하는 방식대로 늘 작동하는 것이 아니다. 우리의 선호가 우주에 반영되지는 않는다. 예를 들어, 미국에서는 여전히 많은 사람이 자신이 태어날 때의 천체 위치가 자신의 성격을 결정한다고 믿고, 한국에서도 혈액형이 성격과 관계가 있다고 믿는 사람이 많다. 사람들을 특정한 유형으로 구분하는 것은 심리적 안정감을 줄 뿐이다.”
―당신의 여러 작품은 ‘만약 ~라면’으로 시작하는 일종의 ‘사고실험’으로 보인다. 과학과 에스에프에서 사고실험을 비교한다면?
“에스에프의 사고실험은 과학 분야의 사고실험처럼 엄밀할 필요가 없다. 에스에프 소설을 읽는 독자는 ‘불신의 유예’(상식적으로는 맞지 않은 부분이 있어도 독자가 개의치 않고 이야기에 몰입하게 되는 현상)를 경험한다. 이런 불신의 유예는 소설에서는 타당하지만 과학에서는 그럴 수 없다. 과학자들의 사고실험은 과학을 실제로 발전시키기 위해 진행된다. 아인슈타인이 망원경으로 외부를 쳐다보지 않고도 혼자 방 안에서 사고실험을 통해 상대성이론을 만들어낸 것처럼 말이다. 에스에프 작가는 “아이를 낳는 것이 금지된 세상에서도 죽지 않는 삶이 바람직할까?”처럼, 철학적 질문을 문학 작품으로 만들어내기 위해 사고실험을 이용한다.”
―당신은 요즘은 인공지능 비평으로 널리 알려져 있다. 에스에프 작가로서 경험이 인공지능 이슈에 대해서도 목소리를 높이는 것과 관련이 있는가?
“과학소설 작가가 인공지능 기술자들에게 그들의 상상에 고삐를 죌 필요가 있다고 얘기하는 것은 약간 묘한 상황이다. 우리가 살아가는 세상에서 실제로 어떤 일이 일어날지에 대한 시나리오와 좋은 이야기를 위한 시나리오를 구분하는 게 필요하다고 생각한다. 인공지능 분야의 많은 이들이 컴퓨터가 인간보다 더 뛰어난 지능을 갖게 되는 특이점에 대해 이야기한다. ‘특이점’이라는 용어는 미국의 에스에프 작가 버너 빈지가 제안한 용어다. 나는 특이점이 소설에서는 훌륭한 아이디어이며 이에 기반한 소설도 좋아하지만, 현실에서 고민할 필요가 있는 아이디어는 아니라고 생각한다.”
―인공지능을 해상도가 낮아 흐릿한 웹의 이미지파일(jpeg)로 은유한 1년 전 ‘뉴요커’ 칼럼이 인상적이었다. 이러한 은유는 왜 중요할까? 은유가 가진 힘이 무엇인가?
“내가 다른 칼럼에서 인공지능을 ‘매킨지’에 비유한 적이 있는데, 이 은유는 사실 성공적이지 못했다. 많은 이들이 컨설팅기업 매킨지에 대해 잘 알지 못하는 까닭이다. 그래서 나는 인공지능이 자본주의의 칼날을 더 날카롭게 하는 ‘칼갈이’라고 자주 비유한다. 같은 생각이지만 좀 더 이해하기 쉽게 표현한 은유이기 때문이다. 은유는 우리가 익숙하지 않은 개념을 더 쉽게 이해하도록 이끌 수 있다는 면에서 중요하다. 영어에서 ‘움켜쥘 수 있는 핸들을 갖게 된다’(get a handle on something)는 표현은 ‘이해하기 시작한다’는 것을 뜻하는데, 은유의 유용성에 대한 비유라고 할 수 있다. 은유는 유용하지만, 그럼에도 불구하고 은유는 진실이 아니라는 것도 항상 기억해야 한다. 은유는 우리가 이해를 시작하는 하나의 방식이라고 생각한다.”
―개인적 수준이 아닌 사회적 수준에서 재귀적인 발전이 기술 발전의 중요한 동력이라고 생각한다. 인공지능도 사람처럼 사회적 학습을 할 수 있을까? 사회를 이룬 인공지능이 자신들보다 더 나은 인공지능을 만들어낼 수도 있을까?
“인공지능 프로그램 사이의 상호작용은 사람들 사이의 상호작용과 아무런 공통점이 없다. 인공지능은 도구일 뿐이다. 도구일 뿐인 인공지능을 결합해서 개선이 이루어진다면, 그것은 단순히 그 도구를 이용하는 인간의 우수성을 보여줄 뿐이다. 먼 미래에 인공지능 프로그램들이 정말 사람과 같아질 수도 있다. 하지만 그게 무슨 의미가 있을까? 우리는 이미 수십억명의 인간이 있는데 말이다. 우리가 사람들이 협력을 통해 만들어낼 수 있는 커다란 이점을 원한다면 우리는 이미 어떻게 할지 잘 알고 있는 셈이다. 나는 인공지능 개발의 목표는 우리가 스스로 할 수 없는 일을 할 수 있도록 도와주는 도구를 만드는 것이라고 생각한다.”
―당신은 인공지능의 시대에 우리는 자본주의를 길들여야 한다고 강조했다. 과거 40년 정도의 기간 동안, 그리고 지금도 우리는 경제적 불평등 문제를 해결하지 못했다. 당신은 자본주의의 해악을 줄이기 위한 인공지능 파괴운동(러다이트)을 말하기도 했다. 자본주의의 문제를 해결하려면 우리는 어떻게 해야 할까?
“간단한 해결책은 없다. 더 강한 노동조합, 그리고 노동자가 투자자를 대신해 회사의 소유자로 참여하는 것도 도움이 될 수 있다. 대차대조표의 수치로만 의사결정을 하는 경영진 대신 노동자가 중요한 의사결정에 참여하도록 할 수도 있다. 러다이트가 된다는 것이 기술에 반대하는 것을 뜻하는 게 아니다. 회사 주주의 이익보다는 노동자들의 경제적 정의에 더 관심을 두는 것이 내가 말한 러다이트이다. 우리가 경제적 정의를 선호하는 정책을 원하든, 주주의 이익을 선호하는 정책을 원하든, 기술은 둘 모두를 도울 수 있다는 것이 중요하다.”
―다음달 12일 한겨레 사람과디지털 포럼에서 어떤 얘기를 할지 미리 소개한다면?
“나는 인공지능이 정말로 지능이 있는 것은 아니며 거대언어모델이 언어를 사용한다고도 할 수 없다고 주장할 예정이다. 또 생성형 인공지능이 예술 작품을 만드는 도구도 아니라는 얘기도 하려고 한다.”
Comments
Post a Comment