생성형 인공지능에 대해 극단적으로 나눠진 견해들

세상이 생성형 인공지능으로 들썩이고 있다. 챗GPT 3.5가 지난해 공개된 지 5일 만에 1백만 사용자를 넘어갔고 두 달 만에 월간 활성사용자 1억 명을 돌파하면서 예고되었던 일이다(인스타그램의 경우, 1억명에 도달하기까지 2년 반이나 걸렸다).

생성형 인공지능은 구글과 페이스북, 마이크로소프트 등 디지털 거대 기업들의 시장지배력 재편을 예고할 만큼 업계 판도에도 큰 영향을 미치고 있고, 일부에서는 성급하게 대대적인 일자리 소멸을 예언하기도 한다. 시장 재편이든 일자리 소멸이든 확실한 것은, 2023년 디지털 업계는 물론 산업계의 가장 큰 이슈의 하나가 생성형 인공지능이 될 것이라는 점이다.

하지만 생성형 인공지능의 잠재력과 전망에 대해 극단적으로 시각이 갈리고 있다. 우선 생성형 인공지능이 과거와는 차원을 달리하는, ‘일반지능’에 유사한 수준으로 접근하고 있을 정도로 그 영향력이 막대할 것이라는 분석이 있다. 챗GPT 개발 수혜를 가장 크게 보고 있는 마이크로소프트 창업자 빌 게이츠가 생성형 인공지능의 막대한 잠재력을 찬양하는 대표 인물이다.

한편 6개월간 chtGPT 실험을 멈추자는 공개서한을 냈던 일론 머스크와 일련의 전문가들은 부정적인 차원에서 생성형 인공지능의 위력을 크게 본다. 그들은 “최신 인공지능이 지구 위 생명의 역사에 근본적인 변화를 나타내는 것일 수” 있다면서 우려를 표한다. 비슷한 취지에서 인공지능 권위자 제프리 힌튼(Jeffrey Hinton) 캐나다 토론토대학 교수는 최근 구글을 사직하면서 인공지능의 부정적 활용에 대한 우려를 표시했다.

반면, 최근의 생성형 인공지능이 지금까지와 질적으로 다른 것은 아니라는 평가도 만만치 않다. 예를 들어 인공지능 최고 전문가의 한 사람인 얀 루쿤(Yann André LeCun) 뉴욕대 교수는, ‘통계를 기반으로 단어를 나열’하는 수준을 넘지 못한다는 점에서 생성형 인공지능의 한계는 분명하다고 선을 긋는다. 원로 언어학자 노엄 촘스키도 유사한 맥락에서 비판을 했다.

최근 인공지능은 자연어 생성 모델을 기반으로 하고 있는 ‘생성형’ 특징을 가지고 있어 확실히 기존의 ‘식별형’ 인공지능과 차별화된 느낌을 받는다. 하지만 생성형 인공지능은 이미 2017년에 구글이 개발한 신경망의 일종인 트랜스포머 아키텍처(Transformer Architecture)를 기반으로 한 대규모 언어 모델로서 일찍부터 잘 알려져 있던 것이기도 하다. 어떤 전망이 맞든 간에 지나친 환상이나 공포로 공론장이 지배되는 것은 바람직하지 않을 것이다. 확실한 것은 현실적으로 사회에 미칠 파장이 상당할 것이라는 점이다.

누가 생성형 인공지능을 좌우하고 있는가?

이 대목에서 생성형 인공지능에 대해서 놓치고 있는 정작 중요한 지점이 있다. 어떤 수준으로든 시민들의 일상과 문화, 사회적으로 다양한 현실적 영향을 미치게 될 생성형 인공지능이 주로는 소수 거대한 디지털 사기업들에 의해 독점적으로 주도되고 있다는 사실이다. 생성형 인공지능의 영향력이 어떤 수준이든 간에 특정 거대 사기업들의 수익 논리에 따라서만 움직이고, 사회적 이익에 대한 고려가 배제된다면 그것은 확실히 위험한 징후가 될 것이다.

더욱이 이 기술이 기존의 생산이나 노동, 사회적 관계에 상당한 수준의 ‘파괴적 영향’을 줄 수 있다면 더욱 사적 논리가 아니라 사회적 검토가 필요하다. 그런데 생성형 인공지능이 거의 전적으로 사기업들의 수익추구과 시장확대 논리에 따라 움직이고 있다는 사실을 걱정하거나 문제시하는 지적은 거의 찾아보기 어렵다. 2021년 미국 연방거래위원회(FTC) 위원장으로 선임되어 세계의 주목을 받았던 리나 칸(Lina Khan)이 마침 이런 차원에서 지난 5월 3일 뉴욕 타임즈에 “인공지능을 규제해야 하는 이유와 그 방법(We Must Regulate A.I. Here’s How)”이라는 글을 기고를 했다. 때문에 주목해야 할 글이다.

리나 칸은 기고문에서 2000년대에 거대 사기업들에 의해 주도된 웹 2.0의 장밋빛 환상과 그 귀결을 먼저 간략히 되짚어 본다. 당시 구글과 페이스북 등이 일으킨 혁신적인 검색엔진과 SNS라는 참신한 소통수단들이 결국은 그들의 독점이익을 극대화하는 방향으로 변질된 점을 그는 문제 삼았다.

칸은 “처음에 무료 서비스라고 생각했던 서비스는 사용자와 기업에 대한 광범위한 감시를 통해 수익을 창출했다. 그 결과 점점 더 필수적인 서비스에 대한 액세스가 개인 데이터의 광범위한 비축과 판매를 조건으로 하는 온라인 경제가 탄생했다”고 지적한다. 또한 이들 소수 거대 기업들은 “자신들의 입지를 위협하는 기업을 인수하거나 폐쇄하는 공격적인 전략과 결합하여 소수의 기업이 지배력을 공고히 했다. 혁신적인 기술들로 시작한 것이 결국 주요 서비스에 막대한 사적 권력을 집중시키고 개인정보 보호와 보안에 막대한 대가를 치르는 비즈니스 모델을 고착화하는 결과를 낳았다”는 것이다. 현재 미국의 거대 디지털 플랫폼 독점 체제가 바로 그 산물인 것이다.

사적 독점체들이 주도한 생성형 인공지능의 위험성

리나 칸은 이번 생성형 인공지능 붐이 과거와 같이 소수 디지털 거대기업들의 사적 수익을 위한 경쟁수단으로 전락하지 않고, 다수 시민들의 이익을 위해 제대로 활용되려면 ‘공공의 역할’이 매우 중요하다고 강조한다. 그는 우선 최근 생성형 인공지능이 이미 드러내고 있는 사회적 위험성을 다음과 같이 지적한다.

가장 먼저 공정거래의 수장으로서 그는, “인공지능의 도입이 확대되면서 기존 대기업의 시장 지배력이 더욱 공고해질 위험”을 지목한다. 이런 중요한 문제제기는 아직 우리나라 공정거래위원회에서는 전혀 나오지 않고 있고 시민사회에서도 관심 밖이다. 이미 인공지능 경쟁은 미국에서는 마이크로소프트, 구글, 페이스북 등 기존 거대 독점체 안의 경쟁 공간으로 바뀌고 있고, 한국에서도 네이버와 카카오 등 거대기업들의 게임이 되고 있다. 이 경쟁은 현재 생성형 인공지능의 필수 자원인 대규모의 빅데이터 자원과 데이터센터 자원 보유를 기반으로 한다. 칸은 이들이 독점력을 이용해서 생성형 인공지능 분야에서도 “담합, 독점, 합병, 가격 차별, 불공정한 경쟁 방법”을 동원할 수 있다고 보면서 주시하겠다는 의지를 표명한다.

둘째로, 생성형 인공지능이 ‘사기를 부추길 위험’이 있다고 경고한다. 칸은 “사람들을 속이기 위한 스피어 피싱 이메일, 가짜 웹사이트, 가짜 소비자 리뷰를 생성하는 데 사용되고 있으며, 심지어 특정 그룹과 커뮤니티를 겨냥한 단어나 문구를 사용하도록 봇에 지시하는 경우” 등 사기꾼들을 위해 악용될 소지가 있음을 우려하고 있다.

셋째로, 그는 생성형 인공지능 역시 “거의 확인되지 않은 방식으로 방대한 양의 데이터에 대해 학습”되고 있기 때문에, 오류와 편견으로 가득찬 정보들로 인한 ‘차별의 자동화’를 경계해야 한다고 지적한다. 또한 “사적인 이메일, 채팅 및 민감한 데이터에 대해 학습되어 궁극적으로 개인 정보를 노출하고 사용자의 프라이버시를 침해”할 가능성에 대해서도 경계해야 한다고 말한다.

생성형 인공지능시대의 공공의 역할

리나 칸은 미국 반독점 역사를 회고하면서, 1960년대에 IBM을 반독점으로 규제하여 소프트웨어 발전의 길을 열어 주었고, 1970년대 AT&T의 특허를 풀어 많은 신생기업들의 부상을 촉진했던 사례를 들었다. 거대 사기업들에 대해 공정거래 차원에서 적절히 규제하는 것이 혁신을 방해하는 것이 아니라 긴 안목에서 혁신을 촉진했다는 사실을 환기시켜주고 있는 것이다.

하지만 우리 사회에서는 정부나 정치권, 미디어, 학계 등 거의 모든 곳에서 생성형 인공지능이 만들어낼 미래를 찬양하거나, 이를 정책으로 지원하자는 얘기만 무성하다. 그 위험성을 논할 때에서도 ‘일자리 소멸’, ‘살인 로봇’ 등 다소 추상적인 수준의 디스토피아적 미래를 걱정할 뿐, 지금 당장 인공지능 기술이 오직 거대 사기업들의 수익추구 수단으로만 이용될 때의 현실적인 위험성에 대한 지적은 찾아보기 어렵다.

생성형 인공지능은 먼 미래의 일자리를 위협하기만 하는 것은 아니다. 현재 생성형 인공지능 경쟁의 맨 앞자리에 서 있는 구글, 페이스북 등 디지털 기업들은 생성형 인공지능에 거액의 자금을 쏟아붓고 있는 사이에 지금 이 시간 대규모 해고를 이어가고 있지 않은가? 생성형 인공지능이 미래 인류에게 거대 위협이 되기에 앞서 지금 당장 사기와 차별, 개인정보 침해를 하고 있지는 않은가?

아무리 혁신적인 기술이라도 자동적으로 사회를 위해 좋은 역할을 하는 것은 아니다. 사회가 좋은 방향으로 사용하기로 결정하고 선택해야만 그 방향으로 이용될 것이다. 장밋빛 유토피아를 그리든 우울한 디스토피아를 상상하든 모두가 생성형 인공지능에 흠뻑 취해 있을 때, 이 기술이 지금 당장 특정 거대기업의 수익수단만이 아니라 다수 시민들과 사회 구성원들에게 어떻게 이롭게 이용될 수 있을지 진지하게 검토할 필요가 있다. 그것이 공공이 해야 할 가장 기본적인 역할이기도 하다.

* <정의로운 경제> 연재 칼럼 링크