추가 적립 안내

챗GPT는 기사를 쓸 수 있는가?
챗GPT는 인간의 노동을 대체하는가?

챗GPT가 우리에게 던진 질문들
“챗GPT는 무엇을 할 수 있고 할 수 없는가?”

2023년 12월 세계적 과학 학술지 『네이처』가 ‘2023 과학계를 만든 인물’(네이처10)에 챗GPT를 선정했다. 『네이처』는 2011년부터 과학계에 큰 성과를 냈던 인물을 ‘네이처10’에 선정해왔는데, 인간이 아닌 챗GPT가 선정된 것은 처음이었다. 챗GPT가 원고를 요약하거나 작성하고, 애플리케이션을 다듬고, 코드를 작성하는 데 도움을 준다면서, 과학 발전과 진보의 방식을 획기적으로 바꾸었다고 말했다. 이제 생성형 인공지능으로 대표되는 챗GPT가 세상에 광범위하게 영향력을 행사할 것이라는 인식이 지배적이다. 반면, 챗GPT를 악용하면 과학의 우물을 돌이킬 수 없을 정도로 더럽힐 수도 있다고 경고했다.
2023년 12월 구글이 거대 언어모델인 제미나이를 발표했다. 제미나이는 이미지를 인식하고 음성으로 말하거나 들을 수 있는 정교한 멀티모달 기능을 갖추어, 기존 멀티모달보다 뛰어나다고 한다. 오픈AI의 챗GPT4가 86.4퍼센트의 정답률을 보인 반면, 제미나이 울트라 모델은 문제 해결 능력을 평가하는 테스트에서 90퍼센트의 정답률을 보였다는 것이다. 오픈AI가 2022년 11월 챗GPT를 발표한 후 1년 만에 구글이 대항마를 출시한 것인데, 생성형 인공지능 시장에서 두 업체의 경쟁이 치열해졌다.
인공지능 기술이 등장하고 발전한 것은 어제오늘의 일이 아니지만, 챗GPT의 등장이 충격적으로 다가오는 이유는 뛰어난 능력을 가진 창작 도구이면서 동시에 누구나 손쉽게 사용할 수 있다는 점이다. IT 전문가가 아니어도, 값비싼 프로그램을 구매하지 않아도 고난도의 창작을 할 수 있게 된 것이다. 그래서 기업 주도의 강력한 마케팅을 하지 않았지만, 사람들 사이에서 입소문을 타고 널리 회자되었다. 사람들이 직접 새로운 인공지능 도구를 써보면서 변화에 대한 기대와 함께 두려움을 느끼게 되었다는 점도 특징이다.
금준경ㆍ박서연의『챗GPT의 두 얼굴』은 챗GPT로 대표되는 생성형 인공지능의 현황과 전망, 기대와 우려를 다룬다. 우선, 챗GPT뿐만 아니라 구글의 바드와 네이버의 클로바X 등 경쟁 서비스들의 현황도 함께 다루는 등 다양한 최신 사례까지 담았다. 이들 생성형 인공지능 기술이 뉴스, 문예 창작, 포털사이트 서비스, 영상 콘텐츠, 교육 등 각 분야에서 어떠한 변화를 초래하는지 살펴보면서 미래를 전망했다. 동시에 인공지능이 촉발하는 문제와 우려도 조명했다. 허위 정보를 양산해내고, 프라이버시를 위협하고, 교육의 근간을 뒤흔들고, 노동조건을 후퇴시키는 등 인공지능 시대를 비판적으로 이해하기 위한 쟁점들을 다룬다. 그러면서 챗GPT를 비롯한 생성형 인공지능을 ‘소개’하는 책이면서 ‘인공지능 리터러시’를 위한 책이기도 하다.

챗GPT는 기사를 쓸 수 있는가?

인공지능은 기자의 일상을 바꿔놓았다. 기자들이 외신을 보거나 외국어로 된 자료를 볼 때는 구글 번역기, 파파고, 딥엘 등 인공지능 번역 서비스를 활용한다. 과거에 국제부 기자에게 사전이 필수였지만 이제는 ‘번역기’가 필수가 된 지 오래다. 챗GPT로 대표되는 생성형 인공지능은 기사도 쓴다. 『파이낸셜뉴스』, 『헤럴드경제』, 『이투데이』, 『전자신문』 등은 증권 시황 기사에 이 같은 방식을 도입했다. 스포츠 기사, 기업 실적 기사 등에 적용한 언론사들도 있다. 하지만, 인공지능이 쓰는 기사는 가짜뉴스가 많다. 2016년 미국 대선에서 ‘프란치스코 교황이 트럼프 후보를 지지했다’라는 기사, 2023년 4월 ‘바이든 사망……해리스 대통령 권한대행 오전 9시 연설’이라는 기사, 문재인 정부 때 문재인 대통령이 국기에 대한 경례를 하는 사진의 좌우를 바꿔 왼손으로 경례를 한 듯한 합성 사진 논란 등이 대표적이다. 이는 취재 없이 온라인 클릭을 유도하는 기사를 쓰는 언론이 적지 않은 한국 상황에서 문제가 될 수 있다. 다시 말해 인공지능은 미디어의 기회인지, 위기인지를 우리 모두 심각하게 고민해야 할 때다.

챗GPT는 프라이버시를 지킬 수 있는가?

챗GPT를 비롯한 거대 언어모델 개발 과정에는 많은 정보가 입력된다. 책과 언론 기사를 포함해 온라인 공간 속 소셜미디어와 커뮤니티 게시글 상당수가 학습된 것으로 추정된다. 이 과정에서 개인정보가 섞여 들어갈 수 있고, 유출될 위험성이 있다. 또 챗봇 형태의 생성형 인공지능과 대화하면서 개인의 민감한 정보도 입력할 수 있다. 이렇게 입력된 정보가 서버에 저장되어 유출될 가능성을 배제하기 어렵다. 2020년 국회에서 ‘데이터 3법’이 통과되었을 때, 국회는 ‘가명정보’라는 개념을 만들어 개인의 신상을 드러나지 않게 가명 처리를 한 정보는 개인정보보호법의 예외로 두어 당사자 동의를 받지 않아도 활용할 수 있게 했다. 그러나 문제는 가명정보끼리 결합할 경우 개인정보가 드러날 수 있고, 기업의 산업적 연구까지 포함해 기업의 이익을 위해 사용할 수 있게 되었다. 이는 개인정보가 여러 범죄에 악용될 가능성이 있다.

챗GPT는 인간의 노동을 대체하는가?

오픈AI와 미국 펜실베이니아대학 연구진의 분석 결과 생성형 인공지능으로 피해에 노출될 수 있는 취약한 직업으로 수학자, 통역사와 함께 웹디자이너가 꼽혔다. 영국의 『가디언』은 “생계 위협에 가장 먼저 직면한 이들은 사진가와 디자이너”라고 했다. 2023년 1월, 게티이미지가 영국의 인공지능 스타트업 기업인 스태빌리티AI를 상대로 손해배상 소송을 제기했다. 게티이미지가 청구한 손해배상액은 1조 8,000억 달러에 달한다. 게티이미지 CEO인 크레이그 피터스는 “인공지능 생성 도구가 다른 사람들의 지적 재산권을 침해한 게 문제의 핵심”이라고 말했다. 기술의 도둑질인가, 제시어의 창의성을 바탕으로 한 새로운 예술인가 하는 논란이 되었다. 인공지능이 그림을 그리고 사진을 생성하고 소설을 쓰는 것에 대해 그것을 저작물이라고 할 수 있는지도 하나의 쟁점이 된다. 따라서 인공지능 학습 과정에서 벌어지는 저작권 도용과 관련한 기준 마련이 시급한 상황이다.

챗GPT는 콘텐츠를 창작할 수 있는가?

“지금 여러분은 인공지능으로 제작된 방송을 듣고 있습니다.” 2023년 4월 스위스 로잔 지역의 라디오 채널 쿨뢰르가 방송 도중 내보낸 안내 멘트다. 이날 방송은 스위스 공영방송 RTS가 인공지능으로 라디오 제작이 가능한지 테스트해보는 시험 무대였다. 실제 방송 프로그램 제목과 구성, 대담 대본, 뉴스 등을 챗GPT가 제작했다. 한국에서도 2023년 4월 21일 ‘과학의 날’을 맞아 TBN강원교통방송 역사상 처음으로 챗GPT DJ가 2시간 방송을 진행했다. 이날 프로그램 구성은 ‘창작동화’, ‘음악 소개’, ‘안전 운전 방법’ 등의 코너로 진행했다. 이제 영상을 기획하고 촬영하고 편집하는 과정은 더 수월해지며 제작 시간은 이전과 비교하기 힘들 정도로 단축될 수 있다. 음악과 영상 자료 화면과 같은 다양한 ‘소스’도 생성형 인공지능을 통해 직접 제작할 수 있다. 생성형 인공지능을 비롯한 인공지능 기술이 보편화되면 1인 미디어 시대가 한 단계 도약할 것이다.

챗GPT는 교육을 어떻게 변화시킬까?

챗GPT를 비롯한 생성형 인공지능은 이미 학교 안에 들어왔다. 특히 숙제나 과제를 할 때 생성형 인공지능을 활용한 사례가 늘면서 학교의 고민도 커졌다. 챗GPT에 특정 주제에 관한 글을 작성해달라고 요청하면 순식간에 그럴듯한 글을 만들어내다 보니 과제에 활용하기 좋다. 최근 교사들 대상 연수에서 가장 주목받는 인기 주제는 인공지능과 챗GPT다. 교사들이 챗GPT를 비롯한 생성형 인공지능 시대, 변화에 대응하기 위한 고민을 하고 있기 때문이다. 그러나 문제는 챗GPT가 학생들의 생각을 멈추게 한다는 것이다. 특히 대학생과 달리 초등학생이나 중학생이 생성형 인공지능을 활용할 경우에는 우려가 크다. 사고력은 글쓰기 과정을 통해 향상되는데, 챗GPT는 과정을 생략하고 완성품으로 점프하는 것으로 학생들이 사고하는 방법을 완전히 잃을 수 있다. 그래서 생성형 인공지능 시대 ‘인공지능 리터러시’와 ‘디지털 미디어 리터러시’ 분야에 대한 주목이 필요하다.

들어가는 글 ㆍ 4

프롤로그 : 챗GPT 시대 ㆍ 10

제1장 챗GPT 시대에 기사를 쓴다는 것
인공지능은 기자의 일상도 바꿔놓았다 ㆍ 35
언론은 왜 인공지능 기업과 싸울까? ㆍ 52
인공지능이 만든 가짜뉴스가 쏟아진다 ㆍ 61
챗GPT는 기자를 대체할 수 있을까? ㆍ 78

제2장 챗GPT 시대에 프라이버시를 지킬 수 있을까?
포털사이트에서 검색창이 사라질까? ㆍ 89
초거대 인공지능 기술을 어떻게 활용할 것인가? ㆍ 100
인공지능이 학습하는 개인정보를 어떻게 규제할 것인가? ㆍ 111
인공지능이 악용될 수 있다 ㆍ 120

제3장 챗GPT 시대의 인간의 노동
인공지능이 그림을 그리다 ㆍ 137
챗GPT, 소설을 쓰다 ㆍ 151
챗GPT는 작가들에게 저주가 될 수 있다 ㆍ 158
보이지 않는 노동이 있다 ㆍ 168
미래의 노동 ㆍ 179

제4장 챗GPT는 콘텐츠를 창작할 수 있을까?
크리에이터도 인공지능에 물들다 ㆍ 191
인공지능만으로 라디오를 제작할 수 있을까? ㆍ 208
인공지능과 경쟁하지 마라 ㆍ 216
인공지능 유튜버와 대화하고 게임도 한다 ㆍ 223

제5장 챗GPT 시대의 디지털 리터러시 교육
챗GPT는 학생들의 생각을 멈추게 한다 ㆍ 237
생성형 인공지능 서비스의 가이드라인 ㆍ 251
읽기와 쓰기의 순서가 뒤바뀐다 ㆍ 255

참고문헌 ㆍ 268

인공지능이 만든 허위 글이 인터넷 곳곳에 퍼지고 진짜보다 진짜 같은 허위 정보가 쏟아지면 무엇이 진실인지 파악하기 어려워질 수밖에 없다. 이는 단순히 ‘허위’를 ‘진짜’처럼 여긴다는 점에서만 문제가 아니다. 자신의 성향에 맞지 않는 ‘진짜’를 보고서도 ‘허위’라 생각할 수 있는 우려도 있다. 자신이 지지하는 정치인의 비리 영상이 언론에 보도된다면 이를 인공지능 합성으로 여기며 진실을 부정할 수도 있다. 무엇이 진실인지 아닌지 판단이 어려워지는 탈진실(post-truth)의 시대가 더욱 가속화될 수 있다. 문제는 앞으로는 더욱 허위 정보 검증이 까다로워질 수밖에 없다는 사실이다. 아직까지는 인공지능 생성 이미지의 손 모양이 어색하거나, 딥페이크 영상의 입 모양이 어색하는 등 한계는 있다. 그러나 기술 발전은 시간문제다. 「인공지능이 만든 가짜뉴스가 쏟아진다」(본문 73~74쪽)

한국에서는 규제 중심의 논의보다는 ‘산업적 활용’에 무게를 두고 있다. 2023년 3월 국회 과학기술정보방송통신위원회 법안심사소위원회는 인공지능 산업에 ‘우선 허용’ 후 ‘사후 규제’를 하는 인공지능 법안을 의결했다. 인공지능 법안은 누구든지 인공지능 기술과 알고리즘의 연구·개발, 인공지능 제품 또는 인공지능 서비스의 출시 등에 관한 행위를 할 수 있다는 내용을 담고 있다. 이 법안은 국민 생명, 안전, 권익에 위해가 되거나 공공의 안전 보장, 질서 유지, 복리 증진을 현저히 저해할 우려가 있는 경우가 아니라면 이를 제한할 수 없다고 규정한다. 제품·서비스로 개발하려는 인공지능이 ‘고위험 영역’인지에 대해서는 제26조에 따라 과학기술정보통신부 장관에게 확인을 요청할 수 있도록 했다. 「인공지능이 학습하는 개인정보를 어떻게 규제할 것인가?」(본문 117~118쪽)

윤여경 작가는 인공지능과 대화가 아닌 뇌로 소통하는 ‘뇌간 소통’을 소재로 소설을 썼다. ‘뇌간 소통으로 날씨와 날짜, 그리고 메시지를 전하는 것을 묘사하라’는 주문에 챗GPT는 “유진은 아침에 일어나자마자 인공지능 버디가 자신의 뇌를 통해 메시지를 전달하는 것을 느꼈다. 버디의 메시지는 유진의 뇌로 직접 전달되었고 그것은 날씨와 날짜, 그리고 텍스트로 구성되어 있었다”, “버디는 날씨를 묘사하면서 유진은 바람을 느끼고 햇빛의 따뜻함을 느낀다”고 썼다. 이 외에 등장인물의 콘셉트에 맞는 이름을 정하거나, 소설 속 외계인의 연설문을 작성하는 등의 업무도 챗GPT가 해냈다. 이처럼 작가들은 고군분투하며 챗GPT의 쓰임새를 찾았다. 윤여경 작가는 “원고를 쓰면서 챗GPT가 가장 도움이 된 것은 자세한 에피소드를 만들 때였다”며 “챗GPT는 상황을 던져주면 내가 미처 생각지 못한 자세한 에피소드를 만들어낸다”고 말했다. 「챗GPT, 소설을 쓰다」(본문 156~157쪽)

미국의 반도체 기업인 엔비디아(NVIDIA)는 다국적 광고그룹 WPP와 협력해 인공지능 활용 엔진을 개발하고 있다. 이 제품은 글을 입력하면 3D 동영상으로 구현하는 기능을 갖추고 있다. 예를 들어 자동차 회사가 신제품 광고를 한다면 특정 자동차 모델링 정보를 입력한 다음 원하는 환경과 지형지물을 제시어로 넣으면 이를 영상으로 구현해낸다. ‘자동차가 사막 지형을 달려나가는 모습’을 요청하면 현지 로케이션 없이도 그럴듯한 광고 영상을 만들 수 있다. 인공지능 영상 편집 프로그램인 브루(VREW)는 영상 속 음성을 자동으로 인식한다. 50분 분량의 강연 영상을 5분 분량의 하이라이트 버전으로 제작할 경우 과거에는 일일이 영상을 돌려보면서 편집을 해야 했다. 하지만 이 프로그램은 강연 전체 텍스트를 자동으로 생성해내고, 들어내고 싶은 발언을 삭제하면 해당 부분의 영상도 함께 지워지게 해서 편집을 수월하게 한다. 「크리에이터도 인공지능에 물들다」(본문 205~206쪽)

‘윤리’와 ‘리터러시’ 측면에서는 어떤 방식의 교육을 할 수 있을까? 부산시교육청은 ‘디지털 미디어 리터러시’ 교육 차원의 가이드라인을 발표했다. ‘초·중·고등학생을 위한 생성형 AI 사용 약속’이라는 이름의 가이드라인은 ‘이용자 연령에 맞게 사용하기’, ‘다른 사람의 권리 존중하기’, ‘다른 사람을 속이지 않기’, ‘모두의 행복을 위해 사용하기’로 구성되어 있다. 세부 내용으로는 “생성된 결과물이 사실과 다르거나 완전히 조작된 결과물로 만들어지면 안 된다”, “생성된 결과물이 피부색, 종교, 성별, 나이 등에 대해 편견을 드러내거나 차별을 조장하지 않도록 주의해야 한다” 등을 담고 있다. 가이드라인을 만든 부산시교육청 이성철 교사는 “미디어의 생산의 양과 속도가 지금도 빨랐지만, 생성형 인공지능 기술이 보편화되면 간단한 입력만으로도 글, 이미지, 영상을 만들 수 있어 미디어 정보가 기하급수적으로 늘어날 것”이라며 “미디어는 편견, 혐오, 고정관념 등을 재현하는 문제가 있는데 이런 문제가 더 커질 수 있다”고 했다. 「챗GPT는 학생들의 생각을 멈추게 한다」(본문 247~248쪽)