저작권 시비에 위조범죄 악용 우려까지… 논란 휩싸인 챗GPT [세계는 지금]

‘뜨거운 감자’ 된 오픈AI의 새 모델

차원 다른 AI 이미지 생성 기능 선봬
지브리풍 그림 전환 유행에 이용 급증
팬들 “저작권 있는 이미지 학습” 부글
전쟁 미화 그림 등 왜곡된 사용 비판도

가짜 영수증도 아무 제한 없이 생성
구겨짐·얼룩까지 구현… 악용 가능성
오픈AI, 창의적 자유 위해 규정 완화
일각 부작용 초래 우려 목소리 커져

“오픈AI사 역사상 가장 인기 있는 제품 출시 중 하나가 될 것으로 기대된다.”

미국의 IT온라인매체 테크크런치가 지난달 25일(현지시간) 오픈AI가 내놓은 ‘챗GPT 4-o’ 모델을 두고 한 평가다. 챗GPT 4-o 모델은 지브리풍 그림 만들기 유행을 타고 급속도로 가입자 수를 늘렸다. 오픈AI는 출시 후 열흘간 1억3000만명이 넘는 사용자가 7억개 이상 이미지를 생성했다고 밝혔다. 오픈AI의 브래드 라이트캡 최고운영책임자(COO)가 전 세계 이용자들에게 감사를 표하면서 “24시간 내내 일하고 있다”고 할 정도였다. 테크크런치는 지브리풍 그림 만들기 유행 확산이 “바이러스처럼 퍼졌다”고 했다.

챗GPT는 2022년 11월 처음 출시된 이래 꾸준히 업그레이드를 해왔지만 이번만큼 이용자를 급증시킨 적은 없었다. 오픈AI는 지난 1월엔 고급 추론(reasoning)이 가능한 인공지능(AI) 소형 모델 ‘o3mini(미니)’를, 2월에는 인터넷에서 복잡한 연구작업을 수행할 수 있는 ‘딥리서치’(Deep Research)를 공개한 바 있다. 3월 출시한 신규 이미지 생성 AI 모델 챗GPT 4-o 이미지 생성은 샘 올트먼 최고경영자(CEO)가 “그래픽처리장치(GPU)가 (과부하로) 녹아내리고 있다”고 비유할 정도로 인기를 끌었다.

인기 뒤엔 논란도 잇따랐다. 현실에서 악용될 경우의 부작용과 저작권법 위반 시비, 창작 윤리까지 광범위한 문제가 부상하고 있다. 테크크런치는 “지브리 스타일 논란으로 화제가 된 것은 오픈AI에게는 엇갈린 축복이다. 수백만 신규 가입자를 유지하는 한편 회사 역량에 큰 부담을 줬다”고 보도했다.

샘 올트먼 오픈AI 최고경영자(CEO)가 설정한 엑스 프로필 사진. 자신의 모습을 챗GPT 이미지 생성 기능을 통해 지브리풍으로 변환한 것이다. 샘 올트먼 오픈AI CEO 엑스

◆“완전히 새로운 이미지 생성”

AI 도구 중에서 이미지 생성 기능이 처음 나온 것은 아니다. 미드저니(Midjourney)나 달리(DALL·E), 스테이블 디퓨전 등이 이미 사용되고 있었다. 사용자들은 텍스트 기반의 챗봇인 챗GPT와 이미지 생성용 AI 도구를 자신의 필요에 따라 다양하게 사용해 왔다. 챗GPT 4-o를 통해서는 텍스트 생성과 이미지 생성을 한꺼번에 하나의 도구 안에서 할 수 있게 됐다는 점에서 차원이 다른 발전으로 평가된다.

생성된 이미지 결과물의 수준도 주목을 받았다. 지브리풍 그림 만들기가 유행하고 올트먼 CEO도 자신의 소셜미디어 계정에 지브리풍 프로필 사진을 올리며 유행을 적극 이끌었지만, 새 모델의 기능은 단순히 지브리풍 그림을 잘 만들어내는 게 다가 아니다. 복잡하고 독특한 지침을 줘도 자세하고 정교하게 이미지로 만들어내도록 능력이 강화됐다.

미국 일간 뉴욕타임스(NYT)는 출시 당시 “챗GPT의 새로운 버전은 AI 기술의 광범위한 변화를 보여준다”며 “단순히 텍스트를 생성하는 시스템으로 시작한 챗봇은 채팅과 다양한 다른 기능을 결합한 도구로 변모하고 있다”고 평가했다. NYT는 “2022년 말에 출시된 챗GPT는 인터넷에서 엄청난 양의 텍스트를 분석해 기술을 배웠고 질문에 답하고, 시를 쓰고, 컴퓨터 코드를 생성하는 법을 배웠지만 이미지를 생성할 수 없었다. 약 1년 후 오픈AI는 달리라는 이미지를 생성할 수 있는 챗GPT의 새 버전을 출시했지만 이때도 챗GPT와 달리는 별개의 시스템이었다. 이제 오픈AI는 텍스트와 이미지 모두에서 광범위한 기술을 학습하는 단일 시스템을 구축했다”고 평했다.

또 “이전 버전의 챗GPT도 이미지를 생성할 수는 있었지만, 너무 광범위한 개념을 혼합해 안정적으로 이미지를 만들 수는 없었다. 이제는 네 컷으로 된 만화를 설명하고 각 컷에 등장하는 캐릭터와 그들이 서로에게 하는 말을 포함시키면 이 기술을 이용해 즉시 정교한 만화를 만들어낼 수 있다”고 전했다.

인스타그램에 지브리풍 그림을 검색하면 발견되는 ‘미화 논란’ 이미지들. 이스라엘군은 엑스 공식 계정에 “지브리 유행에 동참한다”는 글과 함께 지브리풍으로 묘사된 이스라엘군 그림을 올렸다. 인스타그램·엑스 캡처

◆지브리풍 유행 속 저작권·윤리 논란

하지만 지브리풍 그림 생성이 대유행하면서 논란도 촉발됐다. 소셜미디어에 지브리풍 AI 이미지를 검색하면 나오는 그림 중에는 지브리 애니메이션에서 다뤄질 리 없는 여성의 신체를 성적으로 과도하게 부각한 그림이나 전쟁 미화 이미지 등도 상당하다. 애초 지브리 스튜디오 특유의 선하고 따뜻한 화풍, 지브리 스튜디오의 장인 정신과 콘텐츠 지향성이 만들어온 브랜드 이미지가 있었기에 가능한 유행이었지만, 정반대의 활용사례가 속출했다. 외신들은 이런 상태를 “피해는 이미 발생했다”고 표현했다.

지브리는 현재까지 공식 반응을 내놓지 않고 있지만 팬층은 강하게 거부감을 표출했다. 특히 지브리의 대가 미야자키 하야오(宮崎駿) 감독이 2016년 다큐멘터리에서 보인 AI 애니메이션에 대한 반응을 적극 공유했다. 다큐멘터리 속에서 AI 기술자들은 인간 형상을 한 이미지가 좀비처럼 팔다리를 뒤틀고 목을 꺾으며 몸부림치는 듯한 기괴한 AI생성 3D영상을 하야오 감독에게 보여준다.

기술자들은 이런 비현실적 영상까지 만들어낼 수 있다며 기쁜 표정으로 기술력을 자랑하지만 하야오 감독 표정은 심각하게 일그러진다. 하야오 감독은 기술자들 면전에서 “이런 것을 만드는 사람은 고통이 무엇인지 전혀 모른다. 혐오스럽다”고 말한다. 이 장면은 기술과 인간의 윤리를 묻는 상징적 장면으로 공감대를 얻으며 확산했다.

테크크런치는 지브리 팬 커뮤니티에서 AI 이미지 게시를 강력 금지하고 있다며 “이들은 AI로 생성된 복제품을 아이콘적 예술가에 대한 오마주로 보지 않으며, 오히려 생성형 AI모델들이 아티스트의 저작권이 있는 이미지로 학습됐으며 자신의 작품을 그런 방식으로 사용하라고 허가를 준 적이 없다고 주장한다”고 전했다. 또 “이번 사태는 AI 기술의 발전과 창작자의 권리 사이에서 발생하는 충돌을 여실히 보여준다”며 “앞으로 AI 기술이 발전함에 따라 저작권, 예술적 가치, 창작의 본질에 대한 더 깊은 질문을 계속해서 불러일으킬 것으로 보인다”고 했다.

저작권 위반 시비는 이미 소송전으로 비화돼 있는 상태다. 사진콘텐츠를 보유한 게티이미지뱅크, 언론사인 뉴욕타임스는 챗GPT를 학습시키는 데에 자사 콘텐츠가 무단 이용됐다며 오픈AI 등 AI 기업에 소송을 건 상태다.

화재가 발생한 현장에서 웃는 소녀 모습이나 나치 문양과 히틀러가 담긴 그림 등도 그려졌다. 인스타그램·엑스 캡처

◆가짜영수증도 만들어주는 AI

논란은 지브리풍 이미지 생성에서 그치지 않을 전망이다. 오픈AI는 챗GPT 4-o 모델을 출시하면서 민감한 이미지 생성을 제한해온 기존의 자체 규정을 대폭 완화했다. 오픈AI는 “포괄적인 거부에서 창의적 자유를 허용하고 현실에서 실제 피해를 방지하는 데 초점을 맞춘 정밀한 접근으로 전환하겠다”는 입장이지만, 예상되는 우려에 대한 보도가 이어지고 있다.

테크크런치는 최근 챗GPT 4-o 모델로 만든 가짜영수증이 아무런 제한 없이 만들어지고 있는 문제를 지적했다. 그러면서 소셜미디어에 실존하는 샌프란시스코 스테이크하우스의 가짜영수증 사진이 게시된 사례, 프랑스에서 실존하는 지역 레스토랑의 영수증이 게시된 사례 등을 전했다. 게시된 사진들은 AI로 만든 것을 밝힌 게시물이긴 했지만, 이 매체는 음식이나 얼룩을 넣거나 구겨진 자국을 더하는 등 영수증을 더욱 진짜처럼 보이게도 만들 수 있었다는 점에 주목했다. 그러면서 “사기꾼들이 사용하는 AI 딥페이크 툴킷에 또다른 도구로 추가될 수 있다”고 했다.

이 매체는 직접 위조 영수증 생성 테스트를 해보며 “합계에 마침표 대신 쉼표가 사용되거나 액수 부분에 산수가 맞지 않는 등 가짜라는 확실한 증거도 몇개 발견됐다. 하지만 사기꾼이 사진 편집 소프트웨어를 이용하거나 더 정확한 메시지를 입력하면 숫자 몇개를 빠르게 수정하는 건 어렵지 않을 것”이라고 했다. 이어 “가짜영수증을 쉽게 만드는 게 사기꾼에게 큰 기회를 준다는 건 분명하다. 악의적인 행위자들이 가짜영수증으로 환불받을 수 있다는 걸 상상하는 것은 어렵지 않다”고 했다.

오픈AI의 타야 크리스티안슨 대변인은 테크크런치에 “모든 이미지에 챗GPT에서 만든 것임을 나타내는 메타데이터가 포함돼 있다”며 “사용자가 사용 정책을 위반하면 조치를 취하고 실제 사용과 피드백에서도 이를 항상 학습하고 있다”고 밝혔다. 테크크런치는 가짜 영수증 이미지 생성을 제한하지 않고 있는 이유가 무엇인지, 이런 이미지 생성을 허용하는 게 사기를 금지하는 오픈AI 사용정책에 부합한다고 보는지 문의했다. 크리스티안슨 대변인은 “목표는 사용자에게 최대한의 창의적 자유를 제공하는 것”이라며 가짜 AI 영수증이 “사람들에게 금융 지식 교육과 같은, 사기가 아닌 상황에서 사용될 수 있으며 독창적인 예술작품과 제품광고를 만드는 데 사용될 수 있다고 말했다”고 이 매체는 전했다.

김예진 기자 [e-mail]