요약

• 예대제에서 체험판이 배포된 뒤, 해외팬을 중심으로 「금상경 배경으로 AI 생성물이 쓰였다! ZUN이 이중잣대를 세운다!」라고 문제제기가 되고 있다
• Steam 페이지를 통해 정말로 AI 이미지를 사용했음이 밝혀졌다
• 아마도 ZUN은 Adobe Firefly를 이용해 자발적으로 이미지를 생성하였으며, 적어도 권리 측면에서 금전적인 문제가 발생하진 않을 것이라 생각된다
• 개인적으로 ZUN의 선택・행위는 적어도 「이중잣대」는 아니라고 본다

들어가기에 앞서

이 기사는 어디까지나, 인터넷상의 주요한 논점(과 개인적인 감정)을 정리하는 걸 목적으로 하고 있다.

건설적인 논의에 있어서의 「근거」 , 혹은 초안으로 쓰기 위해서라면 얼마든지 인용해도 되지만, 사소한 키배에서 「증거」나 「꼬투리」로 인용하는 건 삼가해줬으면 좋겠다.

무슨 일이 벌어지고 있는가

상하이앨리스환악단의 신작 『동방금상경』 체험판이 봄 예대제에서 배포된 뒤, 일부에서 「생성형 AI로 만든 이미지 에셋이 배경에 쓰이고 있지 않나?」라고 화제가 됐다.

X에 검색을 해보면 일본어 포스트도 몇 개 화제가 되고 있지만, 대부분은 영어권에서의 언급이다. 「ZUN AI until:2025-05-10」 등의 키워드로 검색해보면 구체적인 분위기를 알 수 있을 것이다. 당당하게 내부 데이터를 추출해서 포스트한 사람도 있기에, 아직 체험판을 플레이하지 않은 사람은 검색하기 전에 스포일러 주의.

X에서 자주 염상하는 「일러스트레이터 AI 사용 발각」과 같은 모양새가 된 것에 더해, ZUN을 비판하는 사람 중에는 「예전 인터뷰에선 AI 안 쓸 거라 하지 않았냐. 태세전환이 너무 빠르다.」라고 주장하는 사람도 보였다.

그러던 와중에 오늘 마침내 공개된 Steam 페이지를 확인하니, 「AI 생성 콘텐츠 사용 공개」란에

"일부 배경 텍스처에 에이아이 생성 콘텐츠가 포함되어 있습니다."

라고 명확하게, 당당하게 쓰여있음이 판명됐다.
(어째선지 대문자 i가 아니라 소문자 L이 쓰여있는데, 단순 오탈자라고 생각한다. 「실은 인공지능이 아니라 알루미늄이야~www」 이런 식으로 말 돌린다면 많이 실망할 것.)

AI제 콘텐츠가 쓰인 건 어디까지나 「일부 배경 텍스처」에 국한됐고, 캐릭터 스탠딩CG나 BGM은 틀림없이 평소대로의 ZUN그림, 평소대로의 동방 원곡이다. 이건 내가 주절주절 설명하는 것보다, 실제로 체험판을 플레이해보는 게 빠르다.

배경에 생성형 AI를 사용한 것에 어떤 문제가 있는가

나는 「적어도 권리 측면에서 금전적인 문제가 발생하진 않을 것이다」 「하지만, 비금전적인 문제는 발생할 수 있을 것이다」라고 생각한다.

왜냐면, 배경으로 채용된 AI 이미지는 Adobe Firefly를 이용해 ZUN이 자발적으로 생성했을 가능성이 높기 때문이다.

마우스 커서를 올리면
이미지 순서를 ON/OFF 할 수 있습니다.

나는 작년 말 두잔라디오GTP에 참가했는데, 그곳에서 ZUN은 「이 이벤트 포스터의 배경에 'Adobe Firefly'를 사용했다」 「이걸 쓰면 무언가 저작권적인 문제가 발생했을 때 Adobe가 책임져준다」라는 식을 발언을 했다.

Adobe Firefly란, 말 그대로 Adobe가 개발한 생성형 AI이며, 공식 페이지에선 「저작권 또는 지식재산권을 침해하는 콘텐츠 생성을 방지하기 위해 Adobe Firefly를 개발했으며, 이는 상업적으로 안전하게 사용할 수 있습니다.」라고 주장하고 있다.

Firefly의 학습 소스는 자사가 운영하는 이미지 에셋 사이트인 「Adobe Stock」의 이미지, 퍼블릭 도메인 작품, 그리고 오픈 라이선스 작품이므로, 저작권적 문제가 있는 이미지가 생성될 가능성은 낮다. 거기다 Adobe 공식 자료나 Adobe Stock의 라이선스 약관을 보면, 유료 플랜 유저의 Firefly 결과물이 다른 사람의 지식재산권을 침해한다는 내용의 법적 주장으로부터 (유저가 악의적으로 사용한 것이 아닌 한) Adobe가 보호 및 보상을 제공할 것이라 명시되어있다.

즉, 최악의 사태를 가정해

1. 우연히 금상경 배경과 매우 유사한 이미지가 이미 존재하고
2. 우연히 그 이미지가 Adobe Stock에 무단으로 올라와 있었으며
3. 우연히 Firefly가 그 이미지를 학습했음이 판명되고
4. 그 이미지의 권리자와 ZUN 사이에서의 교섭이 결렬되어 소송까지 이어진다

라는 일이 벌어진다고 해도 ZUN이 배상금을 지불할 일은 없단 것이다.

이렇게까지 책임져주는 편리한 AI 서비스가 존재하는 데다, 그 존재를 ZUN이 명확하게 알고 있으며, 심지어 최소 한 번은 사용한 적이 있는 이상, 이번에도 ZUN이 Firefly로 출력한 이미지를 사용했다고 보는 게 타당할 것이다.

하지만, 요근래 Adobe는 (특히 영어권 인터넷의) 크리에이터들 사이에서 굉장히 평판이 나빠 「AI에 영혼을 팔아넘긴 evil한 기업」이라는 소리를 듣기도 한다.

• 「이용 약관 등을 AI 학습에 유리하게 변경하고 있다」
• 「Adobe Stock의 관리가 부실해, Firefly 이외의 생성형 AI로 만든 이미지나 타인의 이미지가 무단으로 게재되고 있다」
  • (조금 전에 「이미 존재하는 매우 유사한 이미지가 Adobe Stock에 무단으로 올라와 있을」 가능성을 언급한 것도 그 때문이다)

진위야 어떠하든, 이러한 주장이 이따금 눈에 띈다.

ZUN이 Adobe의 생성형 AI 서비스를 사용하고 있음이 확정될 경우, 설령 권리적으로 아무 문제 없더라도 (특히 해외의) 크리에이터들에게서 반감을 살 우려가 있다.

그리고, 그닥 중대한 문제는 아닐지도 모르지만, 동방 팬 중에는 배경 에셋으로 쓰인 '성지'를 순례하는 걸 즐기는 사람도 있다. 나도 3월 말에 서클 멤버들과 풍신록 3면 『빈틈 없는 요새』를 방문한 참이다. 앞으로 모든 배경 에셋이 AI 이미지로 대체되고 실존 사진이 쓰이지 않게 된다면, 그건 「성지」가 추가되지 않게 됨을 의미하므로 조금 섭섭하기도 하다.

왜 생성형 AI를 썼는가

아무리 ZUN이 평소에 SNS를 안 본다지만, 적어도 「AI를 쓰면 염상한다」 「(권리적으로) 클린한 AI라고 해도 아무튼 염상한다」 정도의 정보는 눈에 들어올 것이다. 그럼 ZUN이 굳이 배경에다 AI제 이미지를 쓴 이유는 어디에 있는 걸까?

무언가 창작상 의도가 있는 경우

먼저 무언가 의도를 갖고 AI 생성 이미지를 썼을 가능성에 대해 살펴보고자 한다.

전작 『동방수왕원』 오마케 텍스트에서 ZUN은 「어디까지나, 효율화를 최고의 가치로써 추구한다면, 말이지만요.」라고 덧붙인 뒤 「대단하다, 잘 만들었다, 예쁘다, 같은 평가를 받을 작품은 AI한테 맡기면 눈 깜짝할 사이에 만들어지겠죠.」라고 말하고 있다. (이 부분은 후술할 「이중잣대가 아닌 이유」와도 연관되니 기억해뒀으면 좋겠다). 이에 더해 AI는 「완전성, 무기질함, 결과론」을 상징한다고도 하고 있다.

이를 바탕으로 창작상 의도를 고찰하자면, 환상향의 「완전한 모습」 「효율적으로 기능하게 돼버린 모습」을 묘사하기 위해 의도적으로 AI제 이미지를 사용했다고 볼 수도 있을 것이다. 「환상향에서 변화가 사라진다」라는 이번 작품의 스토리와 대조해봐도 위화감은 없다.

별다른 창작상 의도가 없는 경우

반대로, 별다른 창작상 의도가 없는 경우에도, ZUN이 배경 에셋으로 AI 이미지를 사용할 이유는 충분히 있다. 그것은 뭐니 뭐니 해도 작업 효율의 향상이다

기존대로 스톡 포토 사이트에서 적절한 이미지를 찾는 것보다, AI에 의한 t2i(text to image, 텍스트 기반 이미지 생성)을 이용함으로써 머릿속 이미지에 가까운 배경 에셋을 신속하게 입수할 가능성도 충분히 있기 때문이다

가령, 뭉뚱그려 「넓게 펼쳐진 초원」 이미지를 쓰고 싶은 경우, 생성형 AI를 쓸 것도 없이, 대충 이미지 사이트 검색창에 「초원」이라 치기만 해도 적절한 물건을 찾을 수 있을 것이다. 하지만, 「보라색과 분홍색을 바탕으로 한, 우주 공간을 방불케 하면서도 심령성이 느껴지는 이공간」이란 구체성과 추상성이 뒤섞인 이미지를 원하는 경우에는, 자연어로 AI에게 명령하는 편이 훨씬 쉽게 입수할 수 있다. (경우에 따라 다름)

이번 작품의 「농밀함」은 체험판 시점에서 이미 명확히 드러나고 있다. 시스템적으로는 과거작의 샷이나 봄을 자유자재로 조합할 수 있도록 장비 설정이 가능한데, 이렇게 경우의 수가 폭증하는 문제에 대해 ZUN은 홍룡동 오마케 텍스트에서 「개인 개발의 한계를 느끼고 있네요」라고 말하고 있다. Win판 초기작과 비교했을 때, 시나리오 작성이나 코딩, 디버그에 요구되는 노력이 막대해졌음은 말할 것도 없다.

원래부터 ZUN은 배경에 스톡 포토 이미지를 많이 사용해왔다. 그렇다면 이미지를 선정할 수고를 줄이고, 조금이라도 기술적・시간적 「한계」를 넘기 위해 생성형 AI를 사용했다고 해도 이상하진 않을 것이다.

왜 이중잣대가 아니라고 생각하는가

다음으로, 과거 발언과의 정합성에 대해 정리하고 싶다.

ZUN은 과거에 분명 AI를 부정하는 듯한 발언을 해왔다. 허나, 그것은 어디까지나 하나의 작품에 담긴 작가성이나 인격이, AI가 가진 「완전성」 「무기질성」에 의해 소멸된다는 식의, 어디까지나 창작론적인 주장이었다.

이것은 현 생성형 AI의 존재 방식에 반대하는 이들이 인터넷에서 주장하는 「학습 소스로 쓰인 인물에게 지불하는 대가가 적다」 「학습 루트가 불투명하다」 「아동 포르노나 스너프 필름 같은 이미지가 무차별적으로 학습되고 있다」 「전력 소비로 인해 귀중한 자원을 낭비하고 있다」 등의 권리적 측면을 논점으로 삼은 비판과는 일치하지 않는다.

즉, 쉽게 말하자면 ZUN은 『AI는 나쁘다』가 아니라, 어디까지나 『AI는 멋이 없다』라는 주장을 한 것이고, 멋없음을 상회하는 어떠한 사정이 있다면 이중잣대는 아니라는 것이다.

만약 「AI는 나쁘다」라는 투로 주장해놓고 아무 설명도 없이 스리슬쩍 AI 생성물을 사용했다면, 그건 이중잣대적 행동이란 비난을 받아도 어쩔 수 없을 것이다. 비유하자면, 「가솔린 차는 환경에 나빠」라고 주장하는 사람이 리터당 5km도 안 나오는 슈퍼카를 몰고 다니는 꼴이다. 하지만 ZUN은 딱히 그런 주장을 하지는 않았다. 가솔린 차 비유를 그대로 적용해보자면, 「차보다 자전거가 직접 조종하는 느낌이 들어서 재밌지」라고 말하면서도 「뭐, 그래도 이동할 땐 차가 편하지」라며 경차를 몰고 다니는 느낌이다.

개인적으로는 권리 측면의 비판에도 당연히 귀를 기울여야 마땅하다고 생각한다. 하지만, 안타깝게도 (특히 일본에서는) 「생성형 AI 시대에 창작자는 어떻게 할 것인가?」라는 테마의 인터뷰에 요구되는 질문・답변은 기본적으로 「좋다 나쁘다」가 아니라 「멋지다 멋없다」 부류이며, 권리 문제에 대해 자발적으로 의식해 대답까지 할 수 있는 창작자는 그다지 많지 않은 것도 사실이다.

나의 생각

우선, 아까는 「성지순례 소재」라고 축소화하긴 했지만, 배경 사진이 동방 원작의 매력을 드높이는 데 한몫했음은 분명하다. 만약 ZUN이 사진 소재를 고르는 걸 헛수고라 생각하고 있다면, 자신의 센스를 과소평가하고 있는 것이고, 중요한 작가성 중 하나를 잃고 있는 것이라 반론하고 싶다.

또한, Adobe Firefly를 사용한 것에 대해선 「나쁜 건 아니지만 좋지도 않다」라고 생각한다. Adobe는 「안심하고 쓸 수 있는 AI」를 제공하기 위해 여러 노력을 하고 있는 모양이지만, (현 생성형 AI의 존재 방식에 반대하는) 크리에이터들을 납득시키기에는 아무리 생각해도 설계・안내에 부족한 면이 있다고 생각한다.

여기까지 ZUN이 Firefly를 썼다는 전제 하에 글을 썼지만, 혹여나 결과물의 퀄리티를 우선시 하고자 다른 (학습 데이터나 학습 과정이 더 불투명한) 모델을 사용 중이라면, 그건 아무래도 너무 리스크가 큰 행동일 것이다.

허나, 이러한 모든 우려를 비관적으로 엮어보더라도, 개인적으로 「ZUN이 신작 배경에 생성형 AI를 사용했다」라는 사실은 신작의 재미, 더 나아가 동방Project・상하이앨리스환악단의 매력을 부정하기에는 너무나 경미하다라고 생각한다.

현 시점에서 (적어도 체험판 시점에선) 금상경은 틀림없이 재밌는 작품이다. 스토리도 시스템도 TH20이란 넘버링에 걸맞는 볼륨을 목표로 하고 있음이 절절하게 전해진다. 당분간은 제품판을 기대하며 오직 여름 코미케만을 기다리면서 이변석 최강 장비 세트를 나날이 탐구할 생각이다.

출처 : https://blog.otagao.net/posts/250510-zun-ai/

세줄요약

1. zun이 쓴 것으로 추정되는 어도비 AI는 어도비에서 법적 문제 다 책임져주니 최악의 경우에도 zun이 법적으로 무언가 책임질 일은 없다

2. zun이 과거 ai를 부정하는 듯한 발언을 한 건 사실이나 이는 "ai에는 영혼이 없다 손맛이 없다" 이런 소리였을 뿐, 요즘 자주 보이는 "ai 생성물은 저작권 침해다", "ai는 윤리적으로 나쁘다" 이런 류의 주장과는 결이 다르다. 때문에 zun이 ai를 쓴다고 해서 이중잣대까진 아니다

3. 그래도 개인적으론 ai 안 썼으면 좋겠다

ZUN은 AI 쓰면 염상하는 줄 모를 가능성이 높아 (지금 자기가 염상 중인 것도 모를 수 있다)