숏폼 동영상(短视频) 플래트홈에서 정장 차림에 고급 승용차를 타고 금시계를 찬 ‘지적이고 부드러운 재벌 남성’이 “누님”, “보고 싶어요”라는 말을 입에 달고 살며 자주 안부를 묻고 심지어 무릎을 꿇고 청혼까지 한다.

이러한 ‘재벌 남성’들은 실제로는 AI로 생성된 가상 인물이지만 적지 않은 중로년 녀성팬들이 이를 실제로 믿어 정신적·신체적 건강에 악영향을 미칠 뿐만 아니라 사기 피해 위험에도 로출되여 있다.

“누님, 저는 올해 67살이고 상장회사 사장이며 상해에 집이 몇채, 돈도 수천만원 있어요. 이 나이에 다 가졌는데 딱 누님만 없네요”, “여보, 당신이 나를 보고있는 거 알아요. 부디 이 늙은이한테 시집와주실 수 있나요?”... 숏폼 동영상 플래트홈에는 이런 영상이 넘쳐난다. 이 ‘AI 재벌 남성’들은 AI 얼굴 합성, 음성 변조 기술로 만들어진 가상 인물로 대부분 지적이고 성숙한 이미지로 설정되여 있으며 대사는 직설적이여서 중로년 녀성팬들의 마음을 정확히 파고든다.

비록 영상 아래에 ‘AI 생성’이라고 명시되여 있음에도 불구하고 댓글창의 일부 중로년 녀성팬들은 여전히 철석같이 믿고 있다.

댓글들은 진심어린 내용으로 가득하다. “오빠, 몸 잘 챙겨요”, “누님한테 위챗 알려줘, 내가 데리려 갈게”, “사랑해, 나랑 결혼해 주길 기다릴게”. 심지어 적지 않은 중로년 녀성팬들이 ‘재벌 남성’과 직접 만나기를 고대하며 자신의 련락처나 집주소를 남기기도 한다.

업계 관계자에 따르면 제작 문턱이 매우 낮아 개인 운영자 한명이 여러개의 계정을 관리할 수 있으며 ‘AI 재벌 남성’ 계정은 ‘수만개’에 달한다고 한다. 15만 6천명의 팔로워를 보유한 한 ‘재벌 남성’ 계정은 “누님, 오늘 내 생일인데 생일 축하해줄 수 있어요?”라는 단 한개의 영상으로 7만 1천개의 ‘좋아요’와 1만 3천개의 댓글을 받았다. 이 계정은 3개의 단체 채팅방도 개설하였는데 기자가 확인한 결과 총 400여명의 팬이 가입되여 있으며 매일 채팅방에서는 녀성팬들이 자신의 셀카를 공유하며 ‘재벌 남성’에게 인사를 건넨다.

기자가 확인한 바에 따르면 가족들로부터 로인들이 ‘AI 재벌 남성’ 영상에 깊이 빠져 헤여나오지 못한다는 불만을 토로하는 사례도 적지 않았다. 어떤 할머니는 한밤중에 ‘AI 재벌 남성’이 ‘약속을 지켜서 찾아온다’며 음식을 한상을 차려놓고 기다렸는가 하면 어떤 할머니는 영상 속 ‘재벌 남성’이 집과 차를 사준다고 굳게 믿으며 기어코 ‘직접 만나러 가겠다’고 고집을 부리기도 했다.

기자의 취재 결과 ‘AI 재벌 남성’은 조회수를 기반으로 수익 창출이나 상품 판매 등의 경로를 통해 현금화하고 있다. 이로 인해 일부 중로년층은 재산 피해를 보거나 심각한 정신적·신체적 건강 악화를 겪는 것으로 드러났다.

AI 합성 사진

“저희 어머니는 ‘AI 재벌 남성’ 계정에서 쓸데없는 물건들을 잔뜩 주문하셨어요. 집에 쌓인 택배상자들을 열어보지도 않으셨고요. 대충 세여보니 199원, 288원짜리 행운부적을 50개도 넘게 사셨어요. 오로지 ‘착한 오빠’를 응원해야 한다는 생각뿐이였죠.” 상해 시민 진효용이 말했다.

호남성 네티즌 모차(가명)는 기자에게 “‘AI 재벌 남성’이 우리 집 로인의 위챗을 추가하여 매일 애매한 짧은 글과 AI로 합성한 가짜 사진을 보내며 ‘함께 려행가자’, ‘미래에 같이 살자’와 같은 거짓 약속을 하여 로인이 계속해 별풍선을 쏘고 송금하게 만든다.”고 전했다.

‘AI 재벌 남성’이 중로년층을 포위하는 혼란스러운 현상은 법적 문제인 동시에 사회적 문제이기도 하다.

“법률적 측면에서 볼 때 만약 AI로 생성 합성된 ‘재벌 남성’ 영상에 뚜렷한 표기가 없다면 이는 명백한 규정 위반이다. 이러한 ‘AI 재벌 남성’ 계정이 실제 인물인 척 가장하고 중로년층과 일 대 일 관계를 형성한 뒤 상품 구매나 봉사 리용을 유도하거나 직접 송금을 받는 행위는 사기죄에 해당할 가능성이 있으며 최소한 민사상 사기에 해당한다.”고 상해시군열법률사무소 왕요상 변호사가 말했다.

사회적 측면에서 일부 중로년층이 여기에 깊이 빠져드는 근본 원인은 정서적 욕구의 공백과 자기 방어 의식의 부족에 있다. 상해대학 부교수 륙단단은“인구 고령화가 심화됨에 따라 적지 않은 중로년층이 홀로 생활하며 정서적 외로움을 느끼는데 ‘AI 재벌 남성’이 마침 그 정서적 공백을 채워주고 있다”고 분석했다. 동시에 중로년층은 AI 합성기술에 대한 식별능력이 부족하여 가짜 수법을 간파하기 어렵다.

륙단단은“자녀들이 책임감을 가지고 로인들에게 정서적 뉴대감을 더 자주 제공하고 주동적으로 로인들이 인터넷 환경에 적응할 수 있도록 도우며 온라인 사기에 경계하도록 일깨워주어야 한다”고 조언했다. 

/신화사

编辑：유경봉