AI 생성사진

최근 “낯선 전화가 오면 먼저 3초간 침묵해야 한다”는 알림이 SNS에서 화제가 되고 있다. 이 알림은 불법분자들이 전화를 건 후 의도적으로 침묵을 지켜 피해자가 “여보세요” 혹은 “누구세요”와 같은 응답을 하도록 유도할 수 있다고 지적했다.

몇초에 불과한 음성샘플은 불법세력에 의해 AI 음성지문복제에 사용되여 신분을 도용하는 사기 등 불법범죄행위에 악용될 수 있다. 따라서 전화를 받을 때는 먼저 3초간 침묵하고 상대방도 계속 침묵하면 즉시 전화를 끊어야 한다. 이 경고는 우리에게 생물정보보안의 경종을 울렸다.

‘AI기반’ 개인정보침해 질적 변화 발생

과도한 수집, 무감지상태에서의 정보 탈취

AI는 강력한 이미지 및 음성 분석능력을 바탕으로 인터넷에 공개된 자료에서 표준화된 생체특징을 대량으로 추출할 수 있다. 일부 불법 App이나 플랫폼은 ‘얼굴인식’ 인증 등 명목으로 사용자 얼굴과 음성지문데터를 과도하게 수집하거나 촬영할 수 있다.

심층 위조, 새로운 범죄 발생

AI 시대에는 사진 한장에 몇초의 음성만 더해도 진짜와 구분이 안되는 ‘디지털분신’을 복제할 수 있다. ‘지인’을 사칭한 영상통화로 송금을 요구하거나 인터넷으로 가짜뉴스를 류포하는 등 심층위조는 더이상 단순한 기술시연이 아니라 점점 더 불법세력들이 람용하는 새로운 수단으로 되고 있다. 눈으로 본 것도 더이상 ‘사실’이 아니고 귀로 들은 것도 더이상 ‘진실’이 아닌 상황에서 심층위조의 혼란이 계속해서 인터넷공간의 신뢰를 훼손하며 공민들의 재산과 정보안전을 위협하고 있다.

정보 통합, 추론을 통한 개인정보 복원

일부 연구에 따르면 AI는 얼굴영상을 기반으로 일부 체형과 생리적 특성을 추정할 수 있으며 보행데터와 결합해 나이분석과 감정경향인식에 도움을 줄 수 있다고 한다. 불법세력이 관련 데터베이스를 입수하면 유전자데터를 활용해 개인신원을 확인하고 친족관계를 추정할 수 있다. 해외스파이정보기관도 이를 침투 및 반절유도 작전의 돌파구로 삼아 목표대상을 정확히 특정하고 나아가 국가안보를 위협하는 활동을 수행할 가능성이 있다.