청소년 보호라는 명분 아래, 이제는 인공지능(AI)이 사용자 나이를 판단하고 개입하는 시대가 열렸다. 메타(Meta)는 21일(현지시간), 인스타그램에서 AI 기술을 활용해 10대로 보이는 사용자 계정을 식별하고, 보호 모드로 자동 전환하는 조치를 시행한다고 밝혔다.
 [코리안투데이] Meta의 인스타그램. (출처=freepik.com) © 변아롱 기자 |
이제 부모나 당사자의 설정 여부보다, AI가 먼저 ‘이 계정은 10대일 가능성이 높다’고 판단하면 보호 조치가 우선 적용되는 방식이다. 이번 조치는 청소년 보호 강화를 위한 것이라는 입장이지만, 사용자의 자기 정보 결정권보다 플랫폼의 기술적 판단이 우선시되는 첫 사례 중 하나로 꼽힌다.
메타는 기존에도 AI로 사용자 연령을 추정해왔지만, 이번에는 입력된 생년월일이 ‘성인’이라도, 콘텐츠 이용 패턴, 다른 사용자의 신고, 게시물 문맥 등 다양한 정보를 AI가 종합적으로 분석해 틴 계정(Teen Account) 으로 강제 전환할 수 있도록 했다. 틴 계정으로 지정되면 해당 계정은 ▲낯선 이의 메시지 수신 차단, ▲연령 부적절 콘텐츠 제한, ▲광고 타깃 축소, ▲16세 미만은 부모 동의 없는 설정 변경 불가 등 강화된 보호 정책이 자동 적용된다.
현재 메타에 따르면 전 세계 약 5400만 명 이상의 10대 사용자가 틴 계정 환경을 사용 중이며, 그중 13~15세 사용자의 97%가 이 보호 계정을 유지하고 있는 것으로 나타났다. 하지만 이번 조치는 단순한 청소년 보호의 수준을 넘는 것으로 평가된다. 이제는 플랫폼이 이용자의 나이조차 ‘추정’하고, 추정 결과에 따라 직접 개입할 권한을 행사하게 된 것이기 때문이다.
디지털 윤리 전문가들은 “보호 목적이라는 의도는 타당하지만, AI가 사람의 신원을 판단하고 제한하는 권한을 가지는 것은 매우 중대한 변화”라고 지적한다. 특히 이러한 개입이 점차 자동화되는 과정에서 설명 가능성이나 이의제기 절차가 거의 마련되지 않은 점은 우려의 대상이다.
이번 발표는 미국 내에서 청소년 SNS 중독과 정신건강 문제가 크게 대두되는 가운데 나왔다. 최근 몇 달간 메타는 의회 청문회에 반복적으로 소환되며, 청소년 안전 기준 강화와 플랫폼 책임성 확대를 요구받고 있다. 이에 따라 메타는 페이스북과 메신저에도 틴 계정 기능을 확장 적용했으며, 이번에는 AI가 먼저 개입하는 방식으로 보호 조치를 강화한 셈이다.
메타는 “청소년 사용자들이 보다 안전한 환경에서 인스타그램을 사용할 수 있도록 AI를 적극적으로 활용하고 있다”며 부모 이용자에게도 계정 생일 정보 확인 알림을 보내고, 가족 간 디지털 대화를 유도하겠다고 밝혔다. 그러나 기술의 개입이 과도해질 경우, 사용자와 부모의 자율성은 점점 더 위축될 수 있다는 지적도 있다.
<저작권자 ⓒ 코리안투데이(The Korean Today) 무단전재 및 재배포 금지>
