[디지털 놀이터 재정의: 소셜 미디어에서 청소년 안전을 위한 캠페인] 소셜 미디어는 괴롭힘, 십대 자살, 섭식 장애, 폭력적인 행동, 급진화 등을 포함한 다양한 심각한 문제를 일으키고 있다. 불법 행위에 가담하거나 조장하는 플랫폼과 개인에 대한 책임을 강화하고 처벌을 강화하여 알고리즘을 개혁한다.https://www.unite.ai/redefining-the-digital-playground-a-crusade-for-youth-safety-in-social-media/
디지털 놀이터 재정의: 소셜 미디어에서 청소년 안전을 위한 캠페인
최근 소셜 미디어를 통한 상원 청문회는 신랄하면서도 설득력이 있었다. 상원의원들은 Meta, X, TikTok, Snap, Discord와 같은 주요 기업의 CEO들과 만나 플랫폼이 젊은 사용자에게 미치는 영향에 대해 어려운 질문을 던지고 책임을 요구했다. 이러한 절차에 가슴 아픈 배경을 더한 것은 기술 리더 뒤에 앉아 있던 부모들이었는데, 이들의 아이들의 죽음은 소셜 미디어 사용과 연관되어 있었다. 그들의 가슴 아픈 이야기는 토론에 매우 개인적이고 비극적인 차원을 더해주었다.
소셜 미디어 회사는 자신이 가하는 피해에 대해 무관심하다는 이유로 비난을 받고 있다. 그들의 작전의 결과는 괴롭힘, 십대 자살, 섭식 장애, 폭력적인 행동, 급진화 등을 포함한 다양한 심각한 문제로 확장된다.
이러한 긴급한 우려에 대응하여 상원은 어린이들이 온라인에서 직면하는 수많은 위험을 해결하기 위한 포괄적인 법안인 어린이 온라인 안전법(KOSA)을 적극적으로 마련해 왔다. 수년간의 심의와 수많은 개정의 결과로 탄생한 이 법안은 소셜 미디어 회사가 가장 어린 사용자의 안전과 복지에 대해 더 많은 책임을 지도록 하는 입법적 노력을 나타낸다. 하지만 이것으로 충분할까?
변혁적이지는 않지만, 신뢰할 수 있는 첫 번째 단계 KOSA를 미시적으로 분석하지 않고도 이 법안이 플랫폼에 미성년자에 대한 위험을 줄이도록 의무화하는 '주의 의무'를 정의하는 등 혁신적인 조치를 도입한 것이 분명하다. 그러나 KOSA의 도달 범위는 제한되어 있다. 의회가 추가 조치 없이 KOSA를 제정할 경우, 그 결함으로 인해 소셜 미디어가 젊은 사용자에게 미치는 악영향이 확산될 수 있다. 특히 KOSA는 성인이 이러한 플랫폼을 통해 아동을 타깃으로 삼는 것을 막지 못하고 있다. 왜냐하면 연령 확인을 의무화하지 않고 미성년자로 식별된 사용자에 대한 성인용 콘텐츠만 제한하기 때문이다. 이는 상당한 논란을 불러일으킬 수 있는 조항이다.
이러한 한계에도 불구하고 KOSA는 온라인에서 아동을 보호하기 위한 긍정적인 첫 단계를 나타낸다. 그 결함은 돌이킬 수 없는 것이 아니다. 중요한 점은 이 법안이 최종 해결책이 아니라 소셜 미디어 관행을 개혁하고 어린이에게 미치는 해로운 영향을 줄이기 위한 지속적이고 다년간의 노력의 시작으로 보아야 한다는 것이다. 미성년자를 위한 보다 안전한 온라인 환경을 향한 여정에는 일회성 입법 노력 이상이 필요하다. 지속적인 헌신과 적응이 필요하다.
강한 반대는 영토와 함께 온다. KOSA는 바로 미국의회에서 시작되었다. 그러나 이러한 플랫폼이 전 세계적으로 확장되기 때문에 효과적인 규제를 위해서는 포괄적인 감독을 보장하기 위해 유럽 연합과 같은 연방 및 초국가적 지원이 필요하다. 그러한 입법적 지원이 없다면 소셜 플랫폼이 젊은 층의 참여 지표를 잠재적으로 감소시킬 수 있는 변화를 자발적으로 시행할 가능성은 거의 없다.
연방법은 비록 작은 규모일지라도 서로 다른 주법 모음에 비해 더 통일된 접근 방식을 제공하므로 법무장관이 더 많은 정치적 목표를 달성할 수 있다. 연방 프레임워크는 주 전체의 모든 플랫폼에 대해 공평한 경쟁의 장을 보장하여 규정을 준수하는 회사가 경쟁적 불이익에 직면하는 것을 방지한다. 그러나 그러한 법안을 마련하는 것은 권리 운동가, 주요 소셜 미디어 기업, 성인 콘텐츠 제공업체 등 모두 자신의 이익을 적극적으로 방어할 준비가 되어 있는 다양한 분야의 법적 문제를 견뎌야 하기 때문에 섬세한 과정이다.
법적 반발을 선제적으로 해결해야 하는 과제는 이해관계자가 타협을 꺼리면서 더욱 어려워진다. 잠재적으로 효과적이기는 하지만 급진적인 전략에는 ACLU, 권리 운동가, 헌법 변호사, 아동 안전 옹호자와 같은 다양한 당사자 간의 대화를 강요하고 합의에 도달할 때까지 누구도 떠나지 말라는 지시가 포함될 수 있다.
연령이나 신원 확인을 위한 기술 사용을 법률이 어떻게 규제해야 하는지에 대한 질문은 매우 중요하다. 소셜 미디어를 유틸리티와 비교하면 엄격한 규제가 필요하다는 주장이 강조된다. 소셜 미디어는 필수 서비스를 제공하지만 상당한 위험도 내포하고 있다. 이러한 비유는 소셜 미디어의 역할과 기능에 대한 재평가를 불러일으킨다. 특히 알고리즘이 사용자를 점점 더 높은 참여도와 광고 수익 추구에 힘입어 점점 더 극단적인 콘텐츠로 유도할 수 있다는 점을 고려하면 더욱 그렇다. 이러한 역동성은 아이들이 증오와 불만을 악화시키는 온라인 반향실에 스스로를 고립시키고 더 건강한 관점에서 멀어지게 만들 수 있다.
하지만 소셜미디어의 획기적인 변화는 단 한번의 사건으로 일어나지 않는다. KOSA는 중요한 초기 단계를 나타내지만 이는 복잡한 퍼즐의 한 조각일 뿐이다. 변화를 가져올 가능성이 있지만 단계적으로 일어날 것이다.
단거리 경주가 아닌 마라톤이다. 헌법상의 자유를 유지하면서 온라인 안전을 보장하는 일은 복잡하다. 성공은 수년에 걸쳐 점진적이고 사려 깊은 발전을 통해 달성될 가능성이 높다. KOSA의 성공을 위해서는 협력과 타협, 합의 구축이 매우 중요하다. 그것은 훌륭한 목표이지만 단번에 합의를 달성하는 것은 불가능하다. 보다 실질적인 기대는 KOSA가 매년 업데이트를 통해 지속적으로 개선되고 향상되는 것이다. 이러한 조정은 전년도의 경험을 바탕으로 기술 변화, 오용 패턴에 적응하고 업계가 새로운 규정에 적응할 수 있는 적절한 시간을 제공할 것이다.
이상적으로, 첫 번째 라운드인 KOSA 2024는 다음을 지정하여 콘텐츠 등급, 연령 확인 및 거부/탈퇴, 경고 및 검열을 포함한다: ▷어떤 콘텐츠가 허용되지 않거나 불법인가? ▷플랫폼에 의해 차단될 수 있고 차단되어야 하는 콘텐츠는 무엇인가? ▷유해하지만 차단할 수 없는 콘텐츠에 라벨을 지정하는 방법을 정확하게 설명한다. ▷사용자와 부모에게 경고하는 방법 및 민감한 콘텐츠 주변에 배치할 장벽은 무엇인가? ▷옵트아웃(콘텐츠 차단) 기본 설정이다.
알고리즘 개혁: 논란의 여지가 있지만 잠재적으로 변화가 있을 수 있음 2025년 KOSA의 다음 단계는 불법 행위에 가담하거나 조장하는 플랫폼과 개인에 대한 책임을 강화하고 처벌을 강화하는 데 중점을 둘 것이다. 이는 불법 콘텐츠의 확산을 억제하는 것뿐만 아니라 과도한 둠 스크롤, 유해한 온라인 환경에 뛰어드는 등 청소년의 정신 건강 위기에 기여하는 행동을 해결하는 것을 목표로 한다.
더 멀리 내다보면 후속 반복은 소셜 미디어 플랫폼의 운영 자체에 중추적인 변화를 가져올 수 있으며, 잠재적으로 현재 사용자, 특히 젊은 사용자를 부정적이고 위험한 온라인 공간으로 안내하는 "알고리즘 반전"을 중심으로 할 수 있다. 여기서의 목표는 유해한 콘텐츠에 대한 노출을 방지할 뿐만 아니라 사용자가 온라인에서 더욱 안전하고 긍정적인 상호 작용을 할 수 있도록 적극적으로 유도하는 것이다.
잠재적으로 논쟁의 여지가 있지만 알고리즘을 뒤집으면 플랫폼이 스스로를 재창조할 수 있는 길이 열린다. 이러한 변화를 예측함으로써 소셜 미디어 회사는 비즈니스 모델을 조정할 준비를 할 수 있다. 목표는 사용자, 특히 젊은 층의 복지를 우선시하는 환경을 조성하면서 수익성을 유지하는 것이다. 이러한 미래 지향적인 전략은 윈윈(win-win) 시나리오를 제안한다. 즉, 보다 건강하고 참여도가 높은 온라인 커뮤니티를 조성하여 사용자의 정신 건강을 보호하고 소셜 플랫폼의 장기적인 생존 가능성을 보장하는 것이다.
변화가 오래 지연되다. 상원 청문회에서 가족들의 증언은 소셜 미디어 규제에 대한 점진적인 변화 이상의 필요성을 강조한다. 진화하는 인공지능 위협과 외부 영향에 맞서기 위해서는 KOSA 2024를 시작으로 철저한 점검이 필수적이다. 이 프로세스에는 SEC 및 FDA와 마찬가지로 지속적인 조정이 필요하다.
그러나 무대책은 선택 사항이 아니다. 소셜 미디어 플랫폼에서 청소년의 안전을 보장하려면 집중적이고 장기적인 전략이 중요하다. 포괄적인 개혁을 시작하고 이러한 조치를 지속적으로 개선함으로써 우리는 피해를 완화하고 마침내 소셜 미디어의 원래 약속인 연결을 통해 더 나은 삶을 실현할 수 있다.
<저작권자 ⓒ 사단법인 유엔미래포럼 무단전재 및 재배포 금지>
디지털 놀이터, 소셜미디어, 어린이 온라인 안전법(KOSA), 알고리즘 개혁 관련기사목록
|
많이 본 기사
AI메타홈서비스 많이 본 기사
1
최신기사
|