Super Neuro에서
인터넷에는 다른 사람을 가르치는 것을 좋아하고, 도덕적으로 높은 지위를 차지하는 것을 좋아하며, 언어적 분쟁에서 이기는 것을 즐기는 사람들이 있습니다. 그들은 키보드 워리어입니다.오늘 '워리어스와 캐벌리어스 팬이 서로 다툰다' 사건으로 인해 서로를 공격하는 각종 위챗 그룹이 생겨나면서 관심이 더욱 증폭되고 있다. 그들 중 일부는 이를 따랐지만 일부 키보드 워리어는어디서나 문제를 일으키고 무책임한 발언을 하는 것은 인터넷과 사회에 불화를 일으키는 요소입니다.
40억 네티즌 속에 숨어 있는 키보드 워리어를 찾아내 정확하게 개입하는 것은 큰 과제입니다.뉴욕 타임스는 이 문제를 해결할 수 있는 AI 기반 도구를 선보였습니다.
6월 1일에 끝난 NBA 파이널 1차전에서 캐벌리어스 선수 JR 스미스는 경기 마지막 4초를 남기고 중요한 리바운드를 잡았지만, 직접 슛을 하지 않고 미드필드로 공을 가져갔고, 그 결과 워리어스가 승리를 거머쥐었습니다.
JR은 많은 키보드 워리어들로부터 "신이 지혜를 퍼뜨릴 때 JR은 우산을 들고 있었다"며 분노한 비판을 받았습니다.
이런 비꼬는 발언으로 인해 JR은 두 번째 게임에서 9개의 슛 중 2개를 성공시켰고, 전체 경기에서는 단 5점만 득점했습니다. 이런 성과가 키보드 워리어의 영향을 받지 않았다고 말하기는 어렵다.
하지만 뉴욕타임스는 최근 키보드 워리어와 그들의 악의적인 발언을 관리하기 위해 자체 댓글 섹션에 Perspective라는 도구를 도입했고, 그 효과가 좋다고 합니다.
악성 댓글을 빠르게 잠그고 차단할 수 있는 도구
Perspective는 Jigsaw의 주력 제품 중 하나로, 머신 러닝 시스템을 사용하여 커뮤니티의 발언을 관리합니다. Jigsaw는 알파벳 산하의 기술 회사로, 네트워크 보안 문제 해결을 전문으로 합니다. 그들의 슬로건은 "기술을 이용해 세상을 더 안전하게 만들자"인데, 매우 큰 소리의 슬로건이라고 할 수 있습니다.
Perspective는 머신러닝을 통해 대량의 과거 댓글을 분석하고 정리하고, '악의적' 발언의 키워드와 관련 단어를 통해 악성 댓글을 찾아내고, '악의적 수준'에 따라 점수를 매길 수 있습니다. 점수가 높을수록 악의의 정도가 높다는 것을 의미합니다.
다이아몬드는 모욕적인 댓글, 사각형은 부정적인 댓글, 동그라미는 정상적인 댓글입니다.
이러한 점수를 바탕으로 커뮤니티 관리자는 댓글 영역을 완전히 닫지 않고도 댓글을 분류하고 적절한 댓글을 필터링할 수 있습니다.
Perspective의 도움으로 New York Times는 공개 댓글 수를 10%에서 30% 이상으로 늘려 사이트 전체의 활동을 개선했습니다.
현재 Perspective에서는 댓글을 평가하고 관리자가 댓글을 분류하도록 도울 수만 있고, 댓글을 직접 관리할 수는 없습니다. 하지만 Jigsaw에서는 Perspective를 직접 관리할 수 있도록 만들기 위해 노력하고 있으며, 올해 말에는 Perspective를 지원하는 머신 러닝 모델을 더 많이 출시할 예정이라고 밝혔습니다.
댓글란에는 재능도 있고 쓰레기도 있습니다
뉴욕 타임스뿐만 아니라 위키피디아와 이코노미스트도 자체 커뮤니티 댓글을 유지하기 위해 Perspective를 사용하기 시작했습니다.
사람들은 온라인 커뮤니티의 메시지에 점점 더 많은 관심을 기울이고 있습니다. 가장 큰 이유는 일부 비이성적인 커뮤니티 참여자들이 올린 댓글이 작성자에게 어느 정도 정신적 피해를 줄 수 있기 때문인데, 이를 우리는 종종 사이버 폭력이라고 부릅니다.
미국에서는 40% 이상의 사람들이 사이버 폭력을 겪고 있거나 겪었습니다. 키보드 워리어들의 '악의적 비방' 발언은 그들에게 새로운 정신적 부담으로 다가오고 있으며, 정신적 타격이 신체적 타격보다 더 큰 충격을 주고 있다.
작가와 독자를 괴롭힘으로부터 보호하기 위해 많은 미디어나 사회 단체에서는 댓글을 닫을 수밖에 없는데, 이는 작가와 독자의 상호작용에 도움이 되지 않습니다. 이때 키보드 워리어들이 다시 나타났다: 뭐야, 진짜 내 댓글을 꺼버렸잖아. 내가 말할 권리를 빼앗고 있잖아.
원근법은 중국인에게도 효과가 있나요?
Perspective는 현재 공격적이거나 저속한 단어가 포함된 일부 메시지만 식별할 수 있지만, 방대한 양의 데이터를 활용하여 기술적 수준에서 명백하고 미묘한 악의적 발언을 모두 식별할 수 있습니다.
하지만 이는 이미 커뮤니티 메시지를 관리하고 작성자와 독자를 보호하는 데 있어 매우 의미 있는 일입니다.
하지만 현재 국내 미디어 웹사이트에서는 Perspective를 사용할 수 있을까요? 중국어 문자는 영어에 비해 형태가 복잡할 뿐만 아니라, 기계가 여러 의미를 표현하기에는 매우 복잡합니다.
관점은 여전히 심오한 중국 문화, 다양한 은유, 유행어에 관해서는 약간 무력하다고 추정되지만, 적어도 지금은 인터넷 경찰이 있습니다.