본문 바로가기

페이스북, 인공지능으로 '자살위험 사용자' 알려준다

중앙일보 2017.03.01 23:12
페이스북의 자살위험 사용자 경고 서비스.

페이스북의 자살위험 사용자 경고 서비스.

대표적인 SNS 페이스북이 이제 사용자의 자살위험 정도를 인식해 알려주게 된다.
 
영국 BBC 등 매체는 1일(현지시각) 페이스북이 자살위험 사용자를 식별해 알려주는 기술을 도입한다고 전했다.
 
사용자의 방대한 개인정보와 사용자가 직접 올리는 게시물 등을 분석해 어떤 사용자가 현재 자살 위험성이 높은지 알려주겠다는 것이다. 매체는 페이스북의 휴먼리뷰 팀으로부터 해당 사실을 확인했다고 전했다.
 
페이스북의 새로운 기술은 우선 미국 사용자를 대상으로 서비스될 예정이다. 새로운 기능을 도입할 때 페이스북은 일반적으로 미국 등 일부 지역 사용자를 대상으로 시험하는 과정을 거친다.
 
이 기술의 특징은 페이스북의 인공지능이 사용자가 올린 게시물을 분석한다는 데 있다. 페이스북은 그동안 자살위험 사용자에 대한 신고 기능을 운영해 온 바 있다. 하지만 기존 방식은 다른 사용자의 적극적인 신고가 있어야 처리될 수 있었다. 새 기술은 자살위험 사용자의 신고 패턴을 인공지능이 학습해 보다 신속히 처리할 수 있도록 돕는다.
 
예를 들어 사용자가 '고통스럽다'라거나 '슬프다'라는 이야기를 하는 것이 하나의 자살위험 신호가 될 수 있다. 또 친구들이 해당 사용자에게 '걱정된다', '괜찮아?' 등 메시지를 남기는 것도 자살위험 사용자를 판별하는 데 이용된다. 인공지능이 이 같은 신호를 포착하면, 즉시 도움을 줄 수 있는 기관으로 메시지를 전달하게 된다. 페이스북은 이를 위해 '미 자살예방지원센터(US National Suicide Prevention Lifeline)' 등과 연계한다.
 
바네사 칼리슨 버치 페이스북 제품 매니저는 "상황이 급학한 경우 속도가 중요하다"라고 밝혔다.
 
또 페이스북은 라이브 영상 송출 시에도 자살위험 사용자를 도울 수 있도록 한다는 계획이다. 페이스북 생방송을 보는 사용자가 '메뉴' 항목을 통해 직접 신고하는 방식이다. 페이스북은 해당 신고를 접수한 뒤 적절한 조치를 취하게 된다.
 
제니퍼 과다뇨 페이스북 수석연구원은 "라이브 방송 중 자살에 관해 암시하는 순간 영상을 중단해야 한다고 말하는 사람들도 있을 것"이라면서도 "하지만 영상 송출이 너무 일찍 중단되면 도움을 제공할 기회가 사라지게 될 것이라는 게 전문가들의 조언"이라고 밝히기도 했다.
 
실제로 미국 플로리다에서는 지난달 14살 나키아 베넌트가 스스로 목을 매 목숨을 끊는 과정을 약 2시간여 동안 페이스북으로 생중계 해 논란이 되기도 했다. 동영상을 본 친구가 경찰에 신고했지만 나키아 베넌트는 끝내 목숨을 잃었다. 페이스북은 생방송 중 자살위험 사용자에 대한 신고 기능이 이 같은 비극을 줄이는 데 도움이 될 것으로 기대하고 있다.
 
페이스북은 인공지능을 활용한 새 기술을 국가나 지역의 자살예방 관련 센터가 지원할 수 있는지 여부를 검토한다는 방침이다. 검토 과정이 끝나면 미국 외 사용자들도 해당 기능을 사용할 수 있게 될 전망이다.
 
오원석 기자 oh.wonseok@joongang.co.kr
공유하기
광고 닫기