김범수의 'AI 윤리' 해법은…국내 첫 증오발언 근절원칙
김범수의 'AI 윤리' 해법은…국내 첫 증오발언 근절원칙
  • 윤석현 기자
  • 승인 2021.01.13 17:20
  • 댓글 0
  • 트위터
  • 페이스북
  • 카카오스토리
이 기사를 공유합니다

"모든 차별·배척 반대"…정치권 망설이는 '성 정체성·성적 지향' 포함
공개 게시물에 적용…카톡·메일 등 사적 공간은 대상 아냐

[서울이코노미뉴스 윤석현 기자] 카카오가 국내 기업 중 처음으로 '증오(혐오)발언 근절원칙'을 수립해 서비스에 적용한다고 13일 발표했다.

카카오는 "출신, 인종, 장애, 성별, 성 정체성 등을 이유로 인간을 차별·배척하는 일은 근절돼야 한다"고 강조했다. 이른바 '이루다 사건'으로 '디지털·인공지능(AI) 윤리' 논쟁이 뜨거운 상황에서 업계 선례로 작용할 전망이다.

카카오는 "온라인 증오 발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 공감대가 넓어지고 있다"며 "카카오 역시 사회 구성원으로서 디지털 공간을 건강하게 만들기 위한 원칙을 수립했다"고 설명했다. 카카오는 약 1년에 걸쳐 증오 발언 근절을 위한 원칙을 마련했다고 밝혔다.

첫번째 원칙으로 "한 인간의 정체성을 이유로 특정대상을 차별하거나, 이에 대한 편견을 조장하거나, 일방적으로 모욕·배척하는 행위를 반대한다"고 선언했다.

인간의 정체성으로는 '출신(국가·지역 등), 인종, 외양, 장애 및 질병 유무, 사회 경제적 상황 및 지위, 종교, 연령, 성별, 성 정체성, 성적 지향, 기타 정체성 요인 등'이 명시됐다. 주요 정치인이나 정당마저 여전히 "사회적 합의가 필요하다"고 주장하는 성 정체성, 성적 지향에 관해 차별·배척하지 않겠다고 선언한 점이 눈에 띈다.

카카오는 이런 차별에 기반을 두고 특정집단을 공격하는 발언을 증오발언으로 정의한다면서, 증오발언에 앞으로 강경하게 대처하겠다고 예고했다. 증오발언은 이용자의 안전을 위협할 뿐아니라 사회적 배척 및 물리적 폭력을 유발하며, 발언의 자유와 사회 신뢰·건강성까지 저해한다는 이유에서다.

카카오는 이용자들에게 "서비스 내에서 특정인과 특정집단에 대한 폭력을 선동하거나 인간 존엄성을 훼손하는 발언에 유의해야 한다"고 당부했다.

그렇다고 카톡 대화를 카카오가 들여다보겠다는 것은 아니다. 카카오는 "위 원칙은 '공개 게시물' 영역에 한한다"며 "카톡의 사적대화 공간, 메일, 톡 서랍 등 개인화 서비스와 커뮤니티의 비공개 게시글 등에는 프라이버시 존중을 최우선 가치로 적용할 것"이라고 강조했다. 그러면서 "증오발언을 근절하기 위해 앞으로도 정책, 기술, 서비스 기획 및 디자인을 고도화하겠다"며 "사내 교육과 모니터링도 강화하겠다"고 덧붙였다.

카카오의 증오발언 근절원칙 수립과정에는 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등이 참여했다. 카카오는 보통 '혐오발언'이라고 번역하는 'hate speech'를 증오발언으로 표현한 이유 등에 관해 어떤 숙의 과정을 거쳤는지 공식 블로그에 공개했다. 숙의 및 연구 결과는 녹서(green paper) 형태로 블로그에 게재했다.

이처럼 디지털 공간내 문제를 해결하려는 노력은 카카오의 ESG(환경·사회·지배구조) 활동의 일환이다. 카카오는 전날 이사회 산하에 ESG위원회를 신설하고 김범수 이사회 의장이 위원장을 맡는다고 밝혔다.

카카오 관계자는 "국내에서 증오발언 근절을 위해 기업이 원칙을 제정해 적용하는 것은 이번이 처음"이라고 말했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • (주)서울이코미디어
  • 등록번호 : 서울 아 03055
  • 등록일자 : 2014-03-21
  • 제호 : 서울이코노미뉴스
  • 부회장 : 김명서
  • 대표·편집국장 : 박선화
  • 발행인·편집인 : 박미연
  • 주소 : 서울특별시 영등포구 은행로 58, 1107호(여의도동, 삼도빌딩)
  • 발행일자 : 2014-04-16
  • 대표전화 : 02-3775-4176
  • 팩스 : 02-3775-4177
  • 청소년보호책임자 : 박미연
  • 서울이코노미뉴스 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2021 서울이코노미뉴스. All rights reserved. mail to seouleconews@naver.com
ND소프트