지난 몇 달 동안 유튜브 동영상 중 일부가 잘못 삭제됐다고 의심했다면 합리적 의심일 가능성이 높다.

유튜브는 (YouTube)는 코로나 대유행 여파로 직원 출근이 어려워지자 콘텐츠를 조정하기 위해 인공지능(AI)을 도입했다. 그 후 AI는 4월과 6월 사이에 평소보다 두 배 많은 동영상을 삭제한 것으로 나타났다. 이 기간 동안 삭제된 동영상의 상당 부분은 유튜브 규칙을 위반하지 않았다.

동영상 삭제의 증가는 유튜브가 콘텐츠 조정 과정에서 사람의 개입을 줄인 결과다. 코로나 대유행으로 인해 1만명의 조정팀이 출근하지 못하자 유튜브는 AI 기반 중재로 갑작스럽게 전환했다. 업체 컴퓨터 시스템에는 잠재적으로 유해한 콘텐츠나 잘못된 정보가 포함된 것으로 확인된 동영상에 대해 조치를 취할 권한이 부여됐다.

AI가 뛰어난 한 가지 영역은 속도다. 명백히 유해한 동영상은 누구에게나보기 전에 삭제되는 경우가 많다.

AI 조정의 결과, 기계가 동영상을 삭제할 수있는 자율성과 함께 채널에 대한 경고도 내렸다. 많은 사례가 이어지자 유튜브는 결국 정책을 과도하게 시도한 것에 대해 사과했다.

유튜브 AI는 주의 측면에서 실수가 많은 프로그램이었다. 즉, 유튜브 규칙을 위반하지 않는 경계선 콘텐츠가 있어도 콘텐츠가 삭제됐다. 총 1,100만 개의 동영상이 4월과 6월 사이에 삭제됐다. 제작자가 항의를 제출한 후 약 16만 개의 동영상이 복원됐다. 이는 접수된 총 항의 건수의 절반에 해당한다.

유튜브 AI는 25 %에서 50%로 일반적 수준보다 더 많은 게시 중단 결정을 내렸다. 따라서 콘텐츠는 AI로 인해 일반적인 비율의 두 배로 제거되고 두 배 많이 복원됐다.

이같은 유튜브 AI 콘텐츠 검토 프로세스는 중단될 예정이다. 유튜브 최고 제품 책임자 닐 모한(Neal Mohan)은 인간 중재자가 잠재적으로 유해한 콘텐츠를 다시 조사하고 있다고 파이넨셜 타임즈에서 밝혔다.

그는 AI 기반 조정에 한계가 있음을 인정했다. 컴퓨터는 잠재적으로 유해한 동영상을 식별할 수 있지만 삭제할 항목을 결정하는 데는 그다지 좋지 않았다. 훈련된 인간 평가자는 특히 증오심 표현, 의료 잘못된 정보 또는 괴롭힘과 같은 영역에서 더욱 미묘한 결정을 내릴 수 있다.

앞으로 AI는 잠재적으로 유해한 콘텐츠를 식별하는 데 사용될 것이며 인간 중재자는 제거되는 항목에 대한 최종 발언권을 갖게 될 전망이다. 기계는 여전히 콘텐츠 조정에서 필수적인 역할을 하지만 이전처럼 완전한 자율성을 갖지는 못한다.