작성자 : John P. Desmond (AI 트렌드 편집자)
의 추정에 따르면 콘텐츠 조정은 11.8년까지 2027억 달러 규모에 이를 것으로 예상되는 더 큰 비즈니스가 되고 있습니다. 투명성 시장 조사.
시장은 짧은 비디오, 밈, GIF, 라이브 오디오 및 비디오 컨텐츠 및 뉴스 형태의 사용자 생성 컨텐츠의 기하급수적인 증가로 인해 활성화되고 있습니다. 업로드된 콘텐츠의 일부는 가짜 뉴스 또는 악의적이거나 폭력적인 콘텐츠이기 때문에 소셜 미디어 사이트에서는 부적절한 콘텐츠를 걸러내기 위해 AI 및 머신 러닝을 사용하는 도구를 갖춘 중재자 군대를 고용하고 있습니다.
Facebook은 최근 계정에 따르면 연간 500억 달러 규모의 계약으로 콘텐츠 정리를 돕기 위해 Accenture를 고용했습니다. 뉴욕 타임즈, 소셜 미디어 거물에서 콘텐츠 조정의 역사에 대한 광범위한 연구를 기반으로 합니다.
XNUMXD덴탈의 공연 시간 Accenture CEO Julie Sweet는 2019년 임명된 후 다국적 전문 서비스 회사의 명성을 훼손할 수 있는 윤리적 및 법적 위험이 커질 수 있다는 우려에서 계약 검토를 명령했다고 보고했습니다.
Sweet는 Accenture 직원이 교대로 수백 개의 Facebook 게시물을 검토하고 결과적으로 우울증, 불안 및 편집증을 경험한 콘텐츠 중재자의 근무 조건에 항의하기 위해 집단 소송에 참여한 후 검토를 명령했습니다. 검토 결과 변경 사항이 없었습니다. 타임즈 보고서에 따르면 Accenture는 Facebook이 게시물을 검사하기 위해 고용한 15,000명 중 XNUMX분의 XNUMX 이상을 고용하고 있습니다.
Facebook CEO Mark Zuckerberg는 AI를 사용하여 유해한 게시물을 걸러내는 전략을 가지고 있습니다. AI가 포착하지 못하는 부적절한 메시지를 제거하기 위해 수천 명의 콘텐츠 중재자가 고용됩니다.
콘텐츠 조정 작업과 이를 둘러싼 액센츄어와 페이스북의 관계가 논란이 되고 있다. "당신은 가질 수 없었다. Accenture가 없는 오늘날 우리가 알고 있는 Facebook의 모습입니다. 공연 시간. "액센추어와 같은 인에이블러는 놀라운 비용으로 페이스북이 비즈니스의 핵심 인간 문제를 손에 쥘 수 있도록 했습니다."
Facebook은 10년부터 게시물을 필터링하기 위해 최소 2012개의 컨설팅 및 인력 회사와 다수의 하청업체를 고용했습니다. 공연 시간 신고. 미국 사회자는 Accenture에 대해 시간당 $50 이상을 생성하는 반면 미국 일부 도시의 사회자는 시간당 $18의 시작 급여를 받는 반면 급여는 다양합니다. 공연 시간 보도했다.
숙련된 콘텐츠 중재자의 통찰력
AI는 부적절한 콘텐츠의 약 90%를 포착합니다. 콘텐츠 조정 시스템의 한 공급업체는 애펜, 호주에 기반을 두고 있으며 머신 러닝 및 AI 시스템에 대해 고객과 협력하고 있습니다. 최근에 블로그 게시물 웹사이트에서 여러 콘텐츠 조정 프로젝트를 감독하는 프로그램 관리자인 Justin Adam이 몇 가지 통찰력을 제공했습니다.
첫 번째는 실제 경험에 따라 정책을 업데이트하는 것입니다. “모든 콘텐츠 중재 결정은 정의된 정책을 따라야 합니다. 그러나 이것은 또한 특히 민감한 주제에 대한 격차, 회색 영역 또는 가장자리 사례가 나타날 때 이를 좁히기 위해 정책을 빠르게 발전시켜야 합니다.”라고 Adam이 말했습니다. 그는 정책 격차를 식별하기 위해 시장에 특정한 콘텐츠 동향을 모니터링할 것을 권장했습니다.
둘째, 중재자의 잠재적인 인구통계학적 편향을 인식하십시오. “콘텐츠 조정은 조정자 풀이 조정 대상 시장의 일반 인구를 대표할 때 가장 효과적이고 신뢰할 수 있으며 신뢰할 수 있습니다.”라고 그는 말했습니다. 그는 적절하게 다양한 중재자 그룹을 소싱할 것을 권장했습니다.
셋째, 콘텐츠 관리 전략을 개발하고 이를 지원할 전문가 리소스를 확보합니다. Adam은 "콘텐츠 조정 결정은 오늘날의 정치 환경에서 정밀 조사를 받기 쉽습니다."라고 말했습니다. 그의 회사는 고객이 훈련된 정책 주제 경험 팀을 고용하고, 품질 관리 검토를 수립하고, 품질 분석 및 보고를 맞춤화할 수 있도록 지원하는 서비스를 제공합니다.
AI를 통한 자동화된 콘텐츠 조정 기술
가장 일반적인 유형의 콘텐츠 조정은 AI, 자연어 처리 및 컴퓨터 비전을 사용하는 자동화된 접근 방식입니다. 블로그 게시물 컴퓨터 비전, 머신 러닝, 이미지 및 비디오 분석을 전문으로 하는 뉴욕에 기반을 둔 AI 회사인 Clarifai에서 제공합니다.
AI 모델은 콘텐츠를 검토하고 필터링하도록 구축되었습니다. 회사는 인간 중재자의 작업을 지원하기 위해 "부적절한 콘텐츠에 플래그를 지정하고 거의 즉시 게시되는 것을 방지할 수 있습니다."라고 제안했습니다.
콘텐츠 조정 기술에는 다음이 포함됩니다. 이미지 조정 텍스트 분류 및 컴퓨터 비전 기반 시각적 검색 기술을 사용합니다. 객체 문자 인식은 이미지 내의 텍스트를 식별하고 이를 조정할 수도 있습니다. 필터는 모든 유형의 비정형 데이터 내에서 모욕적이거나 공격적인 단어, 개체 및 신체 부위를 찾습니다. 부적절한 것으로 플래그가 지정된 콘텐츠는 수동 조정을 위해 보낼 수 있습니다.
또 다른 기술, 비디오 조정, 비디오를 프레임 단위로 시청하고 오디오도 선별해야 합니다. 을위한 텍스트 검토, 자연어 처리 알고리즘은 텍스트의 의미를 요약하거나 텍스트의 감정을 이해하는 데 사용됩니다. 텍스트 분류를 사용하여 카테고리를 할당하여 텍스트나 감정을 분석할 수 있습니다.
감정 분석은 텍스트의 어조를 식별하고 예를 들어 분노, 따돌림 또는 풍자로 분류한 다음 긍정적, 부정적 또는 중립적 레이블을 지정할 수 있습니다. 명명된 엔터티 인식 기술은 이름, 위치 및 회사를 찾고 추출합니다. 회사는 이를 사용하여 브랜드가 언급된 횟수 또는 경쟁사의 브랜드 또는 리뷰를 게시하는 도시나 주의 사람들 수를 추적합니다. 고급 기술은 내장 데이터베이스에 의존하여 텍스트가 적절한지, 가짜 뉴스 또는 사기인지 예측할 수 있습니다.
의심의 여지 없이 AI가 성공할 기회를 가지려면 온라인 콘텐츠 조정에 AI가 필요합니다. "현실은 인간 중재자가 따라잡기에는 너무 많은 UGC가 있으며 기업은 이를 효과적으로 지원해야 하는 과제에 직면해 있습니다."라고 Clarifai 포스트는 말합니다.
자동화된 콘텐츠 관리 도구의 한계
자동화된 콘텐츠 조정 도구의 한계에는 콘텐츠가 극단주의적이거나 증오심 표현일 때 정확성과 신뢰성이 포함됩니다. 새로운 미국, 워싱턴 DC에 기반을 둔 연구 및 정책 기관. 이러한 콘텐츠 범주에 대한 포괄적인 데이터 세트를 개발하는 것을 "도전"이라고 했으며 다른 그룹과 지역에 안정적으로 적용할 수 있는 도구를 개발하는 것을 "매우 어려움"이라고 했습니다.
또한 부적절한 범주에 속하는 언어 유형에 대한 정의가 명확하지 않습니다.
또한 포스트에 따르면 "인간의 말은 객관적이지 않고 콘텐츠 조정 과정은 본질적으로 주관적이기 때문에 이러한 도구는 인간의 말에 존재하는 뉘앙스와 맥락적 변화를 이해할 수 없다는 한계가 있다"고 포스트는 전했다.
다른 예에서, 이미지 인식 도구는 콘텐츠 조각에서 유방과 같은 누드의 인스턴스를 식별할 수 있습니다. 그러나 도구가 게시물이 음란물을 묘사하는지 아니면 많은 플랫폼에서 허용되는 모유 수유를 묘사하는지 여부를 결정할 수 있을 것 같지 않습니다.
출처 기사 및 정보 읽기 투명성 시장 조사, in 뉴욕 타임즈에 a 블로그 게시물 아펜 홈페이지에서 블로그 게시물 Clarifai 웹사이트 및 계정에서 새로운 미국.
- 000
- 2019
- Accenture
- 계정
- 동작
- AI
- 알고리즘
- All
- 분석
- 분노
- 매년
- 불안
- 약
- 기사
- 오디오
- 호주
- 자동
- 자동화
- 자동화
- 억원
- 몸
- 사업
- 가지 경우
- 잡아라
- 대표 이사
- 도전
- 이전 단계로 돌아가기
- 문자 인식
- 도시
- City
- 집단 소송
- 집단 소송
- 분류
- 클라이언트
- 공동 설립자
- 공동 설립자
- 공통의
- 기업
- 회사
- 컴퓨터 비전
- 컨설팅
- 함유량
- 컨텐츠 관리
- 콘텐츠 검토
- 계약
- 데이터
- 데이터베이스
- dc
- 인구학의
- 우울증 완화
- 개발
- DID
- Edge
- 유효한
- 감정
- 갖추어 준
- 견적
- 경험
- 추출물
- 페이스북
- 모조품
- 가짜 뉴스
- 지우면 좋을거같음 . SM
- 필터
- finds
- 굳은
- 먼저,
- 따라
- 형태
- 일반
- 안경
- 회색
- 그룹
- 성장하는
- 연설을 싫어
- history
- 보유
- HTTPS
- 수백
- 확인
- 영상
- 이미지 인식
- 정보
- 통찰력
- IT
- 언어
- 법
- 소송
- 배우기
- 이용약관
- 제한된
- 기계 학습
- 구축
- 표
- 마크 주커 버그
- 시장
- 시장
- 미디어
- memes
- 백만
- 모니터링
- 이름
- 자연어
- 자연 언어 처리
- 뉴욕
- news
- 제공
- 온라인
- 지불
- 사람들
- 플랫폼
- 정책
- 정책
- 풀
- 인구
- 포르노
- 게시물
- 예측
- 제시
- PRNewswire
- 프로그램
- 프로젝트
- 항의
- 품질
- 거주비용
- 현실 세계
- 현실
- 신고
- 연구
- 자료
- 리뷰
- 리뷰
- 풍자
- 사기
- 검색
- 감정
- 서비스
- 변화
- 짧은
- 사이트
- 사회적
- 소셜 미디어
- 후원
- 주 정부
- 미국
- 전략
- 성공한
- SUPPORT
- 달콤한
- 시스템은
- 소스
- 이상의 주제
- 선로
- 트렌드
- 업데이트
- us
- 가치
- Video
- 동영상
- 시력
- 음량
- 워싱턴
- 웹 사이트
- 백서
- 누구
- 이내
- 말
- 작업
- 일
- 세계