알고리즘 추천 새로운 규칙:검색 결과 가 여론 사용자 에 게 영향 을 미 치 는 것 을 통제 하지 못 하면 추천 을 닫 을 수 있 습 니 다.

8 월 27 일 에 국가 인터넷 정보 사무실 은(이하)을 발표 하고 공개 적 으로 의견 을 구 했다.

는 여론 속성 이나 사회 동원 능력 을 가 진 알고리즘 추천 서비스 제공 자 에 대해 중점 적 인 규칙 을 실시 했다.내용 추천 요구 에서 주류 가치 방향 을 지 키 는 것 부터 데이터 조작,검색 통제 등 인터넷 여론 에 영향 을 주지 못 하 는 것 까지 검 지 는 웨 이 보,오늘 의 톱기사,백도,빠 른 손,틱 톡 등 정보 와 짧 은 영상 플랫폼 을 말한다.

플랫폼 의 노동력 사용 권익 과 소비자 권리 에 대한 보장 에 대해 은 배달 과 인터넷 계약 차 플랫폼 이 노동자,소비자 에 대한 이중 알고리즘 을 규범화 시 키 고 노동자 알고리즘 의 공정 하고 투명 성 을 확보 하 며 알고리즘 이 소비자 에 게'빅 데이터 의 숙 성'을 거부 하도록 요구한다.

어떻게 플랫폼 이 알고리즘 사용 과 사용자 권리 보장 을 균형 있 게 합 니까?여러 전문 가 는 21 세기 경제 보도 기자 에 게 기업 합 규 는 의견 원고 가 제시 한 기술,관리 와 내용 가치 차원 의 다 차원 적 인 요구 에 주의해 야 한다 고 말 했다.

주류 가치 가이드 라인 을 견지 하고 알고리즘 을 향상 시킨다.

인터넷 정보 내용 의 생태 관 리 는 중국 최근 몇 년 동안 인터넷 관리의 중점 이다.

2019 년 12 월 에 국가 망 신 판 은 을 발 표 했 는데 중국 이 완전한 인터넷 정보 내용 생태 관리 구 조 를 구축 했다 는 것 을 상징 했다.올해 1 월 에 국가 망 신 처 는 에 대해 공개 적 으로 의견 을 구하 고 정보 전파 의 각종 요 구 를 규정 했다.국가 인터넷 통신 판 공 실,전국 음란물 소탕,비 판 공 실 등 도 여러 차례 플랫폼 내용 을 정비 했다.

그러나 인터넷 생태 관 리 는 아직도 어 려 운 문제 가 있다.중국 정 법 대 인터넷 법학 연구소 상 희 설 부 소장 은 한편 음란 포르노,도박 사기,네 거 티 브 콘 텐 츠 가 인터넷 공간 에 가득 하 다 고 소개 했다.다른 한편,'데이터 가 왕'이라는 기형 적 인 관념 에서 플랫폼 은 알고리즘 모델 을 이용 하여 검색,초 화,선전,집적 등 정보 푸 시 방식 으로 사용자 에 게'자극 적'인 화제 와'핫 이 슈'의 정 보 를 투입 하고 대중 들 은 수 동적 으로'참 외 를 먹 을 때 도 정신 적 불편 을 느낀다.

는 알고리즘 추천 서비스 제공 자 는 주류 가치 방향 을 지 키 고 알고리즘 추천 서비스 체 제 를 최적화 시 키 며 긍정 적 인 에 너 지 를 적극적으로 전파 하여 알고리즘 응용 을 향상 시 켜 야 한다 고 지적 했다.

제9 조 수단 측면 에서 콘 텐 츠 서비스 플랫폼 의 정보 푸 시 행 위 를 규범화 시 키 고 정보 내용 관 리 를 강화 하 며 위법 과 불량 정 보 를 식별 하 는 특징 라 이브 러 리 를 구축 하고 입고 기준,규칙 과 절 차 를 보완 해 야 한다.현저 한 표 지 를 하지 않 은 알고리즘 이 합성 정 보 를 생 성 하 는 것 을 발견 하면 현저 한 표 지 를 한 후에 야 계속 전송 할 수 있다.

내용 자체 의 관리 도 필요 하지만 대량의 내용 에서 양성 내용 은 자주 묻 히 고 저속 하 게 눈 을 끄 는 내용 은 쉽게'삭제'되 어'악화 가 양 화 를 쫓 아 내 는'곤경 에 빠 졌 다.

의견 고 제1 1 조 는"인공 관여 와 사용자 자율 선택 메커니즘 을 보완 하 는 것",즉 알고리즘 에 의존 해 콘 텐 츠 추천 을 하 는 것 은 물론 인공 식별 및 선별 과정 을 늘 려 야 한다 면서"첫 페이지 첫 화면,검색,정선,차 트 류,팝 업 창 등 중점 고리 에서 주류 가치 지향 에 부합 하 는 정보 콘 텐 츠 를 적극적으로 보 여 줘 야 한다"고 강조 했다.

이 어"플랫폼 이 주체 적 책임 을 다 지 는 과정 에서 루머 및 기타 불법 정보 에 대한 거 버 넌 스 외 에 알고리즘 결정 에 대한 손잡이 도 추가 한 셈"이 라 고 덧 붙 였 다.주 웨 이 중국 정 법 대 전파 법 연구 센터 부주 임 은 플랫폼 이 어떤 알고리즘 과 논리 로 데 이 터 를 사용 하 느 냐 가 인터넷 감독의 관건 이 라 고 말 했다.

미성년 자의 보호 에 대해'의견 고'제1 6 조 는 특히"미성년 자가 사용 하기에 적합 한 모델 개발,미성년 자의 특성 에 맞 는 서비스 제공 등 을 통 해 미성년 자가 심신 건강 에 유익 한 정보 콘 텐 츠 를 쉽게 얻 을 수 있 도록 한다"고 제시 했다.

'의견 고'발표 당일 왕 신 판 은'팬 덤'난 상 관 리 를 강화 하 라 는 통 지 를 내 고'스타 아 티 스 트 차 트 취소','차 트 규칙 최적화 조정'등 10 가지 업무 조 치 를 내 놓 았 다.왕 신 판 은 음악 작품,영화 작품 등 순위 에서 출석,좋아요,평론 등 지표의 중요성 을 낮 추고 작품의 가이드 라인 과 전문성 평가 등 지표의 중요성 을 높 인 다 고 지적 했다.팬 들 의 차 트 를 유도 하 는 관련 기능 을 설정 하여 팬 들 이 문화 제품 의 질 에 더 많은 관심 을 가지 도록 유도 해 서 는 안 된다.

실시 간 검색 어 를 통제 해 서 는 안 되 고,인터넷 여론 에 영향 을 주어 서 는 안 된다.

검색 어 차 트 는 집 중력 경제의 가장 집중 적 인 표현 으로 뉴 미디어 시대 의 어 젠 다 설정 의 가장 전형 적 인 샘플 이다.

'의견 고'는 정보 류 의 오늘 톱 과 바 이 두,짧 은 동 영상 류 의 빠 른 손 과 틱 톡,종합 류 의 웨 이 보 와 지 등 여러 가지 콘 텐 츠 규제 순 위 를 정선 하 는 플랫폼 으로 검 지 검색 차 트 라 는 기능 서 비 스 를 말한다.

검색 순위,데이터 조작 등 문제 에 대해 감독 부 서 는 이전에 여러 차례 손 을 써 서 플랫폼 에 대한 감독 이 엄격 해 졌 다.

2020 년 6 월 에 국가 망 신 판 은 베 이 징 시 인터넷 정보 사무실 에 시 나 닷 컴 웨 이 보 담당 자 를 상담 하도록 지도 했다.웨 이 보가 장 씨 의 여론 사건 에서 인터넷 전파 질 서 를 방해 하고 위법 한 정 보 를 전파 하 는 등 문제 에 대해 시정 을 명령 하고 웨 이 보 검색 어 순위 업 데 이 트 를 일주일 동안 중단 하 며 관련 책임 자 를 엄 격 히 처리 하고 벌금 의 행정 처벌 을 엄 격 히 했다.

는 알고리즘 추천 서비스 제공 자가 알고리즘 규칙 과 공시 에 대해 요구 했다.제1 2 조 에 따 르 면 내용 을 종합 적 으로 활용 하여 간섭 을 없 애고 검색,정렬,선택,푸 시,전시 등 규칙 의 투명 성과 해석 성 을 최적화 해 야 한다.제1 4 조 는 사용자 에 게 알고리즘 추천 서 비 스 를 제공 하 는 상황 을 현저 한 방식 으로 알려 주 고 알고리즘 추천 서비스의 기본 원리,목적 의도,운영 체제 등 을 적당 한 방식 으로 공시 해 야 한다 고 규정 했다.

웨 이 보 는 지난 8 월 23 일'돈 주 고 검색 어 사기','돈 주 고 검색 어 누 르 기'등의 의혹 에 대응 해 처음으로 검색 어 제품 규칙 과 관리 세칙 을 발표 한 바 있다.웨 이 보 는 검색 어 는 웨 이 보 사용자 의 실제 행동 에 따라 계산 하고 검 색 량,발 박 량,상호작용 량 등 데이터 지표 에 따라 실시 간 차 트 를 형성한다 고 밝 혔 다.차 트 알고리즘 에는 공정 하고 객관 적 인 배수 군 과 반 쓰레기 체 제 를 엄 격 히 포함 하고 있다.

플랫폼 이 여론 및 사회 동원 에 영향 을 미 치 는 규제 에 대해'의견 고'제1 3 조 는 알고리즘 을 이용 해 계 정 허위 등록,불법 거래 계 정,이용자 계 정 조작,또는'좋아요',댓 글,리 트 윗,웹 내 비게 이 션 등 을 허위 로 누 르 고 데이터 조 작·데이터 납 치 를 해 서 는 안 된다 고 요구 했다.알고리즘 을 이용 하여 정보 차단,과도 한 추천,차 트 조작 또는 검색 결과 정렬,검색 통제 또는 정선 등 관여 정 보 를 나타 내 고 자기 우대,부당 경쟁,인터넷 여론 에 영향 을 주 거나 감독 을 회피 해 서 는 안 된다.

이와 함께'의견 고'는 사용자 에 게 선택권 을 부여 할 것 을 요구 했다.제1 5 조 에 따 르 면 알고리즘 추천 서비스 제공 자 는 사용자 에 게 개인 적 인 특징 에 맞지 않 는 옵션 을 제공 하거나 사용자 에 게 편리 하 게 알고리즘 추천 서 비 스 를 닫 는 옵션 을 제공 해 야 한다.사용자 가 닫 기 를 선택 하면 관련 서 비 스 를 즉시 중단 해 야 합 니 다.이 는 지난 8 월 20 일 출범 한 개인 정보 보호 법상 개인 정보 권 및 동의 철회 와 관련 한 내용 과 일맥상통 한다.

인터넷 계약 차,배달 플랫폼 의 이중 알고리즘 이 감독 을 받는다.

최근 들 어 배달 꼬마 형,인터넷 카 운전사 등 신규 취업 형태 근로자 행렬 이 커지 고 있다.2019 년 전체 음식 배달 원 수 는 700 만 명 을 돌파 했다.전국 망 약 차 감독 정보 인 터 랙 티 브 플랫폼 통계 에 따 르 면 2021 년 7 월 31 일 까지 전국 에서 241 개 플랫폼 이 망 약 차 경영 허 가 를 받 았 고 각지 에서 모두 망 약 차 운전면허 351 만 권 을 발급 했다.

'의견 고'는 인터넷 차,배달 등 스케줄 링 의사 결정 류 등 플랫폼 의 알고리즘 에 대해 서도 규 제 를 하고 노동자 및 소비자 의 이중 알고리즘 으로 부터 제약 을 받는다.

노동 자 를 대상 으로 의견 고 는 알고리즘 이 공정 하고 투명 하도록 요구한다.제1 7 조 알고리즘 추천 서비스 제공 자가 노동자 에 게 업무 스케줄 서 비 스 를 제공 할 경우 플랫폼 주문 분배,보수 구성 과 지불,근무 시간,상벌 등 관련 알고리즘 을 보완 하고 노동자 권익 보장 의 무 를 이행 해 야 한다 고 주장 했다.

올해 5 월 에 교통 부,시장 감독 총 국 등 8 개 부서 가 공동으로 방울방울 이동,조조 이동,고 덕,화물 라 등 10 개 플랫폼 을 약속 했다.약 담 요구 에 따라 플랫폼 은 주동 적 으로 가격 결정 체제 와 가격 계산 규칙 을 공개 하고 파 단 체 제 를 지속 적 으로 최적화 해 야 한다.조조,방울 등 플랫폼 은 이미 추출 공 개 를 추진 하 자고 제안 했다.조 교 수 는 운전 기사 단 전시 등 을 통 해 현 행 을 비례 해 공개 했다 고 밝 혔 다.물방울 은 5 월 공개 주문 추출 을 추진 해 운전 자의 계산서 투명 화 를 추진 하 겠 다 고 발표 했다.

7 월 에 인사 부 등 8 개 부서 와 시장 감독 총 국 등 7 개 부 서 는 과 을 발표 하여 기업 이 주문 분배,성과급 단가,추출 비례,보수 구성 과 지불 을 합 리 적 으로 제정 하도록 촉 구 했다.근무 시간,상벌 등 제도 규칙 과 플랫폼 알고리즘 은'알고리즘 취 중'등 방식 으로'가장 엄격 한 알고리즘'을 대체 하 는 평가 요 구 를 제시한다.

소비 자 를 대상 으로 알고리즘 은'빅 데이터 숙 성'을 제한해 야 한다.'의견 고 제1 8 조 에 따 르 면 알고리즘 추천 서비스 제공 자가 소비자 에 게 상품 을 판매 하거나 서 비 스 를 제공 할 경우 소비자 의 합 법 적 권익 을 보호 하고 소비자 의 선 호,거래 습관 등 특징 에 따라 알고리즘 을 이용 하여 거래 가격 등 거래 조건 에서 불합리한 차별 대우 등 위법 행 위 를 실시 해 서 는 안 된다.

중국 정 법 대학 인터넷 법학 연구소 의 상 희 설 부 소장 은 현재 상업 응용 장면 에서 자동화 결정 알고리즘 이 더욱 빈번 해 지면 서 사용자 의 정당한 권익 을 위협 하 는 사회 위험 을 야기 하고 있다 고 분석 했다.

'빅 데이터 살생'과 관련 해 서 는'인터넷 거래 감독 관리 방법','전자상거래 법','국무원 반 독점 위원회 의 플랫폼 경제 분야 에 관 한 반 독점 지침',올해 11 월 1 일부 터 시행 되 는'개인 정보 보호 법'등 여러 법률 과 법규 에 거래 에서 개인 에 대한'차별 대우'를 하지 못 하도록 명 시 돼 있다.

균형 알고리즘 사용 및 사용자 권리 보장

알고리즘 규칙 의 배후 에는 상업 이익 이 있 는데 알고리즘 추천 기술 의 각종 요구 에 직면 하여 기업 은 알고리즘 의 사용 과 사용자 의 권 리 를 어떻게 균형 있 게 보장 해 야 합 니까?

베 이 징 사범 대학 인터넷 법치 국제 센터 집행 주임 오 심 괄 은 기업 합 규 는 에서 제시 한 기술,관리 와 내용 가치 차원 의 다 차원 적 인 요구 에 주의해 야 한다 고 건의 했다.

구체 적 으로 보면 세 가지 측면 을 포함한다.기술 차원 에서 제품 은 연구 개발 단계 에서 알고리즘 이 가 져 올 수 있 는 위험,특히 차별,허위 와 긍정 적 인 에너지 와 부합 되 지 않 는 내용 경향 에 주목 해 야 한다.조직 관리 차원 에서 사용자 등록,관리 에서 리 스 크 평가 까지 의 전 생명 주기의 조직 관리 제 도 를 구축 하고 제도 에서 사람의 관 리 를 전면적으로 실현 해 야 한다.알고리즘 응용 과정 에서 내용 자체 의 가치 윤리 요구 가 사회주의 가치관 과 부합 되 고 정 에너지 전파 요구 와 일치 하 는 것 을 주의해 야 한다.

이 어"좁은 의미 의 사용자 권리 보호 측면 에서 볼 때 데이터 안전,개인 정보 보 호 는 기 존의 법 적 최상 위 설계 하에 제도 간 교차 매 칭 을 하고 사용자 의 자주 적 권리 및 기타 안전 이익 에 대한 종합 적 이 고 전면적 인 보 호 를 실현 해 야 한다"고 덧 붙 였 다.오 심 괄 설.

자동화 결정 은 알고리즘 규제 의 무게 다.'"플랫폼 은 사용자 의 취미,소비 습관 등 특징 에 따라 상품 이나 서 비 스 를 제공 하 는 검색 결 과 를 제공 할 때 개인 적 인 특징 에 맞지 않 는 옵션 을 동시에 제공 해 야 합 니 다."상 희 설 은 한편,법률 규정 을 준수 하 는 전제 에서 기업 은 공개,공평,공정 의 원칙 에 따라 알고리즘 모델 을 설계 하고 자동화 결정 규칙 을 제정 해 야 하 며 사용자 에 게 차별 적 인 차별 화 대 우 를 제공 해 서 는 안 된다 고 밝 혔 다.다른 한편,'고지-동의'의 무 를 이행 하 는 전제 에서 기업 은 사용자 가 알고리즘 설계 와 자동화 결정 에 대한 동의 권,규칙 해석 권 과 선택권 을 보장 해 야 한다.

외부의 힘 을 빌려 기업 이 더욱 객관 적 인 측면 에서 문 제 를 해결 할 수 있 을 지도 모른다.상하 이 대 방 로 펌 의 고급 파트너 인 유 운 정 은 기업 이 제3자 의 알고리즘 감독 위원 회 를 구성 할 수 있다 고 주장 했다.예 를 들 어 제3자 기구,사용자 대표,업계 협회 직원 등 은 정기 적 으로 기업 내부 의 알고리즘 윤리 실현 상황 에 대해 기업 내부 의 자체 조사 와 검 사 를 보조 하고 외부 인사 가 의견 을 제시 할 수 있다.알고리즘 위험 을 효과적으로 줄 일 수 있다.