Meta(旧Facebook)でInstagramのユーザー調査を実施したコンサルタントが、ハラスメント対策に向き合わないMetaの実態を告発。
https://www.wsj.com/tech/instagram-facebook-teens-harassment-safety-5d991be1
- Metaは自動化を進め、有害な投稿を通報したユーザーへの対処のリソースを減らしていた。しかしMetaの分類器はヘイトスピーチの5パーセントも削除できなかった。
- 「いじめの目撃数」は、Metaの統計より100倍多かった
◎16歳以下のユーザーへの調査では、「過去1週間」で
- 26%が人種、宗教、アイデンティティに基づく敵意を目撃し、嫌な経験をした
- 5分の1以上が他人の投稿を見て自分自身の印象を悪く感じた
- 13%が望まない性的誘いを受けた
しかしMetaの管理職層はユーザー調査に基づく改善に反発。やがて調査に関わったチームのほとんどは解雇された。
感想:巨大SNSで評価指標の数字を向上させようとすると、だいたい人権を侵害する方向になる。そこで営業が人権を損なわない企業ガバナンスが必要だ。これはESG経営では当然のことで、現代の大企業にとっての義務だ。ただし巨大テック企業は往々にしてESG経営や人権優先のやり方を好まない。巨大SNSには法規制が必要だ。
GNU social JP is a social network, courtesy of GNU social JP管理人. It runs on GNU social, version 2.0.2-dev, available under the GNU Affero General Public License.
All GNU social JP content and data are available under the Creative Commons Attribution 3.0 license.