Gregory's Server
Алгоритм Google помогает находить детей, подвергающихся сексуальному насилию. Но иногда он ошибается — и блокирует аккаунты родителей, которые просто отправили фото ребенка врачу
В 2021 году технологические компании обнаружили более 45 миллионов фотографий и видеозаписей, содержащих признаки сексуального насилия над детьми — в два раза больше, чем было суммарно найдено за последние 20 лет. Google отправил в 2021 году более 600 тысяч отчетов в американский Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC) и отчитался о блокировке около 270 тысяч аккаунтов за распространение материалов, связанных с жестоким обращением с детьми. Но далеко не все обнаруженные материалы были связаны с нарушением прав несовершеннолетних — часто разбирательства начинались в отношении родителей, которые фотографировали своих детей без какого-либо злого умысла. The New York Times рассказала о работе алгоритма, направленного на выявление запрещенного контента.