Apple попыталась развеять опасения пользователей и правозащитников, обеспокоенных новой политикой компании, позволяющей IT-гиганту сканировать фотографии пользователей в облачном хранилище iCloud, выявляя снимки, потенциально содержащих элементы насилия над детьми.
В Apple заявляют, что речь идёт именно о таких типах преступлений, и компания не станет расширять спектр «выявляемого» контента и, тем более, делиться любой другой информацией по запросу чьих бы то ни было органов власти.
На прошлой неделе компания анонсировала два инструмента. Один будет использовать алгоритмы машинного обучения, размывая «взрослые» изображения, присылаемые детям в приложении Messages. Дополнительно о получении ребёнком такого контента или попытке его отправки будут уведомляться родители детей до 12 лет. Второй инструмент будет сканировать все фотографии в iCloud, выявляя фото с элементами насилия над детьми. В этом случае компания будет уведомлять не родителей, а правоохранительные органы.
Планы компании вызвали обеспокоенность правозащитников, опасающихся, что деятельность Apple может выйти за рамки миссии по обеспечению безопасности детей.
По данным Apple, компания не раз получала запросы властей расширить список анализируемого контента, но всегда отказывала в ответ на подобные запросы.
На деле известно, что компания часто идёт на компромиссы с органами власти в разных регионах — от продажи iPhone без приложения FaceTime в странах, запрещающих шифрованные видеозвонки, до удаления тысяч приложений из китайской версии App Store. Это не единственные, но довольно яркие примеры.
Кроме того, существуют некоторые опасения, что функция «размытия» взрослого контента в приложении Messages будет давать сбои. Хотя алгоритмы не предусматривают отправки самих снимков в Apple или правоохранительным органам, непонятно, насколько точно функция будет определять неприемлемый контент и не будет ли, например, размывать вполне безобидные кадры.
Правозащитники опасаются, что одним переключением флажков можно будет запретить пересылку чего угодно не только детям, но и взрослым. Как утверждают представители группы Electronic Frontier Foundation, недавние попытки сервиса Tumblr блокировать потенциально откровенный контент — пример того, как технологии не смогли справиться с задачей.
