Сообщается о разработке системы сканирования запрещенного контента, сохранённого в памяти смартфона.
Технопортал 3dnews.ru со ссылкой на издание 9to5mac.com сообщает, что компания Apple планирует в скором времени анонсировать систему сканирования фотографий, сохранённых в памяти смартфона. Система предназначена для обнаружения изображений жестокого обращения с детьми. В основе решения лежит алгоритм хеширования.
Сообщается, что с целью сохранения личных данных сканирование изображений будет производится локально, то есть на самом устройстве, без передачи данных в облако. В процессе сканирования система сравнит фото, найденные ею на телефоне, с сигнатурами известных Apple изображений незаконного содержания. При обнаружении совпадений с образцами система предположительно будет обращаться к администратору, который проведёт дальнейшую работу. Кто является этим «администратором», и в чем будет заключаться «дальнейшая работа», не сообщается.
Известно, что в основе решения лежат алгоритмы хеширования, которые уже используются в облачном хранилище iCloud при выгрузке фото. В общих чертах подобным образом работает система машинного обучения, которая позволяет Apple Photo распознавать объекты.
Эксперт по вопросам криптографии и безопасности Мэтью Грин (Matthew Green), на которого ссылается издание, отозвался о вероятном нововведении с долей скептицизма. Он отметил, что хеширующие алгоритмы несовершенны, они могут приводить к ложным положительным срабатываниям. А если подобная функция внедряется по настоянию властей, то, по мнению эксперта, она сможет использоваться не только для обнаружения фактов жестокого обращения с детьми, но и в других целях.
Кроме того, по информации эксперта, фотографии в iCloud на данный момент не защищены сквозным шифрованием. На серверах Apple они действительно хранятся в зашифрованном виде, однако, ключи для расшифровки данных есть у самой Apple. Соответственно, содержание пользовательских изображений потенциально может изучаться как самой компанией, так и по запросу иных компетентных органов.
В комментариях к заметке пользователи высказали свое недоумение и опасения, что ложноположительные срабатывания системы могут скомпрометировать добропорядочных пользователей. В качестве примера острословы заметили, что теперь не стоит фотографировать сардельки в супермаркете.
Стоит отметить, что мощные смартфоны уже довольно давно научились распознавать предметы, изображенные на фото. В качестве примера приведем имеющийся в использовании флагманский смартфон аж трехлетней давности Samsung Galaxy S9+. В подавляющем большинстве случаев гаджет распознает изображенные на снимках сюжеты и предметы, причем, серьезно ошибается весьма редко. В качестве примера: смартфон распознал на снимке зеленые, еще не зрелые помидоры; правильно понял, что внутри закатанных стеклянных банок без этикеток находится еда; узнал в изображенном агрегате газовый (именно газовый) котел.
Бывают и ошибки, но они больше похожи на юмор. Так, фото разбитой дороги искусственный интеллект распознал как пляж (видимо, потому что песка там было больше, чем асфальта), а фото асфальтовых катков за работой определил как «праздник» (видимо, праздник для автомобилистов). Сразу поясним: ничего сомнительного на этот телефон не фотографировалось, поэтому его реакция на такие снимки пока не выяснена.
Таким образом, способность современных смартфонов анализировать фотографии пользователя средствами ИИ – уже не новость. Главный вопрос – как могут использоваться результаты такого анализа.