Адрес для входа в РФ: exler.world
А что это там у тебя в айфончике?
Компания готовится к запуску функции отслеживания снимков в галереях смартфонов на предмет наличия незаконного контента. Сканирование будет проводиться непосредственно на iPhone, но в случае обнаружения подозрительных изображений нейросеть сообщит об этом в Apple. Информацию о нововведении, опубликованную изданием Financial Times, уже подтвердили представители бренда.
По заявлению Apple, фирменный алгоритм neuralMatch позволяет локально сканировать фотографии владельцев iPhone без их отправки на облачные сервера. «Подозрительность» снимков выявляется путём сопоставления с базой данных Национального центра поиска пропавших и эксплуатируемых детей в США, включающей более 200 000 изображений.
С помощью алгоритмов хеширования система пометит сомнительные фото — и если количество отметок достигнет определённой цифры, neuralMatch предупредит Apple о возможном обнаружении незаконного контента. После этого сотрудники компании примут решение об обращении в правоохранительные органы. Схожую систему проверки изображений под названием PhotoDNA уже применяют и другие крупные компании, такие как Facebook, Twitter и Google.
Кроме того, в iOS 15 приложение «Сообщения» будет использовать машинное обучение на устройстве, чтобы предупреждать пользователя, если он намерен отправить конфиденциальный контент. Если гаджетом пользуется ребёнок, его родители также получат оповещение об отправке подозрительных файлов с устройства. При этом, как утверждает Apple, частные сообщения будут нечитаемыми для компании. Вендор сообщил, что система вскоре будет развёрнута в США, но не уточнил, будет ли она запущена глобально и когда это произойдет.
Комментируя нововведение, профессор Университета Джона Хопкинса и криптограф Мэтью Грин отметил, что опасается попадания инструмента в руки мошенников, а сам алгоритм хеширования не исключает генерации ложных результатов. Представители бренда на заявление специалиста не ответили.
Upd: компания подтвердила, что не сможет сканировать изображения на устройствах пользователей, отключивших функцию «Фото iCloud», поскольку отметки о сомнительном содержимом прикрепляются к копиям фотографий в облачном хранилище, а не к оригинальным изображениям. (Отсюда.)
М-да. Рыться в фотографиях пользователя непосредственно на его смартфоне, помечать "подозрительные", а информацию об этих "подозрительных" еще и сливать правоохранительным органам - это, конечно, красиво. Особенно когда знаешь, насколько "эффективно" работают все эти механизмы распознавания и искусственного интеллекта.
Что-то становится все как-то грустнее и грустнее. Нет, есть, конечно, способы этому противостоять, но тенденции как-то совсем не радуют.
Мотивация Apple тоже понятна - за сотрудничество с товарищем полковником им позволят остаться в бизнесе, а конкурентам, слишком упорно отстаивающим приватность клиентов, отключат газ, как это однажды случилось с Parler.
Занятно, что граждане в массе своей не понимают, что "помочь детям" это всего лишь отмазка, а фича вводится для того чтобы выявлять и избирательно карать политических противников.
Так и запишем - если что, помогали детям! (Союз Меча и Орала)
CSAM Detection tech summary: Описаны как работают три технологии на которых основана система - NeuralHash, Private Set Intersection и Threshold Secret Sharing. NeuralHash это не тот хэш, который первым приходит нам в голову, это "perceptual hashing function", делает хэш на основе контента изображения, не самого файла.
Private Set Intersection (PSI) protocol: Allows Apple to learn if an image hash
matches the known CSAM image hashes, without learning anything about image
hashes that do not match. PSI also prevents the user from learning whether there
was a match (тут уже сложнее, осторожно, присутствуют непонятные закорючки).
Короче цель - нагнуть (пока американского) пользователя который заливает в свой iCloud фотки из CSAM базы данных в количестве превышающем некий предел, для фоток на устройстве которые подготавливаются к загрузке в облако производятся математические манипуляции (вычислить и сопоставить NeuralHash), обучения на фотках пользователя не производится. У эппла флагнется пользователь у которого флагнулись N фоток, после этого эппл сможет увидеть и сами фотки, для N-1 увидеть не сможет (типа как если бы архив был бы разбит на тома, его не распакуешь пока все тома не получишь). Утверждается, что матчинг-алгоритм очень точный.
На картинке общая схема работы системы.
PS: Обобщающий комментарий к интересной статье:
"Секюрити эксперты утверждают, что Эппл решил довольно сложную задачу по обнаружению фоток, которые есть в криминальных базах — при этом не имея самих фоток и не сильно нарушая прайваси. Проверка срабатывает при попытке зааплоудить фотку на айклауд. Сравниваются некие отпечатки по алгоритму, который срабатывает даже если фотка кропнута, зумнута, или скажем переведена в ч/б."
Отказ от приватности пользователей плох с точки зрения бизнеса. Если руководство Эппл идет на это вопреки бизнес интересам, значит кому-то ну оччень нужно следить за гражданами и эти кто-то привели достаточно весомые аргументы, что Эппл не смогло отказаться.
Занятно, что пару лет назад Эппл отказалось разлочить айфон террориста. Сейчас ситуация явно поменялась.
Надёжнее - не устраивайте эрофотосессий вовсе. Мало, что ИИ надумает там...
Ещё надёжнее - не заводите подруг с узкими бёдрами.
Совсем надёжно - не заводите подруг вовсе. Заводите друзей и хоть обфотайтесь там все. Это - законно.
Вариант "не заводите айфон", разумеется, рассмотрению не подлежит. Без айфонов одни лохи и нищеброды гуляют.
Конечно, "Чёрное зеркало" учитывает детали, которые не были предсказаны фантастами прошлого, например, повсеместное проникновение интернета и социальных сетей и удачно всё интегрирует в современный контекст.
"Схожую систему проверки изображений под названием PhotoDNA уже применяют и другие крупные компании, такие как Facebook, Twitter и Google."
+
"It is used on Microsoft's own services including Bing and OneDrive,[4] as well as by Google's Gmail, Twitter,[5] Facebook,[6] Adobe Systems,[7] Reddit,[8] Discord[9] and the NCMEC,[10] to whom Microsoft donated the technology."
https://en.wikipedia.org/wiki/PhotoDNA
Прочтите список сервисов, где это применяет гугл и найдите там личные хранилища пользователей. Можете три раза, для закрепления.
В Конгрессе озаботились распространением порнографии. Были выделены средства на создание автоматизированной системы распознавания порнографических изображений. Через год разработчики представили комиссии Конгресса эту систему. Для тестирования были предложены jpeg с разными изображениями, как порно, так и обычными. Система немедленно отметила как порно губы сенатора Мейсона...
Как и то, что педофилы пока спокойно используют достижения науки и техники (интернет, шифрование) для создания и распространения контента.
Странно предполагать, что педофилы это какие-то люмпены, неспособные к овладению сложными технологиями.
"Что известно о крупнейшей сети педофилов, раскрытой в Германии
По данным следствия, онлайн-сеть педофилов насчитывала порядка 30 000 анонимных пользователей. Они обменивались детской порнографией и обсуждали свои преступные действия."
Из другой новости:
"По информации полицейских, речь идет о портале с названием Boystown, насчитывающем более 400 тысяч пользователей, который существовал с июня 2019 года. В его чатах и форумах пользователи обменивались детской порнографией — ..."
Как и почему они были выявлены и арестованы? Потому что полицейский софт оказался сильнее. Но разрабатывали софт отнюдь не в полиции и даже не в Германии. И не при участии Apple, а при противодействии.
Сначала "ещё документы не оформлены, вы поднимаете панику преждевременно", а потом "так уже всё согласовали, где вы раньше-то были?!".
Любой желающий может скачать и установить бета-версию iOS 15. Но убедиться в том, кто и как "просматривает" его личные данные, он не сможет. И опротестовать решение *частной* компании - тоже, разве что запустить долгие и бессмысленные судебные разбирательства. Т.е. тут вопрос упирается в репутацию и доверие продуктам Apple. В общем-то, именно в то, что составляет значительную часть цены. Недостаток доверия и репутационные проблемы уничтожили рынок для смартфонов Huawei, так что прецедент уже есть. Но в данном случае я вижу элементарную склоку между "яблочниками" и "анти-яблочниками", к тому же ещё и совершенно бездоказательную и, возможно, безосновательную (при регулярных утечках с облачных хранилищ и андроидных телефонах).
Тем не менее, проблема детского насилия действительно существует. На Windows и на многих ьраузерах с антивирусами давно имеется Parent Control, который намного активнее вмешивается в личную жизнь не только ребёнка, но и владельцев. С компьютеров уходит множество личной информации - будет кто-либо спорить с этим? Оная может быть востребована правоохранительными органами у многих производителей, хотя конкретно Apple такую информацию не предоставляет, вследствие чего был даже ряд судебных исков. На мой взгляд, в iOS 15 Apple нашла определённый компромисс, который может быть интересен и для других производителей.
Вы точно понимаете, о чем вообще речь?
Проблем не миллион, равно как и здесь говорится только об одной, очень острой. И какие "совершенно иные цели" Apple пытается прикрыть? Я не телепат и не конспиролог.
Скажите чество, вы Apple dev?
– В надлежащее время? – возмутился Артур. – В надлежащее время?! Впервые я услышал об этом, когда пришел рабочий. Замечу: это было вчера. Я решил, что он пришел вымыть окна, а он сказал, что пришел снести мой дом. Но он не сразу мне так сказал, нет! Сперва он протер пару окон и содрал с меня пятерку. И только потом сказал.
– Однако, мистер Дент, маршрут был выставлен для всеобщего ознакомления в местном бюро планирования и висел там девять месяцев.
– Ага, как только я узнал, то сразу же помчался прямо в бюро. Это было вчера в полдень. Вы ведь не особенно утруждали себя предупреждениями? Я имею в виду: никому ни слова, ни одной душе, правда?
– Но маршрут был обнародован для…
– Обнародован? В конце концов мне пришлось спуститься в подвал, чтобы отыскать его!
– Верно, там у нас находится отдел информации.
– С фонариком!
– Наверное, света не было.
– И ступенек тоже!
– Но послушайте, вы ведь нашли план!
– Да, – сказал Артур, – нашел. На дне запертого шкафа в заколоченном туалете. А на двери табличка висела: «Осторожно, леопард!»
- Туалетная полиция
- серия про дроны...
При чем тут 'neural' - непонятно, ни для одной описанной в пресс-релизе функции ИИ не нужен.
Хотя возможно, что работа будет вестись не с хэшем самого файла, а с хэшем мнения нейросети о его содержании, т.е. банальное пересохранение с другим качеством не позволит обойти систему.
Вообще, это интересный вектор, когда прайваси пользователя будет нарушаться алгоритмами, а не непосредственно товарищем майором. Выглядит как приближение тоталитарной антиутопии будущего.
Тогда, если я не путаю, Алекс удивлялся "пострадавшим"...
Вообще, разработчики софта в этом плане совершенно обнаглели. Им уже недостаточно, что за программу заплатил пользователь или программа показывает рекламу. Они ещё собирают сведения о пользователе и используют ресурсы компьютера в интересах разработчика.
Логика та же, что у гугла десять лет назад.
P.S. вообще интересно, а на сколько бы дороже должны стоить продукты (железо / софт), если бы пользователь целиком оплачивал их цену, т.е. себестоимость + прибыль разработчика.
Знаете наверняка старый анекдот: удар - 10 рублей, знание куда ударить - 990 рублей.
про гугл будет отдельный пост?
Вы ведь сейчас покажите ссылку на источник этой информации, да?
Приложение. НЕ. РАВНО. Компоненту. Операционной. Системы.
Если вы предполагаете хоть теоретически, что голосовые помощники других производителей тестируются иначе, то вы глубоко заблуждаетесь. Или у вас есть идея, как возможно проводить тесты иным способом? Но Apple дорожит своей репутацией, поэтому изменила правила проверки и уволила всех скопом, независимо от степени вины (что, конечно, несправедливо). И хочу заметить, что тут всего лишь сплетничали о безымянных клиентах, тогда как в Гугле собирали полные профили.
Я знаю, что есть недокументироанные API. Но факт, что есть недокументированные API, еще не доказывает существование встроенного в систему API photoDNA.
Вы пытаетесь доказать, что Apple серьезно относится к хранению персональных данных, а Alphabet Inc. - нет. Для этого нужно знать правила обращения с такой информацией в обеих корпорациях и методику их применения. Я сомневаюсь, что у вас есть доступ к этой информации.
Diese App kann auf Folgendes zugreifen:
Speicher
modify or delete the contents of your USB storage
read the contents of your USB storage
Fotos/Medien/Dateien
modify or delete the contents of your USB storage
read the contents of your USB storage
Mikrofon
record audio
Kamera
take pictures and videos
Sonstiges
control vibration
measure app storage space
full network access
read Google service configuration
view network connections
prevent device from sleeping
run at startup
Взято отсюда
Так что вы опять заблуждаетесь насчет "все разрешённые доступы для Google".
Доступа к данным другого приложения у Google Lens нет. Максимум доступа - доступ к общим для всех приложений файлов. Да, в Андроиде файловая система не скрыта, как в iOS. Но данные приложений хранятся в недоступной пользователю части файловой системы. И для того, чтобы приложение получило доступ к данным другого приложения, нужно, чтобы первое приложение было запущено с правами root.
Как видите, я ему ничего не разрешил. Так что отдельные установки есть.
Сам алгоритм распознавания лица вобще не имплементировали, его должны имплементировать разработчики железа. Что и понятно: разные камеры, соответсвенно должны быть и разные имплементации распознавания лиц.
То, что для их работы информация о личности клиента не нужна, совсем не означает, что они ее не получали. Я не знаю какую информацию передает Сири на сервер. подозреваю, что для доступа к сервису распознавания голоса нужно авторизироваться соответственно. Так что они могли получить какие-то личные данные клиента.
Отнюдь. Я пытаюсь объяснить, что у Apple - это один из самых главных приоритетов и, конечно, большое достоинство. Потому iOS - одна из самых (самая?) защищённых операционных систем.
До тех пор, пока в плёнку не встроят чип анализатора контента.
Такие вещи просто нельзя делать, ИМХО. Но, раз техническая возможность есть, то надо считать, что все, что у тебя есть на телефоне, все выложено на открытый властям сайт. Хочешь приватности - протираем от пыли фотоаппараты, устанавливаем линукс и копируем флешки на линукс, отключенный от сети.
Сканировать будут тех, кто думает что он не делает ничего противозаконного. Например, протестует против правительства, высказывает крамольные мысли вроде "Все жизни важны" и тому подобное.
был не прав,
Но виновен не Жираф,
А тот, кто крикнул из ветвей:
«Жираф большой — ему видней!»
А на самом деле это какой-то непонятный преподаватель Мэтью Грин со ссылкой на несколько непонятных анонимных источников написал, что Apple якобы хочет сделать инструмент для поиска детской порнографии. То есть опять кто-то что-то сказал. Но все уже напридумывали и друг у друга перепечатали, реклама же сама себя не продаст.
Грустно, особенно, глядя на то, как тот же Фейсбук и Ко последнее время просто устроили цензуру, понимаешь, что "подозрительность" контента будет определяться совсем не его реальной опасностью для общества.
Apple’s method of detecting known CSAM is designed with user privacy in mind. Instead of scanning images in the cloud, the system performs on-device matching using a database of known CSAM image hashes provided by NCMEC and other child safety organizations.
может быть, но вертухайская работа не стоит моего сочувствия
Про ипохондрию и мизантропию я тебе уже писала.
Нет, наверняка есть люди, которые получают от этого удовольствие, как и от работы в горячем цеху. Но речь всё же про обычных "нормальных" людей
Т.е. чтобы не хотеть оказаться на зоне, и использовать в предложении слово "вертухай", надо для начала хотя бы на зоне один раз побывать? Ну ОК. Я рад, что у тебя есть этот опыт, и на твоем опыте сделаю выводы для себя.
У меня друг до того, как уйти в судьи, работал следователем в прокуратуре. Я у него в гостях за ужином видео вместе с ним смотрел с осмотров мест преступлений. И ездил в милицейском УАЗике, где сзади ведро висело, в котором отрезанную голову везли найденную. Мне не надо про это рассказывать.
И чему меня мой опыт учит? Что ну его нахер к вертухаям обращаться, если тебя ограбили или избили. Либо ты знаешь, кто тебя ограбил/избил, либо это просто бесполезно. И это не только к советским/украинским ментам относится. Точно так же у одного моего знакомого BMW X6 в Германии из-под дома угнали. Ночью угнали, он утром обнаружил, подал заявление в полицию. Те ему сказали: "Твоя машина уже, скорее всего, в Польше. К вечеру ее разберут на запчасти." Единственный толк из его обращения - страховка без разговоров заплатила.
Так что да, когда меня ограбыт, я напишу заявление в полицию. Просто потоиу, что так требует моя страховка. Если у меня украли что-то незастрахованное и я не знаю кто это сделал - не буду ничего делать. А вы подолжайте дальше сказочки рассказывать "моя милиция меня бережет". Может даже сами и поверите.
Ну в принципе понятно, айфон/айпэд это закрытая экосистема, там Apple полноправный хозяин. Ютюбу лазить по папкам ПК и сканировать видосы трудновато будет.
hi-tech.mail.ru