То, что вы доверяете чат-ботам и фильтрам для фото, может оказаться чужим - и не только для создателей этих сервисов. Старшая юристка Лаборатории цифровой безопасности Татьяна Авдеева в двадцать третьем эпизоде второго сезона правозащитного подкаста «Я чую інших» на Громадському радіо объяснила, как обычная загрузка фото или документа в приложение с искусственным интеллектом превращается в риск утечки персональных данных.
Какие данные оседают на серверах разработчиков
Главная опасность для рядового пользователя - загрузка конфиденциальной информации в системы общего доступа, такие как ChatGPT. В отличие от локальных программ, которые учатся только на вашем устройстве и хранят данные на нем, общедоступные сервисы, скорее всего, сохраняют всё загруженное на серверах разработчиков.
«В случае хакерской атаки или системного сбоя всегда существует риск, что эта информация окажется в чужих руках - возможно, просто у других рядовых пользователей (что менее опасно), а возможно, и у злоумышленников», - объясняет Авдеева.
По её словам, злоумышленники могут целенаправленно охотиться за данными правозащитников, журналистов или активистов. Именно поэтому специалист советует действовать по презумпции: любая информация, загруженная онлайн, потенциально может утечь.
Вирусный фототренд оказался российским приложением
Отдельно юристка вспомнила массовый тренд с аватарками: портреты людей в военной форме, вышиванках, с флагами или веночками на голове заполонили ленту Facebook. Когда Авдеева решила выяснить, каким инструментом их создают, оказалось, что приложение имеет российское происхождение.
При этом агрессивная реклама этого сервиса в Facebook не вызвала у большинства сомнений: пользователи охотно загружали собственные фотографии, не проверяя, кто стоит за приложением и куда уходят их снимки. Это классическая схема сбора персональных данных под видом развлечения.
Кто отвечает, когда ИИ ошибается
В отличие от дискриминации или утечек - проблем, которые просто «перекочёвывают» в наборы данных, - принципиально новым риском Авдеева называет вопрос ответственности. Если ИИ используют только как инструмент и человек проверяет результат, ответственность понятна. Но в случае полностью автономных решений возникает правовая неопределённость.
«Если происходит ошибка, хотя разработчик предоставляет отчёты об успешном прохождении всех проверок, а ИИ внезапно дал сбой, сгенерировал галлюцинацию, кого-то дискриминировал или допустил утечку данных - кто именно должен отвечать?» - объясняет она. Пока международное регулирование не имеет исчерпывающего ответа.
Какие данные нельзя загружать в ИИ
Во время тренингов для общественного сектора и медиа Авдеева советует придерживаться простого правила: всё, что загружается в сеть, может стать публичным. В список того, что стоит держать подальше от чат-ботов и онлайн-фильтров, она включает:
- интимные фотографии, которые отправляют партнёрам;
- конфиденциальные договоры с поставщиками;
- рабочие материалы журналистов-расследователей;
- паспортные и финансовые данные;
- документы правозащитников и активистов.
Юристка, которая к тому же участвует в разработке украинского законопроекта о регулировании искусственного интеллекта, подчёркивает: всегда проверяйте результаты работы ИИ и не используйте его для принятия финальных решений.
