Накопление и анализ персональных данных ChatGPT создает серьезный риск идентификации пользователей, даже скрывающих свое имя, использующих псевдонимы. Способность ChatGPT аккумулировать сведения о профессиональной деятельности, здоровье, доходах и личных переживаниях юзеров неизбежно приведет к формированию цифрового досье на каждого пользователя ИИ-платформ. Функция долгосрочной памяти в ИИ-сервисах позволяет всего за несколько месяцев сформировать подробный поведенческий и психологический профиль человека, по сути создать его цифровой двойник, о чем сам пользователь остается не в курсе.
Люди добровольно на своих собственных данных обучают языковые модели, фактически подсказывая ИИ, как ими манипулировать, рассказывая нейросетям о своих страхах, финансовых трудностях и семейных проблемах. Платой становится уникальный цифровой слепок, который хранится в другой стране и неизвестно как будет использован в дальнейшем.
Накопление таких данных идет полным ходом. Согласно исследованию The Algorithmic Self-Portrait, OpenAI, вопреки собственной политике конфиденциальности данных, сохраняла личные сведения пользователей, формируя их цифровые портреты. Почти 96% записей создавались без одобрения пользователя на сохранение, 91% имели в памяти учетных записей сведения, относящиеся к персональным данным, среди которых реальные имена, экономический и социальный статус, а также адреса пользователей, у 54% пользователей сохранялась информация о здоровье и личных убеждениях, 97% учетных записей имели сохраненные сведения о целях, намерениях, предпочтениях и особенностях поведения.
Специалисты по цифровой безопасности советуют строго контролировать настройки памяти и персонализации ИИ-сервисов, никогда не загружать в чат с искусственным интеллектом служебные и личные документы и другую конфиденциальную информацию, обезличивать все запросы, исключать реальные имена, адреса и другие идентифицирующие сведения, а также использовать временные чаты при обсуждении личных вопросов и проверять сохраненную информацию.
Пользователям важно понимать: обезличивание запросов — лишь первый этап защиты. Даже если вы не пишете свое имя или номер телефона, языковая модель фиксирует ваш уникальный цифровой почерк: лексику, логику, круг интересов и способ решения задач. Эта совокупность метаданных становится вашим вторым «я» в Сети. При утечке данных, где вы были менее аккуратными, алгоритмы мгновенно сопоставят все данные.
Ключевым ответом на новые вызовы должно стать развитие отечественных ИИ-платформ. Наиболее оправданным решением в текущих условиях может стать создание собственной ИИ-инфраструктуры, где правила обращения с информацией российских граждан будут регламентированы национальным законодательством.
