Международная группа исследователей из Германии, Индии и Нидерландов проанализировала диалоги 80 пользователей ChatGPT и выяснила, что алгоритм активно ведет записи памяти. В переписках 65 участников обнаружили 2050 таких заметок, причем 96% из них нейросеть создала автоматически, включая психологические характеристики и персональные данные.
Результаты исследования прокомментировал депутат Государственной Думы РФ, первый заместитель председателя комитета Государственной Думы по цифровому развитию и искусственному интеллекту, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин.
«Персонализация — одна из ключевых функций современных ИИ-помощников. Она позволяет учитывать контекст общения, привычки и предпочтения пользователя, чтобы давать более релевантные ответы. Само по себе формирование таких выводов не означает, что нейросеть ставит человеку психологический диагноз или обладает достоверным знанием о его личности. Но важно понимать: модель может ошибаться, обобщать отдельные фразы и делать предположения, которые пользователь никогда прямо не подтверждал», — отметил Антон Немкин.
По словам депутата, подобные исследования важны прежде всего как повод внимательнее изучить принципы работы систем персонализации. В диалогах с цифровыми помощниками люди нередко делятся сведениями о работе, семье, здоровье, финансовых обстоятельствах и личных переживаниях. Поэтому разработчикам необходимо ясно объяснять, какие данные сохраняются, для чего они используются, как долго хранятся и каким образом пользователь может управлять этой информацией.
Отдельный вопрос — качество выводов, которые система делает на основе контекста. Как отмечают авторы исследования, иногда нейросеть может принять разовый интерес за устойчивое предпочтение. Например, просьба порекомендовать музыку, похожую на творчество определённой группы, ещё не означает, что пользователь является её поклонником. Подобные ошибки могут влиять на последующие ответы и создавать слишком узкое представление о запросах и интересах человека.
Искусственный интеллект должен оставаться полезным инструментом, а не источником необоснованных опасений. Не нужно отказываться от технологий персонализации, но важно пользоваться ими осознанно: не раскрывать без необходимости конфиденциальную информацию, проверять настройки и выбирать сервисы с понятной политикой работы с данными.
Ключевые рекомендации по безопасности:
Не отправляйте конфиденциальные данные: избегайте передачи чат-ботам данных о здоровье, финансах, семье и работе.
Управляйте памятью сервиса: регулярно проверяйте сохраненные алгоритмом факты в настройках учетной записи, удаляйте неверные сведения или отключайте функцию запоминания.
Не заменяйте специалистов: ответы ИИ строятся на текстовых закономерностях и не могут служить объективной оценкой личности или заменой квалифицированной психологической помощи.
Изучайте правила: обращайте внимание на условия обработки информации и выбирайте платформы с прозрачной политикой хранения данных.



