Утечки данных из ИИ-чатботов: что происходит, когда вы вставляете конфиденциальную информацию в ChatGPT

В феврале 2026 года исследователи безопасности обнаружили, что популярное приложение-чатбот Chat & Ask AI раскрыло 300 миллионов записей разговоров. Утекшие данные включали полную историю чатов — некоторые содержали пароли, API-ключи и личную медицинскую информацию, которую пользователи вставляли в чатбот.

Это не единичный случай. Ранее утечки раскрыли 3,7 миллиона записей чатботов службы поддержки. Исследование 2025 года показало, что 77% сотрудников признаются в том, что делились секретами компании с ChatGPT. Microsoft Copilot, как выяснилось, раскрывает в среднем 3 миллиона конфиденциальных записей на организацию.

Неудобная правда: каждый промпт, который вы отправляете ИИ-чатботу, следует рассматривать как потенциально публичный.

Проблема приватности ИИ-чатботов

Ваши разговоры сохраняются

Когда вы отправляете сообщение в ChatGPT, Claude, Gemini или любой другой ИИ-чатбот:

1. Ваш промпт передаётся на серверы компании
2. Он сохраняется в их базе данных (если вы не отказались)
3. Он может использоваться для обучения будущих моделей ИИ
4. Он может проверяться людьми из соображений безопасности и качества

Даже «удалённые» разговоры могут сохраняться в резервных копиях, логах или наборах данных для обучения.

Проблема обучающих данных

Большинство крупных ИИ-компаний (OpenAI, Google, Meta, Microsoft, Mistral) по умолчанию обучают модели на чатах обычных пользователей, если вы не отказались, а Anthropic просит пользователей сделать выбор; ни одна из них по умолчанию не обучает модели на бизнес-данных или данных API. Для пользовательских чатов, попадающих в обучение, это означает:

• Ваши промпты становятся частью знаний ИИ
• Информация, которой вы делитесь, теоретически может появиться в ответах другим пользователям
• Конфиденциальные данные в обучающих наборах — вектор для атак извлечения данных

OpenAI заявила, что не обучает на использовании API или данных ChatGPT Enterprise, но бесплатный уровень и стандартный ChatGPT Plus используются для обучения, если вы явно не отказались.

Недавние утечки и раскрытия

2026:

• Chat & Ask AI: утечка 300 миллионов разговоров (Malwarebytes, февраль 2026)
• ИИ-платформа обслуживания клиентов: раскрыто 3,7 миллиона записей (Cybernews)

2025:

• Microsoft Copilot раскрыл в среднем 3 миллиона конфиденциальных записей на организацию
• Исследование Стэнфорда задокументировало риски приватности в разговорах с ИИ-ассистентами

2023:

• Сотрудники Samsung вставили в ChatGPT исходный код и записи внутренних совещаний (что привело к временному запрету генеративных ИИ-инструментов)

Продолжается:

• Атаки инъекции промптов могут извлечь историю разговоров
• Атаки инверсии модели пытаются восстановить обучающие данные
• Джейлбрейки могут обойти фильтры контента и раскрыть системные промпты

Что никогда нельзя вставлять в ИИ-чатбот

Пароли и учётные данные

«Можете помочь сбросить этот пароль: MyP@ssw0rd123?»

Даже если вы просто спрашиваете, как создать более надёжный пароль, вы только что отправили свой текущий пароль на сервер третьей стороны.

API-ключи и токены

«Почему это не работает? OPENAI_API_KEY=sk-proj-abc123...»

Разработчики часто вставляют фрагменты кода с API-ключами. Эти ключи теперь хранятся в системах провайдера чатбота и потенциально в обучающих данных.

Персональные данные (PII)

• Номера паспортов
• Номера кредитных карт
• Данные банковских счетов
• Медицинские записи
• Юридические документы
• Удостоверения личности

Конфиденциальные данные компании

• Исходный код
• Базы данных клиентов
• Финансовые отчёты
• Стратегические планы
• Информация о сотрудниках
• Коммерческие тайны

Частная переписка

• Личные сообщения, с которыми вы просите ИИ помочь
• Цепочки писем с конфиденциальной информацией
• Скриншоты разговоров

Как безопаснее использовать ИИ-чатботы

1. Настройте параметры приватности

ChatGPT:

• Перейдите в Настройки → Управление данными
• Отключите «Улучшать модель для всех»
• Используйте временные чаты (не используются для обучения)

Claude:

• Чаты на планах Free, Pro и Max могут использоваться для обучения, если включена настройка «Улучшение модели»; отключите её в настройках конфиденциальности (Team, Enterprise и API по умолчанию не используются)
• Ознакомьтесь с политикой использования данных Anthropic

Gemini:

• Перейдите в активность приложений Gemini
• Отключите сохранение активности

2. Используйте корпоративные тарифы

Если ваша компания обрабатывает конфиденциальные данные:

• ChatGPT Enterprise: данные не используются для обучения, соответствует SOC 2
• Claude for Enterprise: более строгие соглашения о защите данных
• Azure OpenAI Service: данные не передаются OpenAI и не используются для обучения, обрабатываются в выбранном вами регионе или зоне данных

Эти планы обычно включают приложения к обработке данных (DPA), необходимые для соответствия GDPR и HIPAA.

3. Редактируйте перед вставкой

Прежде чем делиться кодом или документами с ИИ:

• Замените реальные API-ключи заглушками: YOUR_API_KEY_HERE
• Замените имена общими идентификаторами: «Пользователь А», «Компания Х»
• Удалите или замаскируйте номера счетов, паспортные данные и т.д.

4. По умолчанию считайте публичным

Примите эту модель мышления: каждый промпт, который вы отправляете ИИ-чатботу, теоретически может:

• Быть прочитан сотрудниками компании
• Появиться в утечке данных
• Повлиять на ответы другим пользователям
• Быть запрошен в судебных процессах

Если вы не опубликовали бы это публично, не вставляйте в чатбот.

Безопасная альтернатива для конфиденциальных данных

Когда вам нужно поделиться конфиденциальной информацией — паролями, API-ключами, секретными документами — не полагайтесь на ИИ-чатботы или даже обычные мессенджеры.

Используйте специализированный безопасный метод обмена:

1. Храните конфиденциальные данные отдельно: используйте менеджер паролей для учётных данных, а не историю чата
2. Делитесь через зашифрованные истекающие ссылки: сервисы вроде LOCK.PUB позволяют создавать защищённые паролем заметки, которые перестают открываться по истечении срока или после первого просмотра (Pro)
3. Держите промпты ИИ общими: спрашивайте «как ротировать API-ключи?», а не «почему не работает этот ключ: sk-...»

Пример рабочего процесса:

• Вам нужно поделиться паролем от базы данных с коллегой
• Вместо вставки в Telegram (хранит сообщения) или ChatGPT (может обучаться на этом) создайте защищённую заметку на LOCK.PUB
• Заметка требует пароль, перестаёт открываться через 24 часа, а после прочтения её нельзя открыть снова
• Поделитесь ссылкой через один канал и паролем через другой

Итог

ИИ-чатботы — невероятно полезные инструменты, но они не безопасные хранилища. Относитесь к ним как к услужливому незнакомцу: отлично подходит для общих советов, но не тот, кому вы бы отдали ключи от дома.

Правила жизни:

1. Никогда не вставляйте пароли, API-ключи или учётные данные
2. Никогда не делитесь PII (паспортные данные, кредитные карты, медицинская информация)
3. Редактируйте конфиденциальные детали перед запросом помощи с кодом
4. Используйте корпоративные тарифы, если работа требует помощи ИИ с конфиденциальными данными
5. Включите настройки приватности, отключающие обучение на ваших данных
6. Для действительно конфиденциального обмена используйте специализированные зашифрованные инструменты

Удобство ИИ не стоит риска утечки данных. Сделайте дополнительный шаг для защиты своей конфиденциальной информации.

Создать защищённую истекающую заметку →