Не загружайте в нейросеть то, что не хотите отдать навсегда: Казанский эксперт - о главной ошибке пользователей ИИ
Как не попасть на мошенников и почему введенные данные уже не удалишь из Сети - в нашем материале
Фото: Создано при помощи нейросети
В современном мире ИИ используют от написания текстов до генерации кода. Но их удобство нередко оборачивается рисками. О том, как безопасно пользоваться ИИ-сервисами, рассказал казанский предприниматель и создатель первого в России агрегатора услуг по кибербезопасности Антон Бочкарев.
ЗАГРУЗКА КОНФИДЕНЦИАЛЬНЫХ ДАННЫХ
Одна из самых распространенных ошибок - загрузка в нейросети рабочих документов и конфиденциальных данных. По словам Бочкарева, когда сотрудник отправляет в ChatGPT договор или внутренний отчет, он фактически передает эти сведения компании OpenAI. В бесплатной версии сервиса данные могут использоваться для дообучения модели, а значит, фрагменты текста способны позже появиться в ответах другим пользователям.
- Практическое правило простое: никакой документ, который нельзя опубликовать в открытом доступе, не должен попадать в публичный ИИ-сервис, - подчеркивает эксперт.
По его словам, даже платные версии не дают полной защиты. Дело в том, что данные остаются на серверах OpenAI и подпадают под американское законодательство. Не менее опасен и сгенерированный нейросетями код. Специалист отмечает, что ИИ воспроизводит статистически вероятные варианты, в том числе и уязвимые. Среди типичных проблем - SQL-инъекции, отсутствие проверки входных данных, хранение паролей в открытом виде.
- Исследования показывают, что примерно 40% кода, созданного GitHub Copilot, содержат хотя бы одну уязвимость. Сгенерированный код нельзя считать проверенным по умолчанию - он обязан проходить такой же code review и статический анализ, как и код, написанный человеком, - предупреждает спикер.
ПРИМАНКИ ОТ МОШЕННИКОВ
При выборе ИИ-сервиса важно уметь отличать легитимные платформы от мошеннических. Эксперт называет несколько тревожных признаков. Это запрос паспортных или платежных данных сразу при регистрации, недавно зарегистрированный домен, имитирующий известный бренд, отсутствие полноценной политики конфиденциальности, избыточные разрешения в мобильных приложениях, оплата только криптовалютой или переводом на карту физического лица.
- Если сервис обещает бесплатный GPT-4 без ограничений, то, скорее всего, это приманка от мошенников. Легитимные компании имеют юридическое лицо, публичную команду и историю работы, - поясняет Бочкарев.
Многие пользователи надеются, что загруженные в нейросеть личные данные можно впоследствии удалить. Формально такое право есть. Например, по GDPR сервис обязан ответить на запрос об удалении в течение 30 дней. Однако технически стереть данные из самой модели невозможно. Если они уже использовались для обучения, их влияние на работу нейросети сохранится.
- Вывод простой: не загружайте то, что не хотите отдать навсегда. Право на удаление - это юридическая защита, а не техническая гарантия, - констатирует эксперт.
Отдельное внимание Бочкарев уделяет правилам работы с паролями. Современные регуляторы отказались от постоянной смены паролей по расписанию. Менять их нужно только при конкретных событиях. Допустим, при утечке сервиса, подозрении на компрометацию или увольнении сотрудника с доступом.
Использование одного пароля для разных сервисов эксперт называет критической ошибкой. Так как при утечке данных киберпреступники применяют метод credential stuffing, проверяя найденные логин и пароль на множестве платформ. Для защиты аккаунтов специалист советует использовать менеджер паролей и включать двухфакторную аутентификацию. Эти меры закрывают около 90% возможных векторов атак.
«ЭТО СТАЖЕР В ОТКРЫТОМ ОФИСЕ»
Чтобы минимизировать риски при ежедневном использовании нейросетей, эксперт рекомендует несколько простых привычек. Перед отправкой текста стоит быстро проверить, нет ли в нем чувствительных сведений (имен клиентов, сумм сделок, внутренних названий проектов). Лучше заменить их заглушками вроде «Компания А» или «сумма X». Не стоит регистрироваться в публичных ИИ-сервисах с корпоративной почты - это создает дополнительный вектор для фишинговых атак. Полезно раз в месяц проверять активные сессии в аккаунтах и завершать подозрительные, а также не хранить в истории чатов конфиденциальные запросы. Объяснить эти правила сотрудникам поможет простая аналогия, которую предлагает Бочкарев:
- Нейросеть - это стажер в открытом офисе. Всё, что вы ему говорите, слышат все вокруг. Вы бы рассказали стажеру в людном кафе детали сделки с клиентом? Нет. Вот и с нейросетью так же.
Перед отправкой любого запроса стоит задать себе два вопроса: «Могу ли я это опубликовать в соцсетях без последствий?», «Есть ли здесь данные клиентов, коллег, партнеров?» Если хотя бы на один вопрос ответ «нет» или «не уверен», отправлять запрос не следует.
Наконец, эксперт четко обозначает границу того, что категорически нельзя загружать в публичные нейросети. Для обычных пользователей под запретом паспортные данные, СНИЛС, ИНН в связке с именем, банковские реквизиты, медицинские сведения, пароли, токены доступа и биометрия. Для бизнеса список шире. Сюда добавляются персональные данные клиентов и сотрудников, условия контрактов, финансовая отчетность до публикации, исходный код собственных продуктов, данные об инфраструктуре и любая информация с грифом «конфиденциально» или «коммерческая тайна».
- Помните: публичный ИИ-сервис - это внешний подрядчик без NDA и без SLA по безопасности. Всё, что нельзя доверить такому подрядчику, нельзя отправлять и в нейросеть, - резюмирует Бочкарев.
ЗАГРУЗКА КОНФИДЕНЦИАЛЬНЫХ ДАННЫХ
Одна из самых распространенных ошибок - загрузка в нейросети рабочих документов и конфиденциальных данных. По словам Бочкарева, когда сотрудник отправляет в ChatGPT договор или внутренний отчет, он фактически передает эти сведения компании OpenAI. В бесплатной версии сервиса данные могут использоваться для дообучения модели, а значит, фрагменты текста способны позже появиться в ответах другим пользователям.
- Практическое правило простое: никакой документ, который нельзя опубликовать в открытом доступе, не должен попадать в публичный ИИ-сервис, - подчеркивает эксперт.
По его словам, даже платные версии не дают полной защиты. Дело в том, что данные остаются на серверах OpenAI и подпадают под американское законодательство. Не менее опасен и сгенерированный нейросетями код. Специалист отмечает, что ИИ воспроизводит статистически вероятные варианты, в том числе и уязвимые. Среди типичных проблем - SQL-инъекции, отсутствие проверки входных данных, хранение паролей в открытом виде.
- Исследования показывают, что примерно 40% кода, созданного GitHub Copilot, содержат хотя бы одну уязвимость. Сгенерированный код нельзя считать проверенным по умолчанию - он обязан проходить такой же code review и статический анализ, как и код, написанный человеком, - предупреждает спикер.
ПРИМАНКИ ОТ МОШЕННИКОВ
При выборе ИИ-сервиса важно уметь отличать легитимные платформы от мошеннических. Эксперт называет несколько тревожных признаков. Это запрос паспортных или платежных данных сразу при регистрации, недавно зарегистрированный домен, имитирующий известный бренд, отсутствие полноценной политики конфиденциальности, избыточные разрешения в мобильных приложениях, оплата только криптовалютой или переводом на карту физического лица.
- Если сервис обещает бесплатный GPT-4 без ограничений, то, скорее всего, это приманка от мошенников. Легитимные компании имеют юридическое лицо, публичную команду и историю работы, - поясняет Бочкарев.
Многие пользователи надеются, что загруженные в нейросеть личные данные можно впоследствии удалить. Формально такое право есть. Например, по GDPR сервис обязан ответить на запрос об удалении в течение 30 дней. Однако технически стереть данные из самой модели невозможно. Если они уже использовались для обучения, их влияние на работу нейросети сохранится.
- Вывод простой: не загружайте то, что не хотите отдать навсегда. Право на удаление - это юридическая защита, а не техническая гарантия, - констатирует эксперт.
Отдельное внимание Бочкарев уделяет правилам работы с паролями. Современные регуляторы отказались от постоянной смены паролей по расписанию. Менять их нужно только при конкретных событиях. Допустим, при утечке сервиса, подозрении на компрометацию или увольнении сотрудника с доступом.
Использование одного пароля для разных сервисов эксперт называет критической ошибкой. Так как при утечке данных киберпреступники применяют метод credential stuffing, проверяя найденные логин и пароль на множестве платформ. Для защиты аккаунтов специалист советует использовать менеджер паролей и включать двухфакторную аутентификацию. Эти меры закрывают около 90% возможных векторов атак.
«ЭТО СТАЖЕР В ОТКРЫТОМ ОФИСЕ»
Чтобы минимизировать риски при ежедневном использовании нейросетей, эксперт рекомендует несколько простых привычек. Перед отправкой текста стоит быстро проверить, нет ли в нем чувствительных сведений (имен клиентов, сумм сделок, внутренних названий проектов). Лучше заменить их заглушками вроде «Компания А» или «сумма X». Не стоит регистрироваться в публичных ИИ-сервисах с корпоративной почты - это создает дополнительный вектор для фишинговых атак. Полезно раз в месяц проверять активные сессии в аккаунтах и завершать подозрительные, а также не хранить в истории чатов конфиденциальные запросы. Объяснить эти правила сотрудникам поможет простая аналогия, которую предлагает Бочкарев:
- Нейросеть - это стажер в открытом офисе. Всё, что вы ему говорите, слышат все вокруг. Вы бы рассказали стажеру в людном кафе детали сделки с клиентом? Нет. Вот и с нейросетью так же.
Перед отправкой любого запроса стоит задать себе два вопроса: «Могу ли я это опубликовать в соцсетях без последствий?», «Есть ли здесь данные клиентов, коллег, партнеров?» Если хотя бы на один вопрос ответ «нет» или «не уверен», отправлять запрос не следует.
Наконец, эксперт четко обозначает границу того, что категорически нельзя загружать в публичные нейросети. Для обычных пользователей под запретом паспортные данные, СНИЛС, ИНН в связке с именем, банковские реквизиты, медицинские сведения, пароли, токены доступа и биометрия. Для бизнеса список шире. Сюда добавляются персональные данные клиентов и сотрудников, условия контрактов, финансовая отчетность до публикации, исходный код собственных продуктов, данные об инфраструктуре и любая информация с грифом «конфиденциально» или «коммерческая тайна».
- Помните: публичный ИИ-сервис - это внешний подрядчик без NDA и без SLA по безопасности. Всё, что нельзя доверить такому подрядчику, нельзя отправлять и в нейросеть, - резюмирует Бочкарев.
