Использование AI на работе без утечки данных компании

Большинство компаний сейчас имеют сотрудников, которые ежедневно вставляют внутренние документы, код и данные клиентов в ChatGPT, Claude или Copilot, часто без какого-либо одобрения. Проблема не в самом AI. Проблема в том, что люди привыкли обращаться с этими инструментами как с личным блокнотом, тогда как на самом деле вы отправляете данные на сервер третьей стороны с условиями обслуживания, которые большинство людей никогда не читают.

Разберитесь, что на самом деле происходит с вашими данными

Прочитайте условия использования данных для любого инструмента, который вы используете, прежде чем что-либо предполагать. Потребительский уровень ChatGPT (бесплатные и Plus планы) может использовать беседы для обучения будущих моделей, если вы не откажетесь в настройках. ChatGPT Enterprise и Team планы, а также API, как правило, по умолчанию не обучаются на ваших данных и предлагают более строгие договорные гарантии. То же самое касается Claude (потребительский уровень vs. Claude for Work/API) и Gemini. Разница между «бесплатным личным аккаунтом» и «бизнес-аккаунтом с соглашением об обработке данных» — это один из самых больших факторов вашего фактического риска, и именно на него большинство людей забывают проверить.

Если ваша компания не приобрела корпоративный уровень для какого-либо AI инструмента, предполагайте, что каждый промпт, который вы вводите в бесплатный чатбот, может быть просмотрен человеком-тренером или встроен в будущую модель. Это не паранойя, это просто чтение большинства условий обслуживания для потребителей.

Очистите данные перед вставкой

Перед тем как вставить что-либо в промпт, спросите себя, что произойдет, если этот точный текст завтра появится в заголовке о взломе данных. Если ответ плохой, отредактируйте это сначала. Конкретно:

• Замените реальные имена клиентов, адреса электронной почты и идентификаторы учетных записей заполнителями (CUSTOMER_A, user@example.com) перед тем, как просить помощь в составлении ответа.
• Удалите ключи API, токены и внутренние имена хостов из фрагментов кода. Быстрый grep -riE "(api[_-]?key|secret|token|password)" по файлу, который вы собираетесь вставить, поймает большинство очевидных утечек.
• Опишите суть проблемы вместо того, чтобы вставлять весь собственный файл. "У меня есть функция, которая ограничивает скорость запросов на пользователя, используя скользящее окно, и она отклоняет легитимные запросы при взрывных всплесках трафика" получит вам полезную помощь без передачи вашего фактического алгоритма.
• Для контрактов, финансов или всего, что находится под NDA, вообще не используйте инструменты общего назначения, если ваша юридическая команда не дала явное одобрение на использование этого инструмента для этого класса данных.

Установите защиту, которую ваша команда действительно будет соблюдать

Политика, которую никто не читает, игнорируется. Политика, которая вписывается в существующий рабочий процесс, соблюдается. Несколько вещей, которые работают на практике:

• Попросите IT предоставить бизнес-уровневый AI аккаунт (ChatGPT Team, Claude for Work, Microsoft Copilot с вашим M365 тенантом), чтобы по умолчанию сотрудники использовали более безопасный вариант, а не бесплатный публичный.
• Используйте расширения браузера или DLP (инструменты предотвращения потери данных) такие как Microsoft Purview или Nightfall, чтобы предупредить, когда кто-то собирается вставить что-то, похожее на секрет или PII, в веб-форму. Многие компании уже используют DLP для электронной почты; расширение одних и тех же правил на ввод браузера в сайты AI — это естественный следующий шаг.
• Напишите одностраничную политику, которая в простом языке говорит, какие инструменты одобрены для каких классов данных. «Публичная документация и открытый исходный код: любой инструмент. PII клиентов, финансы, исходный код для собственных систем: только инструменты корпоративного уровня, или вообще не используйте.» Конкретное и краткое лучше, чем длинное и размытое.
• Для кода специфически решите, имеет ли смысл GitHub Copilot или альтернатива, развернутая собственными силами (как локальное развертывание Code Llama или StarCoder), для ваших наиболее чувствительных репозиториев. Copilot Business позволяет вам исключить определенные репозитории из предложений и имеет фильтры сопоставления кода, чтобы уменьшить вероятность регургитации лицензионных фрагментов.

Следите за скрытыми путями утечки

Прямое копирование-вставка — это не единственный риск. Расширения браузера, которые резюмируют страницы, могут тихо отправить все, что находится на вашем экране, включая внутренние панели мониторинга, на удаленный API. AI-powered боты для ведения заметок, которые присоединяются к вашим видеозвонкам (Otter.ai, Fireflies и т.д.), записывают и транскрибируют все сказанное, включая всё конфиденциальное, упомянутое вскользь. Перед добавлением любого из этих инструментов на встречу, спросите, хорошо ли всем в комнате, что сторонний сервис хранит расшифровку этого разговора, и соответствует ли политика хранения поставщика правилам обработки данных вашей компании.

Проверьте также, какие плагины или коннекторы включены в вашем AI чат-клиенте. Некоторые позволяют модели просматривать веб или получать доступ к подключенным приложениям, таким как Google Drive, которые могут получить больше контекста, чем вы намеревались поделиться.

Выработайте привычку, не только политику

Цель не нулевое использование AI, а использование AI, когда все относятся к полю ввода как к внешнему письму поставщику, потому что функционально это именно то, что это есть. Как только эта ментальная модель закрепится, большинство рискованного поведения само по себе остановится.

Для получения дополнительной информации посетите сегменты Korra Studio по основам безопасности данных и практическому использованию AI инструментов для инженерных команд.