Використання штучного інтелекту на роботі без витоку даних компанії

Більшість компаній зараз мають співробітників, які щодня вставляють внутрішні документи, код і дані клієнтів у ChatGPT, Claude або Copilot, часто без будь-якого дозволу. Проблема не в самому штучному інтелекті. Проблема в тому, що звички людей при роботі з цими інструментами трактують їх як приватний блокнот, коли насправді ви надсилаєте дані на сервер третьої сторони з умовами обслуговування, які більшість людей ніколи не читає.

Знайте, що насправді відбувається з вашим введенням

Прочитайте умови використання даних для будь-якого інструменту, який ви використовуєте, перш ніж що-небудь припускати. Споживацький рівень ChatGPT (безплатні та Plus плани) може використовувати розмови для навчання майбутніх моделей, якщо ви не вийдете з цього в налаштуваннях. ChatGPT Enterprise та Team плани, а також API, як правило, не навчаються на ваших даних за замовчуванням і пропонують сильніші гарантії в договорі. Те саме застосовується до Claude (споживацький версус Claude for Work/API) та Gemini. Різниця між "безплатним особистим акаунтом" та "бізнес-акаунтом з угодою про обробку даних" є найбільшим фактором вашого реального ризику, і це те, що більшість людей пропускає при перевірці.

Якщо ваша компанія не придбала рівень enterprise для жодного інструменту штучного інтелекту, припустіть, що кожен запит, який ви вводите в чатбот безплатного рівня, може виявитися розглянутим людиною-тренером або закладеним у майбутню модель. Це не паранойя, а буквальне прочитання більшості умов обслуговування для споживачів.

Видаліть дані перед вставленням

Перед вставленням чого-небудь у запит запитайте себе, що станеться, якщо цей точний текст з'явиться в заголовку витоку даних завтра. Якщо відповідь негативна, спочатку відредагуйте його. Конкретно:

• Замініть справжні імена клієнтів, електронну пошту та ID облікових записів на заповідачі (CUSTOMER_A, user@example.com) перед тим, як просити допомогти в написанні відповіді.
• Видаліть ключі API, токени та внутрішні назви хостів з фрагментів коду. Швидкий grep -riE "(api[_-]?key|secret|token|password)" для файлу, який ви збираєтесь вставити, ловить більшість очевидних витоків.
• Підсумуйте форму проблеми замість вставлення цілого власницького файлу. "У мене є функція, яка обмежує швидкість запитів на користувача за допомогою ковзного вікна, і вона відкидає легітимні запити при спорадичному трафіку" дає вам корисну допомогу без передачі вашого фактичного алгоритму.
• Для контрактів, фінансових матеріалів або будь-чого під NDA не використовуйте інструменти спеціального призначення взагалі, якщо ваша команда юристів явно не схвалила цей інструмент для цього класу даних.

Встановіть захист, якому ваша команда насправді буде слідувати

Політика, яку ніхто не читає, ігнорується. Політика, яка вписується в наявний робочий процес, дотримується. Кілька речей, які працюють на практиці:

• Попросіть IT забезпечити облік штучного інтелекту рівня business (ChatGPT Team, Claude for Work, Microsoft Copilot з вашим M365 тенантом), щоб параметр за замовчуванням для співробітників був безпечнішим, а не безплатним публічним.
• Використовуйте розширення браузера або DLP (data loss prevention) інструменти, як Microsoft Purview або Nightfall, щоб позначити, коли хтось збирається вставити щось, що виглядає як секрет або PII в веб-форму. Багато компаній уже мають DLP для електронної пошти; розширення тих же правил на введення браузером на сайти штучного інтелекту є природним наступним кроком.
• Напишіть односторінкову політику, яка в простій мові говорить, які інструменти затверджені для яких класів даних. "Публічна документація та відкритий вихідний код: будь-який інструмент. PII клієнтів, фінансові матеріали, вихідний код власницьких систем: лише інструменти рівня enterprise, або взагалі ні." Конкретна та коротка краща за довгу та нечітку.
• Для коду конкретно вирішіть, чи GitHub Copilot або самостійна альтернатива (як локальна Code Llama або StarCoder розгортання) має більше сенсу для ваших найбільш чутливих репо. Copilot Business дозволяє вам виключити конкретні репо з пропозицій та має фільтри відповідності коду для зменшення шансу регургітації ліцензованих фрагментів.

Слідкуйте за потайними шляхами витоку

Пряме копіювання та вставлення не є єдиним ризиком. Розширення браузера, які підсумовують сторінки, можуть тихо надсилати все, що знаходиться на вашому екрані, включаючи внутрішні інформаційні панелі, на віддалений API. Боти для ведення нотаток на основі штучного інтелекту, які приєднуються до ваших відеовикликів (Otter.ai, Fireflies тощо), записують та транскрибують все сказане, включаючи все конфіденційне, про що мимоволі згадується. Перед тим як додавати будь-яке з них на зустріч, запитайте, чи всім у кімнаті добре, що третя сторона проводить запис цієї розмови, та чи політика збереження постачальника відповідає правилам обробки даних вашої компанії.

Перевірте, які плагіни або з'єднувачі ввімкнені у вашому клієнті для чатів штучного інтелекту. Деякі дозволяють моделі переглядати веб або отримувати доступ до підключених додатків, як Google Drive, які можуть витягнути більше контексту, ніж ви мали на меті поділитися.

Розвивайте звичку, а не лише політику

Мета не нульове використання штучного інтелекту, а використання штучного інтелекту, де всі трактують поле введення як зовнішній електронний лист постачальнику, тому що це функціонально те, що це є. Як тільки ця ментальна модель закріпиться, більша частина ризикованої поведінки припиняється сама собою.

Для додаткової інформації перегляньте сегменти Korra Studio з основ безпеки даних та практичних інструментів штучного інтелекту для інженерних команд.