Чи можна завантажувати робочі документи в ChatGPT і що відповісти службі безпеки?

На тренінгу для банку начальниця відділення підняла руку і спитала прямо: "а коли ми в Копайлот завантажуємо документи БТ, КАІ, немає це порушення якогось з боку безпеки?". Я перепитав, що таке БТ і КАІ. Відповідь була коротка: банківська таємниця і конфіденційна інформація.

Питання просте, але на тренінгах я чую його в тій чи іншій формі майже щоразу.

А от відповіді на нього люди зазвичай не отримують. Далі вони роблять одне з трьох, і всі три погані.

Перше: бояться завантажувати дані, нікого не питають і не користуються взагалі. Друге: не питають нікого і користуються зі свого особистого акаунту з телефона. Це і є Shadow AI, коли компанія формально нічого не дозволила, а половина відділу вже щодня щось туди вантажить, і ніхто не бачить, що саме. Третє: питають і отримують блокування всього, бо служба безпеки теж не має чіткої картини і закриває ризик найпростішим способом.

Далі розберемо, що насправді відбувається з вашими даними, які три рівні доступу існують, що можна зробити за пʼять хвилин прямо зараз і як розмовляти з безпекою, щоб отримати дозвіл, а не заборону.

Що насправді хвилює службу безпеки

В більшості випадків питання формулюється як "чи можна вантажити файли". Але безпеку цікавить інше, і це варто розуміти до того, як ви до них підете.

Їх цікавить, чи потраплять ваші дані в навчання моделі. Чи зберігаються вони на чужих серверах і в якій юрисдикції. Хто ще всередині компанії має до них доступ. Чи можна довести, що витоку не було. Ну і окремо їх цікавить те, про що співробітники не думають узагалі: чи не витягне хтось із файлу службову інформацію, якої ви туди свідомо не клали.

На гостьовій лекції для курсу COO учасниця сформулювала дзеркальне питання з боку керівника: "чи знаєш ти якийсь спосіб, як перевірити, що співробітники, ну, типу, зливають дані компанії, там, а-ля оці загальні версії АІшок?". Тобто з одного боку людина боїться щось завантажити, а з іншого керівник не розуміє, що вже завантажують без нього.

Обидва питання закриваються однією відповіддю, і починається вона з рівнів доступу.

Три рівні доступу

Коли ми говоримо про сервіси штучного інтелекту, у нас є три рівні, і вони принципово різні за тим, що відбувається з вашими даними.

Перший рівень це безплатна версія. Ліміти на розмір і кількість файлів, обмежені моделі, а головне, що за замовчуванням ваші дані йдуть у хмару на навчання. Якщо людина працює взагалі без акаунту, ситуація ще гірша.

Другий рівень це платна підписка на особистий акаунт. Тут зʼявляється те, чого немає в безплатній версії: налаштування приватності, якими ви керуєте самі.

Третій рівень це корпоративна версія. Він же найчастіше означає, що ви працюєте не в тому сервісі, який обрали б самі, а в тому, який уже стоїть у компанії: на навчанні по продуктах Google ми через це будували всю програму навколо однієї екосистеми, бо саме вона була дозволена в компанії. У юридичному управлінні великої міжнародної компанії ми працювали саме в корпоративному Copilot, і причина була рівно одна: дані лежать у корпоративному контурі і не використовуються для навчання моделей. Це і є основна причина, чому великі компанії обирають Copilot: дані не виходять за межі компанії.

Але є важливий момент, який варто оновити в голові. Корпоративний Copilot за останній рік сильно змінився: зараз там є перемикач моделей, і сучасніші моделі доступні всередині контуру компанії.

Проблема в тому, що люди про це не знають. Не клікають, не заглядають у налаштування, працюють на тому, що стоїть за замовчуванням, і роблять висновок, що інструмент слабкий. Тобто розрив тепер не в можливостях, а в тому, що ними не користуються.

Практичний наслідок для вас простий. Перед тим як просити службу безпеки дозволити інший сервіс, перевірте, чи бачила команда взагалі, що в Copilot можна перемкнути.

Що можна зробити за пʼять хвилин прямо зараз

Якщо у вас платна версія, більшість ризику знімається налаштуваннями, і це роблять одиниці.

• У Claude зайдіть у налаштування, розділ Приватність, і вимкніть два пункти: передачу метаданих і дозвіл на покращення AI-моделей

• У ChatGPT зайдіть у налаштування, розділ Data controls, і вимкніть покращення моделі для всіх

• Перевірте, у якому саме акаунті працює команда. В більшості випадків виявляється, що половина людей сидить на безплатних особистих акаунтах, а керівник впевнений, що всі в корпоративному

Ну і саме основне: зробіть це до того, як підете до безпеки. Розмова "ми вже вимкнули навчання на наших даних і хочемо узгодити решту" йде зовсім інакше, ніж "а можна нам ШІ".

Метадані, про які майже ніхто не питає

На воркшопі для юридичного управління один з юристів поставив питання, якого я не чув більше ніде, і воно найточніше з усіх. Суть така: якщо ми беремо документ, міняємо в тексті назву компанії на знеособлену, але сам файл зберігає всі корпоративні метадані, то публічна модель усе одно може встановити, звідки цей файл вийшов.

Так от, він мав рацію. Заміна тексту не чистить властивості файлу, історію правок і дані про автора. Тому якщо ви знеособлюєте документ, знеособлювати треба і файл, а не тільки те, що видно на екрані.

Робочий варіант для чутливих таблиць і списків: підміняти ідентифікатори до відправки. Замість Петренко Іван Петрович у файлі стоїть [Особа 1], ви обробляєте дані, отримуєте результат і повертаєте справжні імена назад уже в себе. Виглядає як зайвий крок, але це рівно те, що дозволяє працювати з даними, які інакше взагалі не можна нікуди відправляти.

Окремо варто знати про кастомні GPTs із підключеним зовнішнім сервісом через Actions. У документації OpenAI написано обережно: залежно від налаштувань GPT і типу дії ChatGPT може попросити вас підтвердити запит перед тим, як дані підуть далі. Тобто підтвердження не гарантоване, і покладатись на нього як на захист не варто.

Важливіше інше, і це OpenAI пише прямо: вони не перевіряють і не контролюють, як сторонній сервіс використовує та зберігає ваші дані. Тому для служби безпеки кастомний GPT з Actions це не один сервіс, а два, і другий треба узгоджувати окремо.

Коли безпека каже ні

Буває, що відповідь однозначна: дані чутливі, назовні не випускаємо. Це нормальна позиція, і в частині випадків вона взагалі не обговорюється. У проєкті з електронним документообігом з одним державним клієнтом ми якраз у такій рамці: згідно із законодавством запити не можна відправляти на сторонні сервери, тому питання стоїть тільки про локальні моделі.

В такому разі варіантів залишається три, і їх краще принести на зустріч готовими.

• Розгортання в тенанті самої компанії, наприклад Azure OpenAI, коли дані не виходять за периметр

• Прямий доступ до зовнішнього провайдера через API з окремим договором і контролем того, що йде в запит

• Локальна модель на обладнанні компанії, яка взагалі не має доступу до інтернету

Третій варіант звучить найнадійніше, і в нього є своя ціна: хтось має відповідати за модель, за її оновлення і за якість відповідей. На одному з дзвінків керівник з боку клієнта поставив це питання дослівно, коли ми обговорювали сценарій з розгортанням: яку саме модель ми тоді ставимо і хто буде займатися її навчанням. Відповідь на це має бути до того, як ви пообіцяєте бізнесу локальне рішення.

Як говорити з безпекою, щоб отримати дозвіл

Керівниця L&D одного з великих банків сформулювала суть краще за мене. Її людям після навчання фактично виходити до ризиків, до безпеки, до комплаєнсу і домовлятися про те, що це рішення настільки важливе для бізнесу, що його треба зробити, і що названі ризики прийнятні.

Тобто задача не в тому, щоб отримати технічний дозвіл. Задача в тому, щоб принести аргумент, який безпека може прийняти і за який вона готова підписатись.

Пʼять питань, які вам поставлять, і на які треба мати відповідь заздалегідь:

• Які саме дані ви плануєте вантажити і до якого класу конфіденційності вони належать

• У якій версії сервісу ви працюєте і чи вимкнене навчання на ваших даних

• Де фізично зберігаються дані і на який строк

• Хто ще всередині компанії бачить ці чати і ці файли

• Що станеться, якщо модель помилиться, і хто перевіряє результат

Останнє питання чомусь вважають другорядним, а воно найважливіше. Безпека боїться не витоку як такого, а неконтрольованого рішення, ухваленого на основі вигаданої відповіді.

Ну і ще одна деталь, яку варто сказати вголос. В 99 випадках зі ста жодна компанія не пускає мене у свій робочий периметр: я показую все на своїх ресурсах і своїх акаунтах, а працівники повторюють це вже у своїх корпоративних. NDA ми підписуємо, але в середовище мене не пускають, і це правильно. Якщо зовнішній тренер просить доступ до ваших систем, це саме по собі привід поставити кілька додаткових питань.

Головне про безпеку і ШІ

Безпека не забороняє ШІ. Вона забороняє невизначеність. Тому робочий порядок такий: спочатку розібратись, на якому рівні доступу працює команда, потім вимкнути навчання на ваших даних, потім навести лад із файлами й метаданими, і тільки після цього йти узгоджувати сценарії, у яких дійсно є чутливі дані.

У банківському контурі ми пройшли цей шлях із понад 1500 навченими людьми, і найчастіше блокером виявлялась не технологія, а відсутність у співробітника відповідей на пʼять питань вище.

Якщо треба, щоб ваша команда отримала ці відповіді разом і в одному форматі, подивіться, як влаштовані корпоративні тренінги і що саме ми розбираємо на воркшопі для юридичних команд.