Shadow AI: новий ризик для корпоративних даних

Співробітник завантажує договір у ChatGPT і просить знайти ризики. Розробник вставляє фрагмент коду в AI-асистент, щоб знайти помилку. Маркетолог передає список клієнтів у генеративний AI для аналізу. HR використовує сторонній AI-сервіс для обробки резюме.

Для бізнесу це зручно і швидко. Для команди інформаційної безпеки виникає інше питання: які корпоративні дані потрапляють в AI-сервіси і що відбувається з ними далі?

Якщо компанія не контролює використання таких інструментів, виникає Shadow AI — використання співробітниками AI-сервісів, моделей та застосунків без погодження або контролю з боку IT та Information Security.

Проблема Shadow AI полягає не в самому штучному інтелекті. Основний ризик — у втраті контролю над корпоративними даними.

Що таке Shadow AI?

Shadow AI — це використання співробітниками AI-інструментів, які не були офіційно схвалені, перевірені або налаштовані компанією.

Це може бути ChatGPT, Claude, Gemini, Copilot, AI-функція у SaaS-продукті, browser extension, сервіс для роботи з документами, AI meeting assistant, генератор коду або десятки інших інструментів.

Shadow AI багато в чому схожий на вже знайому проблему Shadow IT. Раніше співробітник міг самостійно створити Dropbox або Google Drive і завантажити туди робочі документи. Тепер достатньо відкрити AI-сервіс у браузері та вставити інформацію безпосередньо в prompt.

Для IT-відділу така передача даних може залишитися непомітною.

Чому Shadow AI став проблемою для бізнесу?

Генеративний AI дуже легко почати використовувати.

Не потрібно встановлювати складне програмне забезпечення або звертатися до IT. Багато сервісів працюють прямо у браузері, мають безкоштовні версії та дозволяють зареєструватися за кілька хвилин.

Одночасно AI особливо корисний саме тоді, коли отримує контекст.

Щоб AI якісно проаналізував договір, йому потрібно передати договір. Щоб знайти проблему в коді — показати код. Щоб підготувати відповідь клієнту — надати листування. Щоб проаналізувати продажі — передати дані про продажі.

Саме тому GenAI створює специфічний data security risk: співробітник може передати значний обсяг корпоративної інформації сторонньому сервісу буквально за кілька секунд.

Які дані співробітники можуть передавати AI?

Практично будь-які дані, з якими вони працюють щодня.

Розробники можуть вставляти source code, API-запити, configuration files або error logs. Sales-команда — інформацію про клієнтів, комерційні пропозиції та умови контрактів. HR — резюме та персональні дані кандидатів. Finance — фінансові таблиці. Legal — договори. Marketing — customer data та внутрішню аналітику.

Окрему проблему створює те, що користувач може навіть не сприймати свої дії як передачу даних третій стороні.

Він просто «просить AI допомогти».

Але з погляду data security між завантаженням документа у сторонній SaaS та передачею цього самого документа AI-сервісу немає принципової різниці: корпоративні дані залишають контрольоване середовище компанії.

Чим небезпечний Shadow AI?

1. Витік конфіденційної інформації

Найочевидніший ризик — передача AI-сервісу інформації, яка не повинна залишати корпоративне середовище.

Це можуть бути комерційні таємниці, внутрішні документи, source code, credentials, персональні дані, фінансова інформація або дані клієнтів.

Навіть якщо сервіс має хороші security controls, компанія може порушити власну політику роботи з конфіденційною інформацією вже самим фактом такої передачі.

2. Втрата контролю над даними

Security-команда зазвичай знає, де зберігаються корпоративні дані: Microsoft 365, Google Workspace, CRM, ERP, файлові сервери, cloud storage.

Shadow AI руйнує цю карту.

Дані можуть опинитися в десятках сторонніх сервісів, про існування яких IT-відділ навіть не знає.

Тоді просте питання:

«Де знаходяться наші корпоративні дані?»

стає набагато складнішим.

3. Передача персональних даних

Співробітник може завантажити в AI резюме кандидата, customer database, support ticket або документ із персональною інформацією.

Це вже створює не тільки cybersecurity risk, а й питання privacy та compliance.

Компанія повинна розуміти, хто обробляє ці дані, де вони зберігаються, на яких умовах, скільки часу та чи допускається така передача відповідно до договорів, внутрішніх політик і застосовних нормативних вимог.

4. Витік source code та технічної інформації

Для developers AI coding assistants стали звичайним робочим інструментом.

Але разом із кодом у сторонній сервіс можуть потрапити внутрішня бізнес-логіка, API endpoints, architecture details, configuration data, SQL queries або навіть secrets, випадково залишені в коді чи логах.

Тому використання AI у software development потребує окремих правил.

5. Неконтрольовані AI-акаунти

Ще один аспект Shadow AI — співробітники можуть використовувати особисті акаунти.

Компанія не контролює їхні налаштування, authentication, retention policies та доступ до історії взаємодії.

Після звільнення співробітника частина корпоративної інформації може залишитися в його особистому AI-акаунті.

6. Compliance-ризики

Якщо організація працює з персональними, фінансовими, медичними або іншими регульованими даними, неконтрольоване використання AI може конфліктувати з вимогами щодо їх обробки.

Проблема особливо актуальна для компаній, які працюють відповідно до GDPR, ISO/IEC 27001, SOC 2, PCI DSS, DORA, NIS2 та галузевих вимог.

Наявність compliance framework сама по собі не вирішує проблему Shadow AI. Компанії потрібно включити використання AI у власні процеси risk management та information security governance.

Shadow AI — це новий Shadow IT?

Так, але з важливою відмінністю.

При Shadow IT користувач зазвичай переносить робочий процес у несанкціонований сервіс.

При Shadow AI користувач може просто скопіювати інформацію в prompt.

Тому передача даних відбувається значно швидше і часто взагалі не сприймається як security event.

Крім того, AI дедалі частіше стає функцією вже існуючих SaaS-продуктів. Компанія може дозволити певний сервіс, а через кілька місяців у ньому з'явиться AI-функціональність, яка по-новому використовує корпоративні дані.

Тому простого списку «дозволених програм» уже недостатньо.

Чому просто заборонити ChatGPT — не найкраще рішення?

Повна заборона здається найпростішим способом вирішити проблему.

На практиці вона може створити нову форму Shadow AI.

Якщо AI реально допомагає співробітнику виконувати роботу швидше, він може почати використовувати сервіс із домашнього пристрою, особистого акаунта або знайти менш відомий AI-інструмент.

У результаті visibility стане ще меншою.

Раціональніший підхід — визначити, які AI-сервіси дозволені, для яких задач їх можна використовувати та які дані в них передавати заборонено.

Тобто завдання компанії — не «заборонити AI», а зробити його використання контрольованим.

Як зрозуміти, чи є Shadow AI у вашій компанії?

Почати варто з visibility.

Security та IT-команди повинні розуміти, якими AI-сервісами користуються співробітники, хто ними користується і які категорії даних можуть туди передаватися.

Важливо перевірити не лише очевидні ChatGPT або Gemini.

AI сьогодні вбудовується у browser extensions, meeting tools, note-taking applications, IDE, CRM, marketing platforms, document services та багато інших SaaS-продуктів.

Тому AI inventory має охоплювати як окремі GenAI-сервіси, так і AI-функціональність уже використовуваного програмного забезпечення.

Як захистити корпоративні дані від Shadow AI

Ефективний контроль Shadow AI потребує поєднання технологій, політик і навчання співробітників.

Проведіть інвентаризацію AI-сервісів

Перший крок — зрозуміти реальний масштаб використання AI.

Які сервіси вже використовуються? Які департаменти ними користуються? Для яких задач? Які типи інформації можуть передаватися?

Без цієї інформації неможливо правильно оцінити ризик.

Визначте дозволені AI-інструменти

Компанії варто сформувати перелік approved AI services.

Перед включенням сервісу до такого переліку потрібно оцінити його security та privacy умови: як обробляються дані, які є налаштування retention, чи використовуються введені дані для навчання моделей, де вони зберігаються, які доступні enterprise security controls.

Умови різних AI-продуктів і навіть різних тарифів одного продукту можуть відрізнятися, тому їх потрібно перевіряти окремо.

Визначте, які дані не можна передавати AI

Політика повинна бути зрозумілою звичайному співробітнику.

Наприклад, може бути заборонено передавати у несанкціоновані AI-сервіси:

• персональні дані;
• credentials та API keys;
• конфіденційні договори;
• customer data;
• фінансову інформацію;
• source code;
• security configurations;
• інформацію, що становить комерційну таємницю.

Але сам список недостатній. Працівники повинні розуміти чому ці обмеження існують і як безпечно виконати ту саму задачу.

Використовуйте DLP

Data Loss Prevention (DLP) може допомогти виявляти або обмежувати передачу чутливої інформації через контрольовані канали.

Залежно від конкретної DLP-платформи та архітектури компанії можна контролювати передачу певних категорій даних через браузер, clipboard, uploads, email та інші канали.

Наприклад, політика може реагувати на спробу передати документ із персональними даними або іншу класифіковану інформацію в несанкціонований web service.

Водночас DLP не варто сприймати як магічний «блокувальник AI». Ефективність залежить від каналів, які контролює конкретне рішення, налаштування classification та самих DLP policies.

CASB і контроль AI-сервісів

Cloud Access Security Broker (CASB) допомагає отримати visibility щодо використання cloud applications і застосовувати security policies до SaaS.

У контексті Shadow AI це може бути особливо корисно для виявлення несанкціонованих cloud services, оцінки ризику застосунків та контролю доступу до них.

Наприклад, організація може дозволити корпоративну версію певного AI-сервісу, але обмежити використання невідомих або неприйнятних AI applications.

DLP і CASB тому вирішують різні частини проблеми:

CASB допомагає зрозуміти, куди йдуть дані.DLP допомагає контролювати, які дані можуть туди потрапити.

У сучасних платформах ці функції можуть бути частиною одного комплексного рішення.

Data Access Governance: проблема починається ще до AI

Є ще один важливий момент.

Якщо співробітник має доступ до тисяч документів, які йому не потрібні для роботи, AI лише збільшує потенційні наслідки цього надмірного доступу.

Тому захист даних у контексті AI починається не тільки з контролю prompts.

Data Access Governance (DAG) допомагає визначати, де знаходяться чутливі дані, хто має до них доступ і чи справді цей доступ необхідний.

Принцип простий: користувач не зможе випадково передати AI інформацію, до якої він узагалі не повинен був мати доступ.

Навчайте співробітників безпечній роботі з AI

Security Awareness також має змінюватися.

Традиційного навчання про phishing та складні паролі вже недостатньо.

Співробітникам потрібно пояснювати:

що можна передавати AI;

які AI-сервіси дозволені;

чому не можна використовувати особисті AI-акаунти для конфіденційних даних;

як працювати з source code та customer information;

до кого звертатися, якщо AI потрібен для нової робочої задачі.

Ключова мета — зробити безпечний варіант достатньо зручним, щоб співробітнику не доводилося обходити корпоративні правила.

Що робити, якщо Shadow AI вже використовується?

Не варто починати з масового блокування всіх виявлених сервісів.

Спочатку потрібно визначити, які AI tools використовуються, які дані могли передаватися та наскільки критичними є ці сценарії.

Після цього AI-сервіси можна умовно розділити на три групи:

Approved — дозволені корпоративні інструменти з відповідними security controls.

Restricted — сервіси, використання яких дозволене лише для певних задач або неконфіденційних даних.

Blocked — сервіси, ризик яких компанія вважає неприйнятним.

Такий підхід дозволяє управляти Shadow AI як ризиком, а не вести нескінченну боротьбу з новими AI-сайтами.

Shadow AI потребує не одного продукту, а системного підходу

Не існує одного security-рішення, яке повністю вирішує проблему Shadow AI.

Контроль може включати DLP, CASB, Data Access Governance, identity controls, endpoint security, SaaS monitoring та security awareness.

Але технології повинні спиратися на governance.

Компанії потрібно визначити власні правила використання AI, класифікувати дані, контролювати доступи та регулярно переглядати нові AI-сервіси.

Інакше security-команда завжди буде на крок позаду користувачів.

Висновок

Shadow AI — закономірний наслідок масового використання генеративного AI в роботі.

Співробітники хочуть виконувати задачі швидше, тому використовуватимуть ChatGPT, AI assistants, coding tools та інші сервіси незалежно від того, чи встигла компанія створити формальну AI-політику.

Головний ризик виникає тоді, коли організація не знає, які AI-сервіси використовуються, хто ними користується і які корпоративні дані туди потрапляють.

Тому ефективна стратегія боротьби з Shadow AI — це не повна заборона штучного інтелекту.

Це visibility, data classification, контроль доступів, DLP, CASB, Data Access Governance, чіткі AI policies та навчання співробітників.

AI може підвищувати продуктивність бізнесу. Завдання cybersecurity — зробити так, щоб разом із продуктивністю не зростав неконтрольований ризик витоку корпоративних даних.

FAQ

Що таке Shadow AI?

Shadow AI — використання співробітниками AI-сервісів, моделей або AI-функцій без погодження чи належного контролю з боку компанії. Основний ризик полягає в неконтрольованій передачі корпоративних даних стороннім системам.

Чим Shadow AI відрізняється від Shadow IT?

Shadow IT охоплює несанкціоновані IT-сервіси загалом, тоді як Shadow AI стосується AI-інструментів і функцій. Особливість Shadow AI — користувач може передати значний обсяг інформації сторонньому сервісу просто через prompt, upload або інтеграцію.

Чи можна повністю заборонити ChatGPT у компанії?

Технічно доступ до окремих сервісів можна обмежувати, але сама заборона не усуває ризик Shadow AI. Співробітники можуть перейти на інші сервіси або особисті пристрої. Ефективніший підхід — дозволені корпоративні AI-інструменти плюс чіткі правила роботи з даними.

Чи може DLP захистити від витоку даних через ChatGPT?

DLP може допомагати виявляти та блокувати передачу певних категорій чутливих даних через контрольовані канали. Конкретні можливості залежать від DLP-рішення, browser та endpoint controls, способу використання AI і налаштованих політик.

Як контролювати Shadow AI?

Потрібно поєднати AI inventory, approved applications, data classification, DLP, CASB, Data Access Governance, access control та security awareness. Важливо контролювати не тільки самі AI-сервіси, а й дані, до яких мають доступ користувачі.