Инженер застрял на баге в коде, который входит в неопубликованный продукт работодателя. Девять вечера, вкладка личного ChatGPT уже открыта, и вставить всю функцию кажется самым быстрым способом получить ответ. В марте 2023 года, примерно через три недели после того как полупроводниковому подразделению Samsung разрешили использовать ChatGPT, компания выявила три случая именно этого: один сотрудник вставил исходный код программы для полупроводниковой базы данных, чтобы найти в нём ошибки, второй отправил код, связанный с оборудованием, с просьбой об «оптимизации кода», третий загрузил запись совещания, чтобы превратить её в протокол. Немедленная реакция Samsung — экстренный лимит 1024 байта на промпт (репортаж The Economist Korea, в английском пересказе Mashable). К 1 мая компания пошла дальше и временно ограничила генеративные ИИ-инструменты на корпоративных устройствах полностью (TechCrunch, «Samsung bans use of generative AI tools like ChatGPT after April internal data leak», 2023).
Ничто в указанном инциденте не требовало злонамеренных намерений. Передача конфиденциальных материалов стороннему сервису может нарушать политику или договор и может ослабить контроль владельца, даже если материалы не публикуются. Точные правовые последствия и обязанность по уведомлению зависят от обстоятельств и юрисдикции.
Что на самом деле считается «рабочим секретом»
Не всё, что связано с работой, — секрет в том смысле, о котором идёт речь в этой статье. Категория, требующая проверки с остановкой, более узкая и конкретная:
- Исходный код проприетарной, не выпущенной или конкурентно чувствительной системы.
- Неопубликованные финансовые показатели — квартальные результаты до публичного раскрытия, внутренние прогнозы, ценовая стратегия.
- Нераскрытые продукты или бизнес-планы — дорожная карта функций, цель поглощения, ожидаемое партнёрство.
- Детали безопасности — уязвимости, учётные данные, токены, приватные URL-адреса, архитектурные диаграммы или конфигурация рабочей среды.
- Договоры и условия по NDA — клиентские контракты, соглашения с поставщиками, всё, что уже обязано храниться в конфиденциальности по подписи.
- Документированные коммерческие тайны, которые работодатель специально маркировал или обрабатывал как таковые (формула, процесс, список клиентов, созданный за реальные затраты).
- Персональные или регулируемые данные о клиентах, сотрудниках, пациентах, студентах или других лицах, даже если они не являются коммерческой тайной.
Первый черновик рутинной внутренней записки, публичное описание вакансии или общий вопрос о процессе — не в этой категории; смысл не в том, чтобы бояться ИИ, а в том, чтобы распознать более узкий набор вещей, которым действительно нужен другой путь.
Почему это больше, чем вежливость перед IT
Большинство рабочих руководств по ИИ подают это как вопрос соблюдения политики, что верно, но недооценивает ставки именно для настоящих коммерческих тайн. По закону США информация квалифицируется как коммерческая тайна только в том случае, если её владелец «принял разумные меры для сохранения такой информации в секрете» (18 U.S.C. § 1839(3)(A), введён законом Economic Espionage Act с поправками Defend Trade Secrets Act) — защита зависит от постоянной практики реального удержания информации под контролем, а не только от того, что информация ценна или не опубликована. Закон ЕС ставит сопоставимую планку: коммерческая тайна должна быть «объектом разумных мер при данных обстоятельствах со стороны лица, законно контролирующего информацию, чтобы сохранить её в секрете» (Директива (ЕС) 2016/943, статья 2(1)(c)).
У потребительских сервисов есть свои условия, но эти условия могут не соответствовать конфиденциальности, безопасности, хранению, расположению и обработке данных, требуемым работодателем для конкретных материалов. Передача реальной коммерческой тайны в неутверждённый провайдер может действовать против разумных мер по сохранению секретности владельца. То, является ли конкретный инцидент юридическим раскрытием или влияет на защиту, зависит от условий, контроля, фактов и юрисдикции; сотрудники не должны принимать это решение на основе маркировки продукта.
Удаление видимого чата не отменяет передачу данных и может не удовлетворять требованиям по реагированию на инциденты или сохранению доказательств. Если произошла случайная вставка, остановитесь, зафиксируйте инструмент, аккаунт, время и категорию данных, не копируя секрет повторно, и немедленно сообщите об этом через процесс безопасности или защиты данных работодателя. Следуйте его инструкциям по удалению, ротации учётных данных, контакту с провайдером, сбору доказательств и уведомлениям.
Заблуждение, которое приводит к ущербу
Ущерб может начинаться с оценки риска только по тому, стал ли секрет публичным. Передача в неавторизованный сторонний сервис имеет значение даже если материал позже не публикуется. Уровень продукта, конфигурация тенанта, контракты и контроль провайдера различаются; одно лишь название бренда или маркировка «enterprise» не устанавливают одобрение. Ваш уполномоченный владелец политики работодателя способен оценить конкретный путь. Конфиденциальность и гигиена данных на рабочем месте охватывает, как проверить реальные условия обработки данных инструмента, когда вы знаете, какой инструмент используете; данная статья рассматривает более узкое правило не вставлять секрет, пока вы не уверены.
Второе заблуждение — считать «все в моей команде так делают» доказательством того, что так можно. В случае Samsung несколько инженеров независимо приняли одно и то же разумно звучащее индивидуальное решение, прежде чем кто-либо в компании это заметил. Поведение коллег — не подтверждение.
Третье заблуждение — считать, что это правило касается только инженеров и исходного кода. Финансовые показатели, ранний черновик записки о поглощении и таблица неопубликованных ценовых уровней раскрываются точно так же в момент вставки в личный аккаунт, а человек, который с ними работает, часто трудится в финансах, продажах или операционном отделе, а не в разработке — проверка по шести категориям ниже применяется одинаково независимо от вашей роли и отдела.
Проверка «остановись» по шести категориям
Прежде чем вставлять что-либо в любой ИИ-инструмент, который не является специально одобренным работодателем аккаунтом в корпоративной конфигурации, проверьте, попадает ли это хотя бы в одну из категорий:
- Исходный код из не выпущенной или проприетарной системы.
- Финансовые показатели, ещё не раскрытые публично.
- Нераскрытый продукт, функция или бизнес-план.
- Детали безопасности — уязвимость, учётные данные или архитектура рабочей среды.
- Всё, что подпадает под подписанный NDA или условие конфиденциальности.
- Всё, что работодатель классифицировал как конфиденциальное, плюс персональные или регулируемые данные, охваченные политикой или законом.
Если хотя бы один ответ — «да», остановитесь. Найти и прочитать реальную политику работодателя по ИИ — первый шаг, чтобы выяснить, существует ли вообще одобренный инструмент для такого контента: у одних компаний он есть, у других ещё нет, и гадать в любую сторону — та самая ошибка, ради предотвращения которой существует эта статья.
Что делать вместо этого
- Используйте только те инструмент, арендатор (tenant), учётную запись и класс данных, которые утверждены вашим работодателем. Одного рабочего адреса электронной почты или корпоративной маркетинговой маркировки недостаточно.
- Если для такого типа контента нет утверждённого инструмента, пока не применяйте к нему ИИ. Спросите у руководителя или специалистов по IT/безопасности, существует ли процедура исключения, а не принимайте самостоятельно решение о том, что удобство оправдывает риск.
- Если политика допускает вопросы обобщённого характера, используйте синтетические данные или минимально необходимый объём информации и повторно проверяйте материал на возможность реидентификации, наличие бизнес-логики, секретов и персональных данных. Деидентификация — это оценка рисков, а не просто поиск и замена терминов.
Проверьте свой последний разговор с ИИ
Проанализируйте недавнее использование ИИ в рабочих задачах, не копируя конфиденциальные материалы в новые места. Если есть подозрение, что данные могли попасть в неутверждённый инструмент, немедленно сообщите об этом через канал инцидентов работодателя и не удаляйте и не изменяйте доказательства самостоятельно, если нет соответствующих инструкций. Выполните смену скомпрометированных учётных данных через утверждённый аварийный процесс. Карточка остановки передачи рабочих секретов содержит версию проверки перед вставкой.
Внутренняя политика использования ИИ ICO, руководство NCSC по безопасному использованию ИИ и руководство ICO по минимизации данных регламентируют контроль утверждённых систем, порядок действий при инцидентах, требования безопасности и принцип минимальной необходимости. Они не определяют юридическую силу конкретного раскрытия информации.
