Инженер застрял на баге в коде, который входит в неопубликованный продукт работодателя. Девять вечера, вкладка личного ChatGPT уже открыта, и вставить всю функцию кажется самым быстрым способом получить ответ. В марте 2023 года, примерно через три недели после того как полупроводниковому подразделению Samsung разрешили использовать ChatGPT, компания выявила три случая именно этого: один сотрудник вставил исходный код программы для полупроводниковой базы данных, чтобы найти в нём ошибки, второй отправил код, связанный с оборудованием, с просьбой об «оптимизации кода», третий загрузил запись совещания, чтобы превратить её в протокол. Немедленная реакция Samsung — экстренный лимит 1024 байта на промпт (репортаж The Economist Korea, в английском пересказе Mashable). К 1 мая компания пошла дальше и временно ограничила генеративные ИИ-инструменты на корпоративных устройствах полностью (TechCrunch, «Samsung bans use of generative AI tools like ChatGPT after April internal data leak», 2023).
Для этой истории не потребовались ни хакер, ни взлом, ни даже дурной умысел. Три сотрудника, пытавшихся работать эффективно, развернули общекорпоративную политику, действовавшую меньше месяца, — потому что вставка секрета в систему третьей стороны сама по себе и есть раскрытие; ему не нужно становиться публичным, быть использованным во вред или даже прочитанным другим человеком, чтобы иметь значение.
Что на самом деле считается «рабочим секретом»
Не всё, что связано с работой, — секрет в том смысле, о котором идёт речь в этой статье. Категория, требующая проверки с остановкой, уже и конкретнее:
- Исходный код проприетарной, неопубликованной или конкурентно чувствительной системы.
- Неопубликованные финансовые показатели — квартальные результаты до публичного раскрытия, внутренние прогнозы, ценовая стратегия.
- Неанонсированные продуктовые или бизнес-планы — дорожная карта функций, цель готовящегося поглощения, готовящееся партнёрство.
- Детали безопасности — уязвимости, учётные данные, архитектурные диаграммы production-систем.
- Договоры и условия под NDA — клиентские контракты, соглашения с поставщиками, всё, конфиденциальность чего уже обещана чьей-то подписью.
- Документированные коммерческие тайны, которые работодатель прямо обозначил как таковые или обращается с ними как с таковыми (формула, процесс, клиентская база, собранная с реальными затратами).
Первый черновик рутинной внутренней записки, публичное описание вакансии или общий вопрос о процессе — не в этой категории; смысл не в том, чтобы бояться ИИ, а в том, чтобы распознать более узкий набор вещей, которым действительно нужен другой путь.
Почему это больше, чем вежливость перед IT
Большинство рабочих руководств по ИИ подают это как вопрос соблюдения политики, что верно, но недооценивает ставки именно для настоящих коммерческих тайн. По закону США информация квалифицируется как коммерческая тайна только в том случае, если её владелец «принял разумные меры для сохранения такой информации в секрете» (18 U.S.C. § 1839(3)(A), введён законом Economic Espionage Act с поправками Defend Trade Secrets Act) — защита зависит от постоянной практики реального удержания информации под контролем, а не только от того, что информация ценна или не опубликована. Закон ЕС ставит сопоставимую планку: коммерческая тайна должна быть «объектом разумных мер при данных обстоятельствах со стороны лица, законно контролирующего информацию, чтобы сохранить её в секрете» (Директива (ЕС) 2016/943, статья 2(1)(c)).
Вставка настоящей коммерческой тайны в личный аккаунт ИИ, когда нет договора, регулирующего, как провайдер обрабатывает и хранит введённые данные и обучается ли на них, — именно то неконтролируемое раскрытие, которое может подорвать «разумные меры»: не потому, что провайдер ИИ обязательно злоупотребит данными, а потому, что информация покинула круг людей и систем, над которыми у работодателя есть фактический контроль. Будет ли конкретный инцидент стоить компании защиты коммерческой тайны в суде, зависит от фактов и применимого права в конкретном деле; для вас как сотрудника вывод уже и проще: это не решение, которое вы вправе походя принимать в девять вечера от имени работодателя, и отменить его потом часто невозможно.
Удаление чата задним числом не отменяет раскрытия. Большинство провайдеров позволяют удалить разговор или запросить удаление данных аккаунта, но это не отменяет того факта, что контент был передан третьей стороне и обработан ею вне контроля работодателя, и у вас нет способа проверить, что осталось в логах или уже использовано дальше по цепочке. Проверьте, что на самом деле обещают опубликованные провайдером механизмы управления данными, прежде чем предполагать, что удаление делает то, чего вы ожидаете, — и считайте вставку по сути необратимой до того, как её сделать, а не после.
Заблуждение, которое приводит к ущербу
Ущерб обычно начинается с неверной мерки: оценивать риск по тому, стал ли секрет публичным. «Я вставил это только в приватный чат, никто другой не видел, значит, ничего не произошло». Эта мерка неверна по двум причинам. Во-первых, для статуса коммерческой тайны имеет значение само раскрытие провайдеру ИИ — независимо от того, прочитает ли вывод кто-то, кроме вас. Во-вторых, потребительские аккаунты ИИ часто не дают тех же договорных гарантий против обучения на введённых вами данных, что корпоративные тарифы, — и именно IT или служба безопасности работодателя, а не вы, в состоянии знать, какой тариф вы на самом деле используете и что сказано в его условиях обработки данных. Приватность и гигиена данных на работе объясняет, как проверить фактические условия обработки данных инструмента, когда вы знаете, каким инструментом пользуетесь; эта статья — о более узком правиле: вообще не вставлять секрет, пока вы ещё не уверены.
Второе заблуждение — считать «все в моей команде так делают» доказательством того, что так можно. В случае Samsung несколько инженеров независимо приняли одно и то же разумно звучащее индивидуальное решение, прежде чем кто-либо в компании это заметил. Поведение коллег — не подтверждение.
Третье заблуждение — считать, что это правило касается только инженеров и исходного кода. Финансовые показатели, ранний черновик записки о поглощении и таблица неопубликованных ценовых уровней раскрываются точно так же в момент вставки в личный аккаунт, а человек, который с ними работает, часто трудится в финансах, продажах или операционном отделе, а не в разработке — проверка по шести категориям ниже применяется одинаково независимо от вашей роли и отдела.
Проверка «остановись» по шести категориям
Прежде чем вставлять что-либо в любой ИИ-инструмент, который не является специально одобренным работодателем аккаунтом в корпоративной конфигурации, проверьте, попадает ли это хотя бы в одну из категорий:
- Исходный код неопубликованной или проприетарной системы.
- Финансовые показатели, ещё не раскрытые публично.
- Неанонсированный продукт, функция или бизнес-план.
- Деталь безопасности — уязвимость, учётные данные или production-архитектура.
- Всё, что покрыто подписанным NDA или пунктом конфиденциальности.
- Всё, что работодатель специально назвал коммерческой тайной или конфиденциальным.
Если хотя бы один ответ — «да», остановитесь. Найти и прочитать реальную политику работодателя по ИИ — первый шаг, чтобы выяснить, существует ли вообще одобренный инструмент для такого контента: у одних компаний он есть, у других ещё нет, и гадать в любую сторону — та самая ошибка, ради предотвращения которой существует эта статья.
Что делать вместо этого
- Используйте одобренный работодателем ИИ-инструмент в корпоративной конфигурации, если он есть, — business- и enterprise-тарифы обычно регулируются договором и условиями обработки данных, которых у личного аккаунта нет. Конкретика различается от вендора к вендору и от тарифа к тарифу, поэтому фраза «это рабочий аккаунт» — причина проверить фактические условия, а не гарантия.
- Если одобренного инструмента для такого контента нет, пока не используйте на нём ИИ вовсе. Спросите руководителя или IT/службу безопасности, есть ли процедура исключений, вместо того чтобы в одиночку решать, что удобство стоит риска.
- Если вам нужно задать общий вопрос о закономерности, а не о конкретном секрете, сначала уберите идентифицирующие детали — абстрагированные имена функций, округлённые цифры, общее описание бизнес-проблемы — и честно ответьте себе, действительно ли абстракция убирает секрет, а не просто позволяет чувствовать себя спокойнее при вставке.
Проверьте свой последний разговор с ИИ
Вернитесь к последнему рабочему разговору с ИИ. Прогоните его через проверку по шести категориям выше. Если что-то в нём не должно было попасть в этот конкретный инструмент, об этом стоит сообщить своему руководителю или IT прямо сейчас: тихий ранний сигнал — куда меньший разговор, чем тот, который случится после того, как это найдёт аудит. Карточка «остановись перед вставкой рабочих секретов» даёт версию этой проверки, которую можно держать рядом с клавиатурой.
