Безопасность ИИ и конфиденциальность данных
Конфиденциальность, гигиена данных, инциденты безопасности, управление и безопасное подключение ИИ.
48 материалов (37 статей · 11 видео)
Начните здесь
Несколько хороших первых материалов перед полной лентой.
7 мин чтенияКонфиденциальность в ChatGPT: что сервис запоминает, видит и передаёт
Разделяйте обучение, память, хранение и передачу данных третьим лицам. Проверьте настройки своего аккаунта, но не считайте Temporary Chat или платный тариф разрешением делиться чувствительными данными.
Новичок в ИИ
8 мин чтенияПриватность и гигиена данных при использовании ИИ на работе
Практическое руководство по снижению рисков для приватности и конфиденциальности при использовании ИИ на работе. Перед вставкой проверьте точный продукт, тариф, конфигурацию, данные и применимые правила.
Начинающий
14 мин чтенияPrompt injection и безопасность LLM: модели угроз и многоуровневая защита
Prompt injection — постоянный класс рисков безопасности LLM, а не ошибка написания промпта. Продакшен-руководство по моделям угроз, границам данных, правам инструментов, регрессионным тестам, мониторингу и реагированию на инциденты.
ПродвинутыйЕще по этой теме
8 мин чтенияПервая неделя с Hermes Agent: гигиена памяти, навыки и подтверждение инструментов
Безопасная настройка Hermes Agent на первую неделю: установка и дымовой тест, упорядочивание MEMORY.md и USER.md, один навык, ограниченная запись файлов и отключённый либо изолированный доступ к оболочке.
Уверенный
7 мин чтенияВебхуки Hermes: событийные агенты без гигантского универсального промпта
Настройте вебхуки Hermes Agent с подходящей источнику аутентификацией, проверками работоспособности на порту 8644 и небольшими именованными маршрутами, чтобы события превращались в целевые запуски агента с явно заданной целью доставки.
Уверенный
8 мин чтенияИдемпотентность, повторные попытки и контроль человека для ИИ-узлов n8n
ИИ-узлы отказывают иначе, чем CRUD API. Спроектируйте повторные попытки n8n, ключи идемпотентности, контрольные точки с участием человека и журналирование так, чтобы нестабильный вызов модели не продублировал письмо и не обошёл проверку.
Уверенный
8 мин чтенияВызов vLLM и других OpenAI-совместимых эндпоинтов из n8n
Вызывайте локальную OpenAI-совместимую конечную точку /v1/chat/completions из узла HTTP Request в n8n с явной аутентификацией, бюджетами тайм-аутов, проверками базового URL и границей частной сети.
Уверенный
10 мин чтенияNemoClaw на DGX Spark: план развертывания и безопасности
Спланируйте и оцените работу OpenClaw, Hermes или Deep Agents Code внутри NVIDIA OpenShell на DGX Spark: текущая настройка, уровни политик, маршрутизация инференса и необходимые доказательства приемки.
Продвинутый
8 мин чтенияСписки разрешений OpenClaw, парное подключение и безопасность упоминаний в группах
Списки разрешённых каналов, привязка к личным сообщениям (DM) и правила упоминания в группах — это реальный рубеж безопасности OpenClaw, поскольку инструменты могут включать оболочку, файлы и браузер. Практический чек-лист для ограничения доступа.
Уверенный
9 мин чтенияНастройка личного шлюза OpenClaw: установка, онбординг, панель управления
Что такое OpenClaw, как установить и провести первичную настройку самодостаточного многоканального шлюза, открыть панель управления на порту 18789 и какие версии Node поддерживаются, не пропуская базовый уровень безопасности.
Уверенный
10 мин чтенияНавыки OpenClaw, автономность heartbeat и контрольные точки подтверждения
Как OpenClaw загружает навыки, как работают периодические циклы heartbeat, как ограничить выполнение команд в оболочке хоста и как удержать автоматизацию браузера за строгой политикой и подтверждением проверенного рабочего процесса.
Уверенный
6 мин чтенияНе вставляйте банковские выписки в ИИ
Номера счетов, балансы, контрагенты и зарплатные строки — под запретом вставки в потребительский ИИ. Как получать от модели помощь в грамотности, используя введённые вручную обезличенные поля — без загрузки полных выписок, скриншотов или экспортов в PDF.
Новичок в ИИ
6 мин чтенияДомашние фото и планы этажей: конфиденциальность перед загрузкой
Загрузка интерьеров и планов этажей в потребительский ИИ может раскрыть планировку, ценные вещи, детские комнаты и сигналы, связанные с безопасностью. Чеклист с приоритетом конфиденциальности: что обезличить, что держать офлайн и как всё же получить помощь в планировании, не выставляя свой дом напоказ.
Новичок в ИИ
5 мин чтенияПравила ИИ для фрилансера: работа с клиентами
Прежде чем клиентский бриф, черновик или данные окажутся рядом с потребительским ИИ-инструментом, напишите одностраничную личную карточку политики: что вы никогда не вставляете, что требует согласия клиента, какие цены и объём работ вы по-прежнему определяете сами и когда передаёте вопрос живому специалисту. Фрилансер не наследует политику ИИ работодателя — нужна своя.
Новичок в ИИ
7 мин чтенияПередача ухода, сохраняющая достоинство и контекст
Когда уход переходит от одного члена семьи к другому, от смены к смене или к новому оплачиваемому помощнику, обычно передаются список задач и поспешное устное резюме. Шаблон передачи переносит дальше и собственные предпочтения человека, за которым ухаживают, — не позволяя ИИ превратить их в поведенческие ярлыки.
Начинающий
8 мин чтенияАдминистрирование хронического заболевания: календарь ухода, а не план лечения
Доска операций по уходу может координировать приёмы, запросы на продление рецептов, заполнение форм, организацию транспорта и последующие наблюдения, сохраняя инструкции команды врачей и направляя каждый клинический вопрос квалифицированному специалисту.
Уверенный
7 мин чтенияПолучите согласие, прежде чем редактировать чужое фото с помощью ИИ или делиться им
Загрузить фото друга в ИИ-инструмент, чтобы убрать фон, заменить улыбку или превратить снимок в иллюстрацию, кажется небольшой личной правкой. Для человека на фото это может быть гораздо более важное решение, которое ему так и не дали принять.
Начинающий
6 мин чтенияКак найти дрейф подписок, не раскрывая историю банковских операций
Проверьте локально обезличенный экспорт транзакций на повторяющиеся списания и дрейф — не подключая ИИ-инструмент к банковскому счёту. Список мерчантов с флагом уверенности и чек-лист отмены, который действительно выполняет человек.
Начинающий
7 мин чтенияРазобрать медицинский документ, не превращая это в медицинский совет
Эпикриз или отчёт об анализах приходит полным клинических сокращений, читать которые вас никогда не учили. Метод четырёх колонок — точный текст, простой пересказ, неопределённость, вопрос врачу — позволяет использовать ИИ для перевода этого языка, так и не спрашивая у него, что означают ваши результаты.
Начинающий
7 мин чтенияКоординация ухода за пожилым родителем без потери его голоса
Когда братья и сёстры начинают координировать уход за родителем, информация расползается по групповым чатам, а о самом человеке, о котором речь, говорят вместо него. Документ, построенный на согласии, — чем делиться, с кем, и жёсткая граница между экстренной и административной информацией — делает координацию практичной и сохраняет голос родителя в решениях.
Начинающий
7 мин чтенияБезопасен ли этот ИИ‑продукт для данных вашего ребёнка? Чек‑лист приватности
Семь пунктов — возрастные правила, сбор, хранение, использование для обучения, передача, контроль и удаление — чтобы решить, разрешить ли ребёнку ИИ‑продукт, разрешить с ограничениями или не использовать вовсе.
Начинающий
7 мин чтенияКак архивировать семейные фото и истории, не выдумывая прошлое
Рабочий процесс, учитывающий согласие и происхождение данных, для составления транскрипций и подписей к семейному архиву, сохраняя выводы модели отдельно от подтверждённой истории и исключая данные детей из непроверенных инструментов.
Уверенный
9 мин чтенияЛичная система знаний, которая помогает находить, а не копить
Ограниченная система от захвата до поиска с явными случаями использования, тестами находимости, датами обзора, правилами удаления и предупреждениями о чувствительных заметках, данных других людей и аккаунтах, хранящихся провайдером.
Уверенный
7 мин чтенияЧто не делегировать ИИ: проведите свою личную границу
Используйте практический тест границ, чтобы оставить подотчётность, отношения и важные навыки в руках людей, получая при этом полезную помощь ИИ.
Начинающий
7 мин чтенияМошенничество с клонированием голоса: меры контроля, которые действительно работают в МСП
Три процедурные меры контроля, которые защищают платежи МСП и изменения чувствительных данных, когда звонящий или участник видеовстречи может убедительно изобразить директора, коллегу или поставщика.
Уверенный
7 мин чтенияДоказать, что реально: происхождение, водяные знаки и Content Credentials
Что Content Credentials C2PA и водяные знаки реально могут доказать, что исчезает после скриншотов и повторной загрузки и как МСП выстроить честную политику происхождения медиа.
Уверенный
6 мин чтенияЗнакомый голос по телефону: как распознавать мошенничество с ИИ
Спокойное практическое руководство по экстренным звонкам с клонированным голосом, сообщениям от чужого имени, поддельным медиа и мошенническим схемам, отшлифованным ИИ, — с семейным планом проверки, который работает, даже когда подделка выглядит или звучит убедительно.
Новичок в ИИ
20 минПрава и контроль доступа в RAG — подробный учебник
Paragon. Разбирает проблему разрешений в RAG на продакшене и сравнивает вызовы инструментов, пространства имён, ACL-таблицы и разрешения на основе отношений. Это напрямую поддерживает главное правило статьи: поиск должен возвращать только источники, доступные текущему пользователю.
Продвинутый
30 минEU AI Act: как превратить комплаенс в конкурентное преимущество | Carme Artigas
MSP GLOBAL. Карме Артигас руководила переговорами в Совете ЕС, в результате которых появился EU AI Act, и здесь объясняет его поставщикам управляемых услуг, через которых многие МСП приобретают ИИ-системы. Она описывает график, принятый на тот момент, от кодекса практики GPAI августа 2025 года до этапа оценки соответствия в августе 2026 года и говорит о документации поставщиков. Позднее [AI Omnibus, Regulation (EU) 2026/1744](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ%3AL_202601744) перенёс соответствующие требования главы III к системам высокого риска на 2 декабря 2027 года для систем из Приложения III и на 2 августа 2028 года для систем, охватываемых Приложением I. Работа с инвентаризацией, доказательствами поставщиков и владельцами остаётся полезной, но даты в видео исторические.
Продвинутый
69 минЛандшафт агентов — уроки внедрения агентов в рабочую среду
MLOps.community. Вице-президент по ИИ в Prosus и ИИ-инженер рассказывают, что реально ломалось при внедрении агентов в портфельных компаниях группы: пентесты на промпт-инъекции перед запуском, опасная запись, когда Jira-агент споткнулся о человеческие сокращения, устаревший контекст, против которого агентов научили показывать свои допущения, и проектирование запасных сценариев, где агентов объединяли или отключали, как только они добавляли когнитивную нагрузку. Это реестр отказов из статьи, проигранный как живой постмортем.
Продвинутый
7 минУлучшите RAG и ИИ-агентов с Docling
IBM Technology. Объясняет сторону загрузки данных в RAG и агентах: как подготовить PDF и другие файлы, чтобы структура документа, таблицы и макет сохранились для поиска. Это поддерживает предупреждение статьи: качество и безопасность RAG начинаются до эмбеддингов, особенно для сложных бизнес-документов.
Продвинутый
9 мин чтенияКонтроль человеком в ИИ-процессах: практические схемы
Проверка человеком — не расплывчатое успокоение. Практическое руководство: что человек должен утверждать, выборочно проверять, аудировать, эскалировать, а что вообще нельзя делегировать ИИ.
Уверенный
11 мин чтенияБезопасная загрузка и обработка документов для RAG: PDF, OCR, метаданные и хранение
Качество RAG определяется ещё до поиска. Руководство по безопасной загрузке PDF, OCR, метаданным, правам доступа, актуальности источников, удалению, защите от вредоносных файлов и эксплуатационной ответственности.
Продвинутый
9 мин чтенияROI и зрелость ИИ: как измерять внедрение, которое действительно работает
Внедрение ИИ нельзя измерять тем, сколько людей попробовали ChatGPT. Практический подход к измерению ROI рабочего процесса, качества, риска, зрелости и готовности к масштабированию.
Продвинутый
10 мин чтенияКорпоративный RAG по базе знаний: права доступа, утечки и границы источников
Корпоративный ассистент по базе знаний безопасен только тогда, когда извлечение соблюдает права доступа. Как проектировать границы источников в RAG, фильтрацию по ACL, ответственных за документы, логирование, обработку устаревших источников и поведение при отказе.
Продвинутый
10 мин чтенияСбои ИИ-систем в эксплуатации: что ломается после демонстрации
ИИ-системы обычно ломаются предсказуемо: галлюцинации, устаревший контекст, подхалимство, инъекция в промпт, небезопасное использование инструментов, дрейф схемы и слабые запасные сценарии. Реестр режимов сбоя в продакшне для команд, которые запускают реальные рабочие процессы.
Продвинутый
9 мин чтенияРегламент ЕС об ИИ для малого и среднего бизнеса: практический план управления
Регламент ЕС об искусственном интеллекте касается не только крупных поставщиков. Практический план для МСП: инвентаризация, классификация рисков, надзор человека, прозрачность, сведения о поставщиках и дисциплина внедрения.
Продвинутый
10 мин чтенияВарианты развёртывания конфиденциального ИИ: локально, в VPC, на своих серверах и гибридно
Конфиденциальный ИИ — это не одна архитектура. Практическое сравнение локальных моделей, корпоративного SaaS, развёртывания в VPC, инференса на своей инфраструктуре и гибридных вариантов для малого и среднего бизнеса.
Продвинутый
10 мин чтенияБезопасное подключение ИИ к почте, календарю и CRM
Руководство по подключению ИИ к электронной почте, календарю и CRM на основе оценки рисков с применением минимальной области доступа, контрольных точек согласования, защищенных аудиторских доказательств, негативных тестов и путей восстановления.
Уверенный
10 мин чтенияЛокальный ИИ на вашем Mac: Ollama, LM Studio и что реально умеют 7B-модели
Локальный ИИ повзрослел. С Ollama или LM Studio и современным Mac можно запускать способные модели офлайн, бесплатно и приватно. Что работает, что нет и в каких сценариях это действительно даёт выигрыш.
Уверенный
6 мин чтенияКак делиться изображениями с ИИ: что можно (и чего не стоит) загружать
Современный ИИ читает фото, графики, скриншоты и рукописный текст почти так же легко, как текст. Практический гид: что работает, что нет, и тридцатисекундный чек-лист по приватности перед загрузкой.
Новичок в ИИ
25 минТоп-10 атак на LLM по версии OWASP: разбор уязвимостей ИИ
IBM Technology. Видео расширяет тему инъекций до OWASP Top 10 для LLM: небезопасной обработки результатов, раскрытия чувствительных данных и избыточной автономности. Эти риски нужно оценить до выдачи агенту доступа к Gmail или HubSpot.
Уверенный
11 минЧто такое атака с инъекцией в промпт?
IBM Technology. Пример Джеффа Крума с фразой «купи внедорожник за один доллар» кратко показывает разницу между прямой и косвенной инъекцией в промпт и объясняет, почему одной фильтрации недостаточно. Это подтверждает тезис статьи: нужны минимальные права доступа, отдельный аккаунт агента и подтверждение человеком для необратимых действий, а не только более сложный системный промпт.
Уверенный
93 минSam Altman | This Past Weekend w/ Theo Von #599
Theo Von. Секция примерно на двенадцатой минуте, где Альтман признаёт, что у разговоров с ChatGPT нет юридической защиты и OpenAI могут обязать выдать их по судебному запросу, — это самый цитируемый фрагмент по этой теме, и стоит услышать его собственным голосом, а не через новостной клип. Остальная беседа охватывает многое, но именно этот обмен — честный ответ на вопрос, который задаёт статья: «что компания на самом деле делает с тем, что я пишу?»
Новичок в ИИ
13 минКак обезопасить бизнес-модели на основе ИИ
IBM Technology. Объяснение Джеффа Крума на световой доске о трёх местах, где генеративный ИИ вносит риск, — данные, модель и использование — и о том, какие меры контроля правильны для каждого. Полезно для тезиса статьи: «будь осторожнее» — это не ответ; нужно понимать, какому именно типу риска вы как сотрудник реально подвергаетесь.
Начинающий
11 минЧто такое теневой ИИ? Тёмная лошадка киберугроз
IBM Technology. Это видео ниже нашей обычной планки в 100K просмотров, но заслуживает места: это лучшее короткое объяснение того, почему сотрудник, использующий личный аккаунт ChatGPT для рабочих задач, — это и есть тот самый реальный риск, с которым сталкивается большинство компаний. Подход Крума «не говорите “нет”, скажите “как”» — ровно та же позиция, что и в статье: вы не пытаетесь запретить ИИ, вы пытаетесь сделать безопасное использование настройкой по умолчанию.
Начинающий
13 минАтака на LLM — инъекция в промпт
LiveOverflow. Материал рассматривает инъекцию в промпт как классическую атаку на систему, смешивающую инструкции и недоверенные данные. На примере модерации показано, как злоумышленник может подставить невиновного пользователя. Главное изменение перспективы совпадает со статьёй: целью атаки является не отдельная модель, а приложение в целом.
Продвинутый
17 минЗащита LLM от инъекций в промпт
LiveOverflow. Разбирает практическую схему эшелонированной защиты: анализ распространения недоверенных данных в выводе LLM, ограничение ожидаемого формата, изоляцию пользователей, примеры в промпте (few-shot), дообучение, температуру 0 для воспроизводимости и резервирование критических путей. Почти полностью соответствует разделу статьи о комплексе мер защиты.
Продвинутый