Безопасность ИИ и конфиденциальность данных
Конфиденциальность, гигиена данных, инциденты безопасности, управление и безопасное подключение ИИ.
44 материала (33 статьи · 11 видео)
Начните здесь
Несколько хороших первых материалов перед полной лентой.
7 мин чтенияКонфиденциальность в ChatGPT: что сервис запоминает, видит и передаёт
Разделяйте обучение, память, хранение и передачу данных третьим лицам. Проверьте настройки своего аккаунта, но не считайте Temporary Chat или платный тариф разрешением делиться чувствительными данными.
Новичок в ИИ
4 мин чтенияКонфиденциальность и гигиена данных при использовании ИИ на работе
Практическое руководство по снижению рисков для конфиденциальности: до передачи данных проверяйте конкретный продукт, тариф, настройки, сами данные и применимые правила.
Начинающий
14 мин чтенияPrompt injection и безопасность LLM: модели угроз и многоуровневая защита
Prompt injection — постоянный класс рисков безопасности LLM, а не ошибка написания промпта. Продакшен-руководство по моделям угроз, границам данных, правам инструментов, регрессионным тестам, мониторингу и реагированию на инциденты.
ПродвинутыйЕще по этой теме
8 мин чтенияПервая неделя с Hermes Agent: гигиена памяти, навыки и подтверждение инструментов
Безопасная настройка Hermes Agent на первую неделю: установка и дымовой тест, упорядочивание MEMORY.md и USER.md, один навык, ограниченная запись файлов и отключённый либо изолированный доступ к оболочке.
Уверенный
7 мин чтенияВебхуки Hermes: событийные агенты без гигантского универсального промпта
Настройте вебхуки Hermes Agent с подходящей источнику аутентификацией, проверками работоспособности на порту 8644 и небольшими именованными маршрутами, чтобы события превращались в целевые запуски агента с явно заданной целью доставки.
Уверенный
8 мин чтенияИдемпотентность, повторные попытки и контроль человека для ИИ-узлов n8n
ИИ-узлы отказывают иначе, чем CRUD API. Спроектируйте повторные попытки n8n, ключи идемпотентности, контрольные точки с участием человека и журналирование так, чтобы нестабильный вызов модели не продублировал письмо и не обошёл проверку.
Уверенный
8 мин чтенияВызов vLLM и других OpenAI-совместимых эндпоинтов из n8n
Вызывайте локальную OpenAI-совместимую конечную точку /v1/chat/completions из узла HTTP Request в n8n с явной аутентификацией, бюджетами тайм-аутов, проверками базового URL и границей частной сети.
Уверенный
10 мин чтенияNemoClaw на DGX Spark: план развертывания и безопасности
Спланируйте и оцените работу OpenClaw, Hermes или Deep Agents Code внутри NVIDIA OpenShell на DGX Spark: текущая настройка, уровни политик, маршрутизация инференса и необходимые доказательства приемки.
Продвинутый
8 мин чтенияСписки разрешений OpenClaw, парное подключение и безопасность упоминаний в группах
Списки разрешённых каналов, привязка к личным сообщениям (DM) и правила упоминания в группах — это реальный рубеж безопасности OpenClaw, поскольку инструменты могут включать оболочку, файлы и браузер. Практический чек-лист для ограничения доступа.
Уверенный
9 мин чтенияНастройка личного шлюза OpenClaw: установка, онбординг, панель управления
Что такое OpenClaw, как установить и провести первичную настройку самодостаточного многоканального шлюза, открыть панель управления на порту 18789 и какие версии Node поддерживаются, не пропуская базовый уровень безопасности.
Уверенный
10 мин чтенияНавыки OpenClaw, автономность heartbeat и контрольные точки подтверждения
Как OpenClaw загружает навыки, как работают периодические циклы heartbeat, как ограничить выполнение команд в оболочке хоста и как удержать автоматизацию браузера за строгой политикой и подтверждением проверенного рабочего процесса.
Уверенный
5 мин чтенияПравила ИИ для фрилансера: работа с клиентами
Прежде чем клиентский бриф, черновик или данные окажутся рядом с потребительским ИИ-инструментом, напишите одностраничную личную карточку политики: что вы никогда не вставляете, что требует согласия клиента, какие цены и объём работ вы по-прежнему определяете сами и когда передаёте вопрос живому специалисту. Фрилансер не наследует политику ИИ работодателя — нужна своя.
Новичок в ИИ
7 мин чтенияПередача информации об уходе с уважением к человеку
Когда заботу о человеке принимает другой член семьи, новая смена или помощник по уходу, обычно передают список задач и краткий устный отчёт. Шаблон помогает сохранить и предпочтения самого человека, не превращая их с помощью ИИ в поведенческие ярлыки.
Начинающий
8 мин чтенияChronic-condition administration: build a care calendar, not a treatment plan
Coordinate appointments, refill requests, forms, transport, and follow-ups on a private board. Keep care-team records and consent notes out of general-purpose chatbots, and send clinical questions to the care team.
Уверенный
7 мин чтенияПолучите согласие, прежде чем редактировать чужое фото с помощью ИИ или делиться им
Загрузить фото друга в ИИ-инструмент, чтобы убрать фон, заменить улыбку или превратить снимок в иллюстрацию, кажется небольшой личной правкой. Для человека на фото это может быть гораздо более важное решение, которое ему так и не дали принять.
Начинающий
5 мин чтенияFinding subscription drift without exposing your bank history
Review transaction history privately for recurring charges and drift, without connecting an AI tool to your bank account or sharing the transaction lines. Leave with a checked candidate list and a cancellation checklist you execute yourself.
Начинающий
5 мин чтенияUnderstand a medical document without turning it into medical advice
Use the original document, official glossaries and a four-column worksheet to prepare questions. Keep identifiable records out of public AI tools and interpretation with the care team.
Начинающий
5 мин чтенияCoordinating an ageing parent's care without losing their voice
Coordinate an ageing parent's care with their voice and permission at the centre. Keep the real consent and care record private; use AI only for generic questions, never to process their health or sharing decisions.
Начинающий
6 мин чтенияIs this AI product safe for my child's data? A privacy checklist
A seven-point screen for age rules, collection, retention, training, sharing, controls and deletion that records unresolved child-data risks without pretending to certify a product as safe or lawful.
Начинающий
7 мин чтенияКак архивировать семейные фото и истории, не выдумывая прошлое
Рабочий процесс, учитывающий согласие и происхождение данных, для составления транскрипций и подписей к семейному архиву, сохраняя выводы модели отдельно от подтверждённой истории и исключая данные детей из непроверенных инструментов.
Уверенный
9 мин чтенияЛичная система знаний, которая помогает находить, а не копить
Ограниченная система от захвата до поиска с явными случаями использования, тестами находимости, датами обзора, правилами удаления и предупреждениями о чувствительных заметках, данных других людей и аккаунтах, хранящихся провайдером.
Уверенный
4 мин чтенияЧто не делегировать ИИ: определите личную границу
Выберите режим для каждого этапа одного рабочего процесса, определив полномочия, доказательства, проверку и способ остановки.
Начинающий
7 мин чтенияМошенничество с клонированием голоса: меры контроля, которые действительно работают в МСП
Три процедурные меры контроля, которые защищают платежи МСП и изменения чувствительных данных, когда звонящий или участник видеовстречи может убедительно изобразить директора, коллегу или поставщика.
Уверенный
7 мин чтенияДоказать, что реально: происхождение, водяные знаки и Content Credentials
Что Content Credentials C2PA и водяные знаки реально могут доказать, что исчезает после скриншотов и повторной загрузки и как МСП выстроить честную политику происхождения медиа.
Уверенный
6 мин чтенияЗнакомый голос по телефону: как распознавать мошенничество с ИИ
Спокойное практическое руководство по экстренным звонкам с клонированным голосом, сообщениям от чужого имени, поддельным медиа и мошенническим схемам, отшлифованным ИИ, — с семейным планом проверки, который работает, даже когда подделка выглядит или звучит убедительно.
Новичок в ИИ
20 минПрава и контроль доступа в RAG — подробный учебник
Paragon. Разбирает проблему разрешений в RAG на продакшене и сравнивает вызовы инструментов, пространства имён, ACL-таблицы и разрешения на основе отношений. Это напрямую поддерживает главное правило статьи: поиск должен возвращать только источники, доступные текущему пользователю.
Продвинутый
30 минEU AI Act: как превратить комплаенс в конкурентное преимущество | Carme Artigas
MSP GLOBAL. Карме Артигас руководила переговорами в Совете ЕС, в результате которых появился EU AI Act, и здесь объясняет его поставщикам управляемых услуг, через которых многие МСП приобретают ИИ-системы. Она описывает график, принятый на тот момент, от кодекса практики GPAI августа 2025 года до этапа оценки соответствия в августе 2026 года и говорит о документации поставщиков. Позднее [AI Omnibus, Regulation (EU) 2026/1744](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ%3AL_202601744) перенёс соответствующие требования главы III к системам высокого риска на 2 декабря 2027 года для систем из Приложения III и на 2 августа 2028 года для систем, охватываемых Приложением I. Работа с инвентаризацией, доказательствами поставщиков и владельцами остаётся полезной, но даты в видео исторические.
Продвинутый
69 минЛандшафт агентов — уроки внедрения агентов в рабочую среду
MLOps.community. Вице-президент по ИИ в Prosus и ИИ-инженер рассказывают, что реально ломалось при внедрении агентов в портфельных компаниях группы: пентесты на промпт-инъекции перед запуском, опасная запись, когда Jira-агент споткнулся о человеческие сокращения, устаревший контекст, против которого агентов научили показывать свои допущения, и проектирование запасных сценариев, где агентов объединяли или отключали, как только они добавляли когнитивную нагрузку. Это реестр отказов из статьи, проигранный как живой постмортем.
Продвинутый
7 минУлучшите RAG и ИИ-агентов с Docling
IBM Technology. Объясняет сторону загрузки данных в RAG и агентах: как подготовить PDF и другие файлы, чтобы структура документа, таблицы и макет сохранились для поиска. Это поддерживает предупреждение статьи: качество и безопасность RAG начинаются до эмбеддингов, особенно для сложных бизнес-документов.
Продвинутый
9 мин чтенияКонтроль человеком в ИИ-процессах: практические схемы
Проверка человеком — не расплывчатое успокоение. Практическое руководство: что человек должен утверждать, выборочно проверять, аудировать, эскалировать, а что вообще нельзя делегировать ИИ.
Уверенный
11 мин чтенияБезопасная загрузка и обработка документов для RAG: PDF, OCR, метаданные и хранение
Качество RAG определяется ещё до поиска. Руководство по безопасной загрузке PDF, OCR, метаданным, правам доступа, актуальности источников, удалению, защите от вредоносных файлов и эксплуатационной ответственности.
Продвинутый
9 мин чтенияROI и зрелость ИИ: как измерять внедрение, которое действительно работает
Внедрение ИИ нельзя измерять тем, сколько людей попробовали ChatGPT. Практический подход к измерению ROI рабочего процесса, качества, риска, зрелости и готовности к масштабированию.
Продвинутый
10 мин чтенияКорпоративный RAG по базе знаний: права доступа, утечки и границы источников
Корпоративный ассистент по базе знаний безопасен только тогда, когда извлечение соблюдает права доступа. Как проектировать границы источников в RAG, фильтрацию по ACL, ответственных за документы, логирование, обработку устаревших источников и поведение при отказе.
Продвинутый
10 мин чтенияСбои ИИ-систем в эксплуатации: что ломается после демонстрации
ИИ-системы обычно ломаются предсказуемо: галлюцинации, устаревший контекст, подхалимство, инъекция в промпт, небезопасное использование инструментов, дрейф схемы и слабые запасные сценарии. Реестр режимов сбоя в продакшне для команд, которые запускают реальные рабочие процессы.
Продвинутый
9 мин чтенияEU AI Act for SMEs: a practical governance plan
The EU AI Act is not just a legal problem for large vendors. A practical SME plan for inventory, risk classification, human oversight, transparency, vendor records, and rollout discipline.
Продвинутый
10 мин чтенияВарианты развёртывания конфиденциального ИИ: локально, в VPC, на своих серверах и гибридно
Конфиденциальный ИИ — это не одна архитектура. Практическое сравнение локальных моделей, корпоративного SaaS, развёртывания в VPC, инференса на своей инфраструктуре и гибридных вариантов для малого и среднего бизнеса.
Продвинутый
10 мин чтенияБезопасное подключение ИИ к почте, календарю и CRM
Руководство по подключению ИИ к электронной почте, календарю и CRM на основе оценки рисков с применением минимальной области доступа, контрольных точек согласования, защищенных аудиторских доказательств, негативных тестов и путей восстановления.
Уверенный
25 минТоп-10 атак на LLM по версии OWASP: разбор уязвимостей ИИ
IBM Technology. Видео расширяет тему инъекций до OWASP Top 10 для LLM: небезопасной обработки результатов, раскрытия чувствительных данных и избыточной автономности. Эти риски нужно оценить до выдачи агенту доступа к Gmail или HubSpot.
Уверенный
11 минЧто такое атака с инъекцией в промпт?
IBM Technology. Пример Джеффа Крума с фразой «купи внедорожник за один доллар» кратко показывает разницу между прямой и косвенной инъекцией в промпт и объясняет, почему одной фильтрации недостаточно. Это подтверждает тезис статьи: нужны минимальные права доступа, отдельный аккаунт агента и подтверждение человеком для необратимых действий, а не только более сложный системный промпт.
Уверенный
93 минSam Altman | This Past Weekend w/ Theo Von #599
Theo Von. Секция примерно на двенадцатой минуте, где Альтман признаёт, что у разговоров с ChatGPT нет юридической защиты и OpenAI могут обязать выдать их по судебному запросу, — это самый цитируемый фрагмент по этой теме, и стоит услышать его собственным голосом, а не через новостной клип. Остальная беседа охватывает многое, но именно этот обмен — честный ответ на вопрос, который задаёт статья: «что компания на самом деле делает с тем, что я пишу?»
Новичок в ИИ
13 минКак обезопасить бизнес-модели на основе ИИ
IBM Technology. Описание издателя IBM представляет объяснение Джеффа Крума о рисках конфиденциальности, точности и безопасности генеративного ИИ и подходе к ним. Используйте фон для вопросов о разрешённом пути данных из статьи.
Начинающий
11 минЧто такое теневой ИИ? Тёмная лошадка киберугроз
IBM Technology. Описание IBM охватывает теневой ИИ, вывод данных, контроль доступа и отравление модели. Сопоставьте с разрешениями и сообщением об инцидентах в статье; не делайте по ролику выводов о самом частом риске вашей организации.
Начинающий
13 минАтака на LLM — инъекция в промпт
LiveOverflow. Материал рассматривает инъекцию в промпт как классическую атаку на систему, смешивающую инструкции и недоверенные данные. На примере модерации показано, как злоумышленник может подставить невиновного пользователя. Главное изменение перспективы совпадает со статьёй: целью атаки является не отдельная модель, а приложение в целом.
Продвинутый
17 минЗащита LLM от инъекций в промпт
LiveOverflow. Разбирает практическую схему эшелонированной защиты: анализ распространения недоверенных данных в выводе LLM, ограничение ожидаемого формата, изоляцию пользователей, примеры в промпте (few-shot), дообучение, температуру 0 для воспроизводимости и резервирование критических путей. Почти полностью соответствует разделу статьи о комплексе мер защиты.
Продвинутый