Тема

Безопасность ИИ и конфиденциальность данных

Конфиденциальность, гигиена данных, инциденты безопасности, управление и безопасное подключение ИИ.

44 материала (33 статьи · 11 видео)

Начните здесь

Несколько хороших первых материалов перед полной лентой.

7 мин чтения
Статья

Конфиденциальность в ChatGPT: что сервис запоминает, видит и передаёт

Разделяйте обучение, память, хранение и передачу данных третьим лицам. Проверьте настройки своего аккаунта, но не считайте Temporary Chat или платный тариф разрешением делиться чувствительными данными.

Новичок в ИИ
4 мин чтения
Статья

Конфиденциальность и гигиена данных при использовании ИИ на работе

Практическое руководство по снижению рисков для конфиденциальности: до передачи данных проверяйте конкретный продукт, тариф, настройки, сами данные и применимые правила.

Начинающий
14 мин чтения
Статья

Prompt injection и безопасность LLM: модели угроз и многоуровневая защита

Prompt injection — постоянный класс рисков безопасности LLM, а не ошибка написания промпта. Продакшен-руководство по моделям угроз, границам данных, правам инструментов, регрессионным тестам, мониторингу и реагированию на инциденты.

Продвинутый

Еще по этой теме

8 мин чтения
Статья

Первая неделя с Hermes Agent: гигиена памяти, навыки и подтверждение инструментов

Безопасная настройка Hermes Agent на первую неделю: установка и дымовой тест, упорядочивание MEMORY.md и USER.md, один навык, ограниченная запись файлов и отключённый либо изолированный доступ к оболочке.

Уверенный
7 мин чтения
Статья

Вебхуки Hermes: событийные агенты без гигантского универсального промпта

Настройте вебхуки Hermes Agent с подходящей источнику аутентификацией, проверками работоспособности на порту 8644 и небольшими именованными маршрутами, чтобы события превращались в целевые запуски агента с явно заданной целью доставки.

Уверенный
8 мин чтения
Статья

Идемпотентность, повторные попытки и контроль человека для ИИ-узлов n8n

ИИ-узлы отказывают иначе, чем CRUD API. Спроектируйте повторные попытки n8n, ключи идемпотентности, контрольные точки с участием человека и журналирование так, чтобы нестабильный вызов модели не продублировал письмо и не обошёл проверку.

Уверенный
8 мин чтения
Статья

Вызов vLLM и других OpenAI-совместимых эндпоинтов из n8n

Вызывайте локальную OpenAI-совместимую конечную точку /v1/chat/completions из узла HTTP Request в n8n с явной аутентификацией, бюджетами тайм-аутов, проверками базового URL и границей частной сети.

Уверенный
10 мин чтения
Статья

NemoClaw на DGX Spark: план развертывания и безопасности

Спланируйте и оцените работу OpenClaw, Hermes или Deep Agents Code внутри NVIDIA OpenShell на DGX Spark: текущая настройка, уровни политик, маршрутизация инференса и необходимые доказательства приемки.

Продвинутый
8 мин чтения
Статья

Списки разрешений OpenClaw, парное подключение и безопасность упоминаний в группах

Списки разрешённых каналов, привязка к личным сообщениям (DM) и правила упоминания в группах — это реальный рубеж безопасности OpenClaw, поскольку инструменты могут включать оболочку, файлы и браузер. Практический чек-лист для ограничения доступа.

Уверенный
9 мин чтения
Статья

Настройка личного шлюза OpenClaw: установка, онбординг, панель управления

Что такое OpenClaw, как установить и провести первичную настройку самодостаточного многоканального шлюза, открыть панель управления на порту 18789 и какие версии Node поддерживаются, не пропуская базовый уровень безопасности.

Уверенный
10 мин чтения
Статья

Навыки OpenClaw, автономность heartbeat и контрольные точки подтверждения

Как OpenClaw загружает навыки, как работают периодические циклы heartbeat, как ограничить выполнение команд в оболочке хоста и как удержать автоматизацию браузера за строгой политикой и подтверждением проверенного рабочего процесса.

Уверенный
5 мин чтения
Статья

Правила ИИ для фрилансера: работа с клиентами

Прежде чем клиентский бриф, черновик или данные окажутся рядом с потребительским ИИ-инструментом, напишите одностраничную личную карточку политики: что вы никогда не вставляете, что требует согласия клиента, какие цены и объём работ вы по-прежнему определяете сами и когда передаёте вопрос живому специалисту. Фрилансер не наследует политику ИИ работодателя — нужна своя.

Новичок в ИИ
7 мин чтения
Статья

Передача информации об уходе с уважением к человеку

Когда заботу о человеке принимает другой член семьи, новая смена или помощник по уходу, обычно передают список задач и краткий устный отчёт. Шаблон помогает сохранить и предпочтения самого человека, не превращая их с помощью ИИ в поведенческие ярлыки.

Начинающий
8 мин чтения
Статья

Chronic-condition administration: build a care calendar, not a treatment plan

Coordinate appointments, refill requests, forms, transport, and follow-ups on a private board. Keep care-team records and consent notes out of general-purpose chatbots, and send clinical questions to the care team.

Уверенный
7 мин чтения
Статья

Получите согласие, прежде чем редактировать чужое фото с помощью ИИ или делиться им

Загрузить фото друга в ИИ-инструмент, чтобы убрать фон, заменить улыбку или превратить снимок в иллюстрацию, кажется небольшой личной правкой. Для человека на фото это может быть гораздо более важное решение, которое ему так и не дали принять.

Начинающий
5 мин чтения
Статья

Finding subscription drift without exposing your bank history

Review transaction history privately for recurring charges and drift, without connecting an AI tool to your bank account or sharing the transaction lines. Leave with a checked candidate list and a cancellation checklist you execute yourself.

Начинающий
5 мин чтения
Статья

Understand a medical document without turning it into medical advice

Use the original document, official glossaries and a four-column worksheet to prepare questions. Keep identifiable records out of public AI tools and interpretation with the care team.

Начинающий
5 мин чтения
Статья

Coordinating an ageing parent's care without losing their voice

Coordinate an ageing parent's care with their voice and permission at the centre. Keep the real consent and care record private; use AI only for generic questions, never to process their health or sharing decisions.

Начинающий
6 мин чтения
Статья

Is this AI product safe for my child's data? A privacy checklist

A seven-point screen for age rules, collection, retention, training, sharing, controls and deletion that records unresolved child-data risks without pretending to certify a product as safe or lawful.

Начинающий
7 мин чтения
Статья

Как архивировать семейные фото и истории, не выдумывая прошлое

Рабочий процесс, учитывающий согласие и происхождение данных, для составления транскрипций и подписей к семейному архиву, сохраняя выводы модели отдельно от подтверждённой истории и исключая данные детей из непроверенных инструментов.

Уверенный
9 мин чтения
Статья

Личная система знаний, которая помогает находить, а не копить

Ограниченная система от захвата до поиска с явными случаями использования, тестами находимости, датами обзора, правилами удаления и предупреждениями о чувствительных заметках, данных других людей и аккаунтах, хранящихся провайдером.

Уверенный
4 мин чтения
Статья

Что не делегировать ИИ: определите личную границу

Выберите режим для каждого этапа одного рабочего процесса, определив полномочия, доказательства, проверку и способ остановки.

Начинающий
7 мин чтения
Статья

Мошенничество с клонированием голоса: меры контроля, которые действительно работают в МСП

Три процедурные меры контроля, которые защищают платежи МСП и изменения чувствительных данных, когда звонящий или участник видеовстречи может убедительно изобразить директора, коллегу или поставщика.

Уверенный
7 мин чтения
Статья

Доказать, что реально: происхождение, водяные знаки и Content Credentials

Что Content Credentials C2PA и водяные знаки реально могут доказать, что исчезает после скриншотов и повторной загрузки и как МСП выстроить честную политику происхождения медиа.

Уверенный
6 мин чтения
Статья

Знакомый голос по телефону: как распознавать мошенничество с ИИ

Спокойное практическое руководство по экстренным звонкам с клонированным голосом, сообщениям от чужого имени, поддельным медиа и мошенническим схемам, отшлифованным ИИ, — с семейным планом проверки, который работает, даже когда подделка выглядит или звучит убедительно.

Новичок в ИИ
20 мин
Видео

Права и контроль доступа в RAG — подробный учебник

Paragon. Разбирает проблему разрешений в RAG на продакшене и сравнивает вызовы инструментов, пространства имён, ACL-таблицы и разрешения на основе отношений. Это напрямую поддерживает главное правило статьи: поиск должен возвращать только источники, доступные текущему пользователю.

Продвинутый
30 мин
Видео

EU AI Act: как превратить комплаенс в конкурентное преимущество | Carme Artigas

MSP GLOBAL. Карме Артигас руководила переговорами в Совете ЕС, в результате которых появился EU AI Act, и здесь объясняет его поставщикам управляемых услуг, через которых многие МСП приобретают ИИ-системы. Она описывает график, принятый на тот момент, от кодекса практики GPAI августа 2025 года до этапа оценки соответствия в августе 2026 года и говорит о документации поставщиков. Позднее [AI Omnibus, Regulation (EU) 2026/1744](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ%3AL_202601744) перенёс соответствующие требования главы III к системам высокого риска на 2 декабря 2027 года для систем из Приложения III и на 2 августа 2028 года для систем, охватываемых Приложением I. Работа с инвентаризацией, доказательствами поставщиков и владельцами остаётся полезной, но даты в видео исторические.

Продвинутый
69 мин
Видео

Ландшафт агентов — уроки внедрения агентов в рабочую среду

MLOps.community. Вице-президент по ИИ в Prosus и ИИ-инженер рассказывают, что реально ломалось при внедрении агентов в портфельных компаниях группы: пентесты на промпт-инъекции перед запуском, опасная запись, когда Jira-агент споткнулся о человеческие сокращения, устаревший контекст, против которого агентов научили показывать свои допущения, и проектирование запасных сценариев, где агентов объединяли или отключали, как только они добавляли когнитивную нагрузку. Это реестр отказов из статьи, проигранный как живой постмортем.

Продвинутый
7 мин
Видео

Улучшите RAG и ИИ-агентов с Docling

IBM Technology. Объясняет сторону загрузки данных в RAG и агентах: как подготовить PDF и другие файлы, чтобы структура документа, таблицы и макет сохранились для поиска. Это поддерживает предупреждение статьи: качество и безопасность RAG начинаются до эмбеддингов, особенно для сложных бизнес-документов.

Продвинутый
9 мин чтения
Статья

Контроль человеком в ИИ-процессах: практические схемы

Проверка человеком — не расплывчатое успокоение. Практическое руководство: что человек должен утверждать, выборочно проверять, аудировать, эскалировать, а что вообще нельзя делегировать ИИ.

Уверенный
11 мин чтения
Статья

Безопасная загрузка и обработка документов для RAG: PDF, OCR, метаданные и хранение

Качество RAG определяется ещё до поиска. Руководство по безопасной загрузке PDF, OCR, метаданным, правам доступа, актуальности источников, удалению, защите от вредоносных файлов и эксплуатационной ответственности.

Продвинутый
9 мин чтения
Статья

ROI и зрелость ИИ: как измерять внедрение, которое действительно работает

Внедрение ИИ нельзя измерять тем, сколько людей попробовали ChatGPT. Практический подход к измерению ROI рабочего процесса, качества, риска, зрелости и готовности к масштабированию.

Продвинутый
10 мин чтения
Статья

Корпоративный RAG по базе знаний: права доступа, утечки и границы источников

Корпоративный ассистент по базе знаний безопасен только тогда, когда извлечение соблюдает права доступа. Как проектировать границы источников в RAG, фильтрацию по ACL, ответственных за документы, логирование, обработку устаревших источников и поведение при отказе.

Продвинутый
10 мин чтения
Статья

Сбои ИИ-систем в эксплуатации: что ломается после демонстрации

ИИ-системы обычно ломаются предсказуемо: галлюцинации, устаревший контекст, подхалимство, инъекция в промпт, небезопасное использование инструментов, дрейф схемы и слабые запасные сценарии. Реестр режимов сбоя в продакшне для команд, которые запускают реальные рабочие процессы.

Продвинутый
9 мин чтения
Статья

EU AI Act for SMEs: a practical governance plan

The EU AI Act is not just a legal problem for large vendors. A practical SME plan for inventory, risk classification, human oversight, transparency, vendor records, and rollout discipline.

Продвинутый
10 мин чтения
Статья

Варианты развёртывания конфиденциального ИИ: локально, в VPC, на своих серверах и гибридно

Конфиденциальный ИИ — это не одна архитектура. Практическое сравнение локальных моделей, корпоративного SaaS, развёртывания в VPC, инференса на своей инфраструктуре и гибридных вариантов для малого и среднего бизнеса.

Продвинутый
10 мин чтения
Статья

Безопасное подключение ИИ к почте, календарю и CRM

Руководство по подключению ИИ к электронной почте, календарю и CRM на основе оценки рисков с применением минимальной области доступа, контрольных точек согласования, защищенных аудиторских доказательств, негативных тестов и путей восстановления.

Уверенный
25 мин
Видео

Топ-10 атак на LLM по версии OWASP: разбор уязвимостей ИИ

IBM Technology. Видео расширяет тему инъекций до OWASP Top 10 для LLM: небезопасной обработки результатов, раскрытия чувствительных данных и избыточной автономности. Эти риски нужно оценить до выдачи агенту доступа к Gmail или HubSpot.

Уверенный
11 мин
Видео

Что такое атака с инъекцией в промпт?

IBM Technology. Пример Джеффа Крума с фразой «купи внедорожник за один доллар» кратко показывает разницу между прямой и косвенной инъекцией в промпт и объясняет, почему одной фильтрации недостаточно. Это подтверждает тезис статьи: нужны минимальные права доступа, отдельный аккаунт агента и подтверждение человеком для необратимых действий, а не только более сложный системный промпт.

Уверенный
93 мин
Видео

Sam Altman | This Past Weekend w/ Theo Von #599

Theo Von. Секция примерно на двенадцатой минуте, где Альтман признаёт, что у разговоров с ChatGPT нет юридической защиты и OpenAI могут обязать выдать их по судебному запросу, — это самый цитируемый фрагмент по этой теме, и стоит услышать его собственным голосом, а не через новостной клип. Остальная беседа охватывает многое, но именно этот обмен — честный ответ на вопрос, который задаёт статья: «что компания на самом деле делает с тем, что я пишу?»

Новичок в ИИ
13 мин
Видео

Как обезопасить бизнес-модели на основе ИИ

IBM Technology. Описание издателя IBM представляет объяснение Джеффа Крума о рисках конфиденциальности, точности и безопасности генеративного ИИ и подходе к ним. Используйте фон для вопросов о разрешённом пути данных из статьи.

Начинающий
11 мин
Видео

Что такое теневой ИИ? Тёмная лошадка киберугроз

IBM Technology. Описание IBM охватывает теневой ИИ, вывод данных, контроль доступа и отравление модели. Сопоставьте с разрешениями и сообщением об инцидентах в статье; не делайте по ролику выводов о самом частом риске вашей организации.

Начинающий
13 мин
Видео

Атака на LLM — инъекция в промпт

LiveOverflow. Материал рассматривает инъекцию в промпт как классическую атаку на систему, смешивающую инструкции и недоверенные данные. На примере модерации показано, как злоумышленник может подставить невиновного пользователя. Главное изменение перспективы совпадает со статьёй: целью атаки является не отдельная модель, а приложение в целом.

Продвинутый
17 мин
Видео

Защита LLM от инъекций в промпт

LiveOverflow. Разбирает практическую схему эшелонированной защиты: анализ распространения недоверенных данных в выводе LLM, ограничение ожидаемого формата, изоляцию пользователей, примеры в промпте (few-shot), дообучение, температуру 0 для воспроизводимости и резервирование критических путей. Почти полностью соответствует разделу статьи о комплексе мер защиты.

Продвинутый