AIの安全性とデータプライバシー
プライバシー、データ衛生、セキュリティ上の障害パターン、ガバナンス、安全なAI連携。
44件のコンテンツ (記事33件 · 動画11件)
ここから開始
一覧を見る前に、まずおすすめのコンテンツをいくつかご覧ください。
7 分の読書プライバシー入門:ChatGPTが記憶し、参照し、共有するもの
学習、メモリ、保存、第三者への共有を分けて考えます。一時チャットや有料プランを、機密情報を共有してよいという許可と受け取らず、自分のアカウントに関わる設定を確認しましょう。
AI初心者
4 分の読書職場でAIを使う際のプライバシーとデータ衛生
職場でのプライバシーと機密保持のリスクを抑えるため、送信前に製品、プラン、設定、データ、適用される規則を確認します。
初心者
14 分の読書プロンプトインジェクションとLLMセキュリティ:脅威モデルと多層防御
プロンプトインジェクションは恒久的に存在するLLMセキュリティ上の脅威であり、プロンプトの書き方の誤りではありません。脅威モデル、データ境界、ツール権限、回帰テスト、監視、インシデント対応について解説する本番環境向けガイドです。
上級者このトピックの他の記事
8 分の読書Hermes Agentの最初の1週間:メモリの整理、スキル、ツールの承認
Hermes Agentを安全に始める最初の1週間です。インストールとスモークテストを行い、MEMORY.mdとUSER.mdを整理し、スキルを1つ追加し、ファイル書き込みを制限して、シェルアクセスを無効化または隔離します。
中級者
7 分の読書Hermesのwebhook:巨大な万能プロンプトを使わないイベント駆動エージェント
送信元に適した認証、ポート8644のヘルスチェック、小さな名前付きルートでHermes Agentのwebhookを設定し、イベントを配信先が明確なエージェント実行へ変えます。
中級者
8 分の読書n8n AIノードの冪等性、再試行、人による承認ゲート
AIノードはCRUD APIとは違う形で失敗します。n8nの再試行、冪等性キー、人をループに入れるゲート、ログを設計し、不安定なモデル呼び出しがメールの二重送信やレビューの省略を起こさないようにします。
中級者
8 分の読書n8nからvLLMなどのOpenAI互換エンドポイントを呼び出す
n8nのHTTP RequestノードからローカルのOpenAI互換/v1/chat/completionsエンドポイントを呼び出します。認証、タイムアウト予算、ベースURLの確認、非公開ネットワーク境界を明示的に設定します。
中級者
10 分の読書DGX Spark上のNemoClaw:導入・セキュリティ計画
DGX Spark上のNVIDIA OpenShell内でOpenClaw、Hermes、またはDeep Agents Codeを評価するための計画です。現行のオンボーディング、ポリシー層、推論ルーティング、必要な受け入れ証拠を扱います。
上級者
8 分の読書OpenClawの許可リスト、ペアリング、グループメンションのセキュリティ
OpenClawの本当のセキュリティ境界は、チャネルの許可リスト、DMのペアリング、グループでのメンション規則です。ツールにはシェル、ファイル、ブラウザが含まれる可能性があるからです。実務で使えるロックダウン用チェックリストを紹介します。
中級者
9 分の読書OpenClawパーソナルゲートウェイの設定:インストール、初期設定、ダッシュボード
OpenClawの概要、セルフホスト型マルチチャネルゲートウェイのインストールと初期設定、ポート18789でのControl UIの開き方、セキュリティー基準を省略せずに使えるNodeバージョンを説明します。
中級者
10 分の読書OpenClawのスキル、heartbeatによる自律動作、承認ゲート
OpenClawがスキルを読み込む仕組み、heartbeatの定期ターン、ホストのシェル実行を制限する方法、ブラウザー自動化を厳しいポリシーとレビュー済みワークフローの確認下に置く方法を説明します。
中級者
5 分の読書クライアント案件で使う個人AIルール
クライアントのブリーフ、草稿、データを個人向けAIツールへ入力する前に、一ページの個人ポリシーカードを書いてください。絶対に貼り付けないもの、クライアントの同意が必要なもの、価格と業務範囲は自分で決めること、人間の専門家へ相談するタイミングを定めます。フリーランサーには雇用主のAIポリシーがないため、自分のルールが必要です。
AI初心者
6 分の読書A caregiving handoff that preserves dignity and context
Prepare a caregiving handoff with tasks, observed routines and the person's own preferences. Record sources and dates, then check understanding through a read-back.
初心者
8 分の読書Chronic-condition administration: build a care calendar, not a treatment plan
Coordinate appointments, refill requests, forms, transport, and follow-ups on a private board. Keep care-team records and consent notes out of general-purpose chatbots, and send clinical questions to the care team.
中級者
7 分の読書誰かの写真をAI編集・共有する前に同意を取る
友人の写真をAIツールにアップロードして背景を消したり、笑顔を差し替えたり、イラストに変えたりするのは、小さく個人的な編集に感じられます。写真の中の人にとっては、決める機会がなかった、はるかに大きな決定になりえます。
初心者
5 分の読書Finding subscription drift without exposing your bank history
Review transaction history privately for recurring charges and drift, without connecting an AI tool to your bank account or sharing the transaction lines. Leave with a checked candidate list and a cancellation checklist you execute yourself.
初心者
5 分の読書Understand a medical document without turning it into medical advice
Use the original document, official glossaries and a four-column worksheet to prepare questions. Keep identifiable records out of public AI tools and interpretation with the care team.
初心者
5 分の読書Coordinating an ageing parent's care without losing their voice
Coordinate an ageing parent's care with their voice and permission at the centre. Keep the real consent and care record private; use AI only for generic questions, never to process their health or sharing decisions.
初心者
6 分の読書Is this AI product safe for my child's data? A privacy checklist
A seven-point screen for age rules, collection, retention, training, sharing, controls and deletion that records unresolved child-data risks without pretending to certify a product as safe or lawful.
初心者
7 分の読書家族の写真と物語を、歴史を捏造せずにアーカイブする
家族アーカイブの文字起こしやキャプションの下書きを作りながら、モデルの推論を確認済みの歴史と分け、承認されていないツールに子どものデータを渡さないための、同意と出所に配慮したワークフローです。
中級者
9 分の読書溜め込まず、必要なときに取り出せる個人ナレッジシステム
明確な用途、取り出しテスト、見直し日、削除ルールに加え、機微なメモ、他人のデータ、プロバイダーが管理するアカウントへの注意点を備えた、範囲を限定した記録・取り出しシステムです。
中級者
4 分の読書AIに任せないこと:自分なりの境界線を引く
1つの作業手順を段階に分け、権限、根拠、確認、停止手段を明示して使い方を選びます。
初心者
7 分の読書音声クローン詐欺:中小企業で本当に機能する統制策
電話やビデオ会議の相手が経営者、同僚、取引先を巧みに装える状況でも、中小企業の支払いや重要な変更を守る三つの手続き的統制策を解説します。
中級者
7 分の読書「本物」を証明する:来歴、ウォーターマーク、Content Credentials
C2PAのContent Credentialsとウォーターマークで実際に証明できること、スクリーンショットや再アップロードで失われる情報、中小企業が誠実な来歴方針に基づいてメディアを公開する方法を解説します。
中級者
6 分の読書聞き覚えのある声でも疑う:AIを使った詐欺への対処法
声を複製した緊急連絡、なりすましメッセージ、偽の画像や動画、AIで自然に作られた詐欺への実践的な対処法です。見た目や声が本物らしくても機能する、家族向けの確認手順も紹介します。
AI初心者
20 分RAGの権限とアクセス制御:詳細チュートリアル
Paragon. 本番RAGの権限問題を順を追って説明し、ツール呼び出し、名前空間、ACLテーブル、関係ベースの権限を比較します。これは、検索で返してよいのは現在のユーザーに閲覧権限がある情報源だけであり、情報源となるシステムの権限を後付けにしてはならない、という記事の中核原則を直接支えます。
上級者
30 分EU AI Actを解説:コンプライアンスを競争優位に変える|Carme Artigas
MSP GLOBAL. Carme Artigasは、EU AI Actを成立させた理事会交渉の議長を務め、この動画では、多くの中小企業がAIシステムを購入する経路となるマネージドサービスプロバイダーに向けて同法を説明しています。2025年8月のGPAI行動規範から2026年8月の適合性評価上の節目まで、当時理解されていた日程を示し、ベンダー文書について論じています。その後、[AI OmnibusであるRegulation (EU) 2026/1744](https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ%3AL_202601744)により、関連するChapter IIIの高リスク要件は、Annex IIIのシステムでは2027年12月2日、Annex Iの対象システムでは2028年8月2日に移されました。棚卸し、ベンダーから得る証拠、責任者の明確化は引き続き有用ですが、動画の日付は過去のものです。
上級者
69 分AIエージェントの現状:本番導入から得た教訓
MLOps.community. ProsusのAI担当VPとAIエンジニアが、グループの投資先企業にエージェントを導入した際、実際に何が壊れたかを報告します。本番前のプロンプトインジェクション侵入テスト、人間特有の略記をJiraエージェントが処理できずに発生した危険な書き込み、エージェント自身に前提を明示させて対処した古いコンテキスト、認知負荷を増やすエージェントを統合または停止するフォールバック設計を扱います。記事の障害モード台帳を、実際の事後検証として再現したような内容です。
上級者
7 分DoclingでRAGとAIエージェントを高度化する
IBM Technology. RAGとエージェントの取り込み側、すなわちPDFなどのファイルを準備し、文書構造、表、レイアウトを後続の検索処理まで維持する方法を説明します。複雑な業務文書を解析する場合は特に、RAGの品質と安全性は埋め込み処理より前に決まるという記事の警告を裏付けます。
上級者
9 分の読書AIワークフローにおけるヒューマン・イン・ザ・ループの設計パターン
人による確認は、曖昧な安全策ではありません。AIワークフローにおいて、人間が何を承認し、サンプリングし、監査し、エスカレーションし、何を決して委任しないのかを判断するための実践ガイドです。
中級者
11 分の読書RAG向け文書を安全に取り込む:PDF、OCR、メタデータ、保持
RAGの品質は検索の前から始まります。PDF、OCR、メタデータ、権限、情報源の鮮度、削除、マルウェアリスク、運用上の所有を扱う、安全な取り込みの手引きです。
上級者
9 分の読書AIのROIと成熟度:成果につながる導入を測る方法
ChatGPTを試した人数でAI導入を測ってはいけません。ワークフローのROI、品質、リスク、成熟度、拡大の準備状況を測るための実践的な枠組みです。
上級者
10 分の読書社内ナレッジRAG:権限、漏えい、情報源の境界
社内ナレッジアシスタントの安全性は、検索が権限を尊重する場合にのみ確保されます。RAGの情報源の境界、ACLフィルタリング、文書のオーナーシップ、ログ記録、古い情報源の処理、回答拒否の挙動を設計する方法を説明します。
上級者
10 分の読書本番AIの失敗モード:デモの後に何が壊れるのか
AIシステムの失敗には、ハルシネーション、古いコンテキスト、過度な迎合、プロンプトインジェクション、危険なツール実行、スキーマドリフト、弱いフォールバックなど、予測可能なパターンがあります。実運用のワークフローを提供するチームのための失敗モード台帳です。
上級者
9 分の読書EU AI Act for SMEs: a practical governance plan
The EU AI Act is not just a legal problem for large vendors. A practical SME plan for inventory, risk classification, human oversight, transparency, vendor records, and rollout discipline.
上級者
10 分の読書プライベートAIの導入パターン:ローカル、VPC、自社運用、ハイブリッド
プライベートAIは一つのアーキテクチャではありません。プライバシーと制御を重視する中小企業向けに、ローカルモデル、法人向けSaaS、VPCへの導入、自社運用の推論、ハイブリッド構成を実践的に比較します。
上級者
10 分の読書メール、カレンダー、CRMにAIを安全に接続する
権限範囲の最小化、承認ゲート、保護された監査証跡、不正・失敗時のテスト、復旧手順を使い、AIをメール、カレンダー、CRMへ接続するための、リスクに基づくガイドです。
中級者
25 分OWASPが示すLLMへの攻撃トップ10:AIの脆弱性を解説
IBM Technology. プロンプトインジェクションから視野を広げ、LLMに関するOWASP Top 10全般を扱っています。安全でない出力処理、機密情報の漏えい、過剰なエージェンシーなど、あらゆるものにGmailやHubSpotのスコープを付与する前に理解しておきたい、まさに失敗モードの一覧です。
中級者
11 分プロンプトインジェクション攻撃とは?
IBM Technology. Jeff Crumeによる「SUVを1ドルで買う」という例は、直接プロンプトインジェクションと間接プロンプトインジェクションが異なる問題である理由と、フィルタリングではどちらも完全には解決できない理由を、10分で説明する最も明快な解説です。取り消せない操作には、より巧妙なシステムプロンプトではなく、最小権限のスコープ、専用エージェントアカウント、人の介在が必要だという記事の主張と直接対応しています。
中級者
93 分Sam Altman|This Past Weekend with Theo Von #599
Theo Von. 開始からおよそ12分の箇所で、Altmanは、ChatGPTとの会話には法的な秘匿特権がなく、訴訟でOpenAIが会話の提出を命じられる可能性があると認めています。このテーマで最も広く引用されている映像であり、ニュースの短い抜粋ではなく本人の言葉で聞く価値があります。対談全体は多岐にわたりますが、そのやり取りは、記事が投げかける「入力した内容を会社は実際にどう扱うのか」という問いへの率直な答えです。
AI初心者
13 分AIビジネスモデルのセキュリティを確保する方法
IBM Technology. IBMの公開説明では、Jeff Crumeが生成AIのプライバシー、正確さ、セキュリティのリスクと、その対処の枠組みを解説するとされています。記事で扱う承認されたデータ経路について、確認すべき質問を考える参考にしてください。
初心者
11 分シャドーAIとは?見過ごされがちなサイバーセキュリティ脅威
IBM Technology. IBMの公開説明は、シャドーAI、データの不正な持ち出し、アクセス制御、モデルの汚染を扱っています。記事にある具体的なツールの承認確認とインシデント報告に結び付けてください。この解説から、自分の組織で最も多いリスクを推定しないでください。
初心者
13 分LLMへの攻撃:プロンプトインジェクション
LiveOverflow. プロンプトインジェクションを、命令と信頼できないデータを混在させるシステムに対する典型的なインジェクション攻撃として捉えます。攻撃者が無実のユーザーを陥れる、具体的なコンテンツモデレーションの例も紹介します。「モデルが標的」ではなく「アプリケーションが標的」だと見方を変えることは、記事が冒頭で示す考え方そのものです。
上級者
17 分LLMを守る:プロンプトインジェクション対策
LiveOverflow. 実際の多層防御の手順を解説します。LLM出力の汚染解析、想定する出力形式の制限、ユーザーの分離、few-shotによる足場作り、ファインチューニング、決定性を得るためのtemperature 0、重要な処理経路での冗長化を扱います。記事の防御スタックに関するセクションと、ほぼ項目ごとに一致しています。
上級者