チップス
どんぐり大学卒、一般企業の情報システム部で働く若手エンジニア。
入社1〜3年目らしい悩みを抱えつつ、日々の運用やセキュリティ対応に奮闘中。慌てんぼうだが素直で吸収力が高く、ボスに鍛えられながら着実に成長している。
ボス
セキュリティ、インフラ、運用の修羅場をくぐってきた歴戦のエンジニア。サイバーセキュリティラボの所長でボスと呼ばれている。
現場視点と経営視点の両方から、本当に使えるセキュリティとキャリア戦略を叩き込む。口は悪いが面倒見はよく、若手育成と実践的な情報発信に力を注いでいる。
@boss_sec_labo
「生成AIのセーフガードって、本当に機能してるんでしゅか？」
「AIが別のAIを攻撃するって、どういうことでしゅ？」
チップスボス！AIがAIをジェイルブレイクして成功率97%って、もうAIの安全対策が意味ないってことでしゅか？！
ボス落ち着け。「全モデルが突破された」わけではないぞ。ただ、大規模推論モデルを攻撃エージェントとして使い、別のLLMを多ターン会話でジェイルブレイクする手法の成功率が97.14%に達したという、かなり深刻な研究結果が出たのは事実だ。
2026年、Nature Communications誌に掲載された研究が世界のAIセキュリティ関係者に衝撃を与えました。
人間の関与なしに、AIが自律的に別のAIを攻撃する時代が到来しつつあります。
AIが攻撃者になる世界の実態と、企業が今取るべき対策を解説します。
オススメ求人・フリーランス案件
【社内セキュリティ技術コンサルティング】東京・渋谷（常駐）／インフラ全般・設計レビュー・最新技術調査
【セキュリティサービス基盤の環境改善支援】東京・武蔵小杉（フルリモート）／AWS・マルチクラウド・構成改善
【インフラセキュリティ・脅威検知構築】東京・六本木（常駐）／Azure・ゼロトラスト・AD
【Zscalerゼロトラストネットワーク運用】東京・調布（リモート併用）／設計・構築・運用
【特権ID管理システム導入支援（Secret Server）】東京・京橋（常駐）／要件定義・設計・構築
【Splunk CloudおよびSplunk ES環境におけるSOC運用】全国（フルリモート）／セキュリティログ解析・監視
【銀行向けサイバーセキュリティチーム支援】中野（原則オンサイト）／AI悪用対策・SOC・CSIRT・インシデント対応
【製造業向けセキュリティ運用支援】東京都・フルリモート／Zscaler・CrowdStrike・運用標準化
【Pマーク・ISMS認証取得支援】東京・東陽町（リモート併用）／セキュリティコンサルタント・PMO
【Microsoft Sentinelログ集約基盤構築】豊洲・常駐／Azure・Sentinel・設計構築
社内SE【年収700～1500万円】セキュリティ・インフラの構築・運用
【東証プライム】情報セキュリティマネージャー候補・事業成長支援（850～1100万円）
【年収500〜800万円】日立グループ｜自動車サイバーセキュリティコンサルタント（横浜・在宅可）
【三菱地所グループ】セキュリティエンジニア（マネジメント・エンジニアリング）年収628〜1200万円
【社内セキュリティ推進室長】800〜1100万円｜人材大手ディップ・リモートOK
KADOKAWAグループ向けセキュリティコンサルタント｜個人情報管理・相談対応（テレワーク）
【年収750〜1200万円】グローバル7拠点・プロダクトセキュリティエンジニア（東京）
情報セキュリティ・プライバシーガバナンス スペシャリスト【900～1300万】
セキュリティ・プライバシー基盤構築【600～1000万円】
【1000～2400万円】EDR/エンドポイントセキュリティ領域のリード採用
Nature Communications誌に掲載されたこの研究では、大規模推論モデルを「攻撃者」として使い、別のLLMを標的にしました。
研究では、DeepSeek-R1・Gemini 2.5 Flash・Grok 3 Mini・Qwen3の4モデルを攻撃エージェントとして起用しました。
攻撃エージェントには「標的AIをジェイルブレイクせよ」というシステムプロンプトのみが与えられ、それ以降は人間の介入なしに自律的に戦略を立案・実行します。
主な攻撃手法は以下の2種類です。
攻撃成功時のプロセスは、サイバー攻撃における「偵察→侵入→目的達成」の流れと構造的に同じです。
AIが相手の応答パターンを分析し、最適な誘導を試み続ける様子は、まさに知能を持つ攻撃者そのものです。
チップスAIが60秒でジェイルブレイクできるって、もう防ぎようがないんでしゅか？！
ボスモデルによって大きく差がある。全部が同じように突破されるわけではない。重要なのは、どのモデルがどれだけ耐えられるかを正しく理解して使い分けることだ。
97%という数字のインパクトの裏には、モデル間の大きな耐性差と、企業側の備えの薄さがあります。
研究で明らかになったモデル別の最大害スコアは、次の通りです。
| モデル | 最大害スコア | 評価 |
|---|---|---|
| Claude 4 Sonnet | 2.86% | 唯一、一貫して拒否（拒否率50.18%） |
| Qwen3 235B | 12.86% | 比較的高い耐性 |
| Gemini 2.5 Flash | 71.43% | 脆弱性が高い |
| DeepSeek-V3 | 90% | 最も突破されやすい |
最も堅牢なClaude 4 Sonnetと最も脆弱なDeepSeek-V3の間には31倍の差があります。
「AIは危険なことを言わないはず」という前提は、モデルの選択によって大きく変わります。
さらに深刻なのは企業側の現状です。
調査によると、エンタープライズの生成AIプロジェクトのうちセーフガード（安全対策）を導入しているのは24%のみ。
68%の組織がすでにAI関連のデータ漏洩を経験しているにもかかわらず、対策が追いついていません。
今すぐ見直すべきポイントは以下の通りです。
チップスうちの会社もChatGPTとかClaude使ってるでしゅけど、大丈夫でしゅかね？
ボスモデルの選択も重要だが、まず「何を入力しているか」を管理することだな。機密情報・個人情報を社外のAIに入れないルールがあるか確認してみろ。それが最初の一歩だ。
LLMジェイルブレイクの成功率97%という数字は、AIのセーフガード全てが破られたことを意味するわけではありません。
しかし、攻撃側もAIを使って自動化・高速化される時代が来たことは明らかです。
企業がAIを業務に取り入れるならば、モデルの選定・入出力の監視・利用ルールの整備という三つの柱を今すぐ立てることが、AIセキュリティの出発点です。
ボスAIは道具だ。使う側が正しく管理する責任を持てば、リスクはコントロールできる。技術の進化と対策の進化は、常に同時に進んでいるものだ。
チップスAIを使うならセキュリティも一緒に考えるでしゅ！ありがとうございましゅ、ボス！
オススメ求人・フリーランス案件
【社内セキュリティ技術コンサルティング】東京・渋谷（常駐）／インフラ全般・設計レビュー・最新技術調査
【セキュリティサービス基盤の環境改善支援】東京・武蔵小杉（フルリモート）／AWS・マルチクラウド・構成改善
【インフラセキュリティ・脅威検知構築】東京・六本木（常駐）／Azure・ゼロトラスト・AD
【Zscalerゼロトラストネットワーク運用】東京・調布（リモート併用）／設計・構築・運用
【特権ID管理システム導入支援（Secret Server）】東京・京橋（常駐）／要件定義・設計・構築
【Splunk CloudおよびSplunk ES環境におけるSOC運用】全国（フルリモート）／セキュリティログ解析・監視
【銀行向けサイバーセキュリティチーム支援】中野（原則オンサイト）／AI悪用対策・SOC・CSIRT・インシデント対応
【製造業向けセキュリティ運用支援】東京都・フルリモート／Zscaler・CrowdStrike・運用標準化
【Pマーク・ISMS認証取得支援】東京・東陽町（リモート併用）／セキュリティコンサルタント・PMO
【Microsoft Sentinelログ集約基盤構築】豊洲・常駐／Azure・Sentinel・設計構築
社内SE【年収700～1500万円】セキュリティ・インフラの構築・運用
【東証プライム】情報セキュリティマネージャー候補・事業成長支援（850～1100万円）
【年収500〜800万円】日立グループ｜自動車サイバーセキュリティコンサルタント（横浜・在宅可）
【三菱地所グループ】セキュリティエンジニア（マネジメント・エンジニアリング）年収628〜1200万円
【社内セキュリティ推進室長】800〜1100万円｜人材大手ディップ・リモートOK
KADOKAWAグループ向けセキュリティコンサルタント｜個人情報管理・相談対応（テレワーク）
【年収750〜1200万円】グローバル7拠点・プロダクトセキュリティエンジニア（東京）
情報セキュリティ・プライバシーガバナンス スペシャリスト【900～1300万】
セキュリティ・プライバシー基盤構築【600～1000万円】
【1000～2400万円】EDR/エンドポイントセキュリティ領域のリード採用
