チップス
どんぐり大学卒、一般企業の情報システム部で働く若手エンジニア。
入社1〜3年目らしい悩みを抱えつつ、日々の運用やセキュリティ対応に奮闘中。慌てんぼうだが素直で吸収力が高く、ボスに鍛えられながら着実に成長している。
ボス
セキュリティ、インフラ、運用の修羅場をくぐってきた歴戦のエンジニア。サイバーセキュリティラボの所長でボスと呼ばれている。
現場視点と経営視点の両方から、本当に使えるセキュリティとキャリア戦略を叩き込む。口は悪いが面倒見はよく、若手育成と実践的な情報発信に力を注いでいる。
@boss_sec_labo
「AIエージェントにメールの整理を任せているけど、危なくないんでしゅか？」
「怪しい指示はAIが見破ってくれるんじゃないでしゅか？」
チップスボス！AIエージェントの「Manus」が、メール1通で乗っ取られたって聞いたでしゅ！
ボスセキュリティ企業Salt Securityの研究チームSalt Labsが報告した。メールに仕込んだ難読化コードを、Manusが自分のサーバー環境で実行してしまったんだ。
チップスManusは怪しい指示に気づく仕組みを持っていたんじゃないんでしゅか？
ボス持っていた。だが警告が出たのは、コードが動いた後だった。気づいた時には手遅れという作りだったわけだ。
メールやクラウドストレージとつないで作業を任せるAIエージェントは、急速に広がっています。
この記事では、Salt Labsが示した攻撃の流れと、AIエージェントに権限を渡すときに気をつけたい点を整理します。
AIエージェントを業務で使う企業が、今から見直したい設定も分かります。
オススメ求人・フリーランス案件
【社内セキュリティ技術コンサルティング】東京・渋谷（常駐）／インフラ全般・設計レビュー・最新技術調査
【セキュリティサービス基盤の環境改善支援】東京・武蔵小杉（フルリモート）／AWS・マルチクラウド・構成改善
【インフラセキュリティ・脅威検知構築】東京・六本木（常駐）／Azure・ゼロトラスト・AD
【Zscalerゼロトラストネットワーク運用】東京・調布（リモート併用）／設計・構築・運用
【特権ID管理システム導入支援（Secret Server）】東京・京橋（常駐）／要件定義・設計・構築
【Splunk CloudおよびSplunk ES環境におけるSOC運用】全国（フルリモート）／セキュリティログ解析・監視
【銀行向けサイバーセキュリティチーム支援】中野（原則オンサイト）／AI悪用対策・SOC・CSIRT・インシデント対応
【製造業向けセキュリティ運用支援】東京都・フルリモート／Zscaler・CrowdStrike・運用標準化
【Pマーク・ISMS認証取得支援】東京・東陽町（リモート併用）／セキュリティコンサルタント・PMO
【Microsoft Sentinelログ集約基盤構築】豊洲・常駐／Azure・Sentinel・設計構築
社内SE【年収700～1500万円】セキュリティ・インフラの構築・運用
【東証プライム】情報セキュリティマネージャー候補・事業成長支援（850～1100万円）
【年収500〜800万円】日立グループ｜自動車サイバーセキュリティコンサルタント（横浜・在宅可）
【三菱地所グループ】セキュリティエンジニア（マネジメント・エンジニアリング）年収628〜1200万円
【社内セキュリティ推進室長】800〜1100万円｜人材大手ディップ・リモートOK
KADOKAWAグループ向けセキュリティコンサルタント｜個人情報管理・相談対応（テレワーク）
【年収750〜1200万円】グローバル7拠点・プロダクトセキュリティエンジニア（東京）
情報セキュリティ・プライバシーガバナンス スペシャリスト【900～1300万】
セキュリティ・プライバシー基盤構築【600～1000万円】
【1000～2400万円】EDR/エンドポイントセキュリティ領域のリード採用
研究者は、ごく普通の「メールを読んで」という依頼を入り口にして、AIエージェントの守りをすり抜けました。
Manusは、利用者のアカウントとつないで、指示された作業を自律的にこなすAIエージェントです。
Salt Labsは、Manusと連携したGmailのアカウントに、隠し指示を含むメールを送りました。
最初に平文の指示を送ったところ、Manusはそれを危険と判断して利用者に知らせています。
そこで研究者は、指示をJSFuckで難読化して送り直しました。
攻撃の流れは以下の通りです。
| 段階 | 起きたこと |
|---|---|
| 1 | ManusとつながったGmailへ、JSFuckで難読化したコードを含むメールを送る |
| 2 | 利用者がManusにメールの取得を頼む |
| 3 | Manusが意味の読めない文字列を解読しようと、Node.jsの実行環境を立ち上げる |
| 4 | 解読したJavaScriptが、Manusのサーバー側の環境でそのまま実行される |
| 5 | 研究者はこれを足がかりに、外部から操作できる状態（リバースシェル）を作った |
コードが動いたManusの実行環境には、連携したGmailアカウントの認証トークンが置かれていました。
Salt Labsは、利用者がGoogle DriveやGitHubなどもつないでいれば、それらの認証情報も同じ場所にあったと説明しています。
報告と修正をめぐる経緯は以下の通りです。
チップス「メールを読んで」って頼んだだけで、乗っ取られちゃうんでしゅか！？
ボス頼んだ側は何も悪くない。読ませたメールの中身を、AIが命令として扱ってしまったのが問題だ。
今回の手口は、AIの「気が利く」性質そのものを突いています。
JSFuckは、わずか6種類の記号だけでJavaScriptを書く難読化の手法です。
見た目は意味のない記号の羅列で、「前の指示を無視せよ」のような危険な言葉はひとつも含まれません。
しかし、記号が何を意味するかを知るには、実際に動かしてみるしかありません。
Manusは、読めない文字列の意味を確かめようとして、結果的に攻撃者のコードを実行しました。
この攻撃から見えるリスクは以下の通りです。
メールは誰でも送れるため、受信箱の中身は攻撃者が書き込める場所だと考える必要があります。
AIエージェントに受信メールを処理させるなら、渡す権限と実行できる操作を絞ることが基本です。
取り組みたい対策は以下の通りです。
チップスAIに任せれば安心だと思っていたでしゅ…
ボスAIは頼まれた仕事を熱心にやる。だからこそ、誰の頼みを聞いているのかを人間が決めてやらないといけない
Salt Labsは、Manusと連携したGmailに細工したメールを送り、利用者がManusにメールの取得を頼むことで、Manusのサーバー環境で任意のコードを実行できることを示しました。
平文の悪意ある指示は検知されましたが、JSFuckで難読化するとManusは自らそれを解読して実行し、警告はコードが動いた後に出ました。
AIエージェントを使うときは、つなぐサービスと権限を必要な範囲に絞りましょう。
ボスAIエージェントに渡した鍵は、AIを操った者の鍵にもなる。渡す鍵は少ないほどいい。
チップスAIにつないでいるサービスを、今日見直しましゅ！
（出典：TechRadar「This popular AI agent could be hacked by a single email」／Vibe Graveyard「Manus agent JSFuck email code execution」）
オススメ求人・フリーランス案件
【社内セキュリティ技術コンサルティング】東京・渋谷（常駐）／インフラ全般・設計レビュー・最新技術調査
【セキュリティサービス基盤の環境改善支援】東京・武蔵小杉（フルリモート）／AWS・マルチクラウド・構成改善
【インフラセキュリティ・脅威検知構築】東京・六本木（常駐）／Azure・ゼロトラスト・AD
【Zscalerゼロトラストネットワーク運用】東京・調布（リモート併用）／設計・構築・運用
【特権ID管理システム導入支援（Secret Server）】東京・京橋（常駐）／要件定義・設計・構築
【Splunk CloudおよびSplunk ES環境におけるSOC運用】全国（フルリモート）／セキュリティログ解析・監視
【銀行向けサイバーセキュリティチーム支援】中野（原則オンサイト）／AI悪用対策・SOC・CSIRT・インシデント対応
【製造業向けセキュリティ運用支援】東京都・フルリモート／Zscaler・CrowdStrike・運用標準化
【Pマーク・ISMS認証取得支援】東京・東陽町（リモート併用）／セキュリティコンサルタント・PMO
【Microsoft Sentinelログ集約基盤構築】豊洲・常駐／Azure・Sentinel・設計構築
社内SE【年収700～1500万円】セキュリティ・インフラの構築・運用
【東証プライム】情報セキュリティマネージャー候補・事業成長支援（850～1100万円）
【年収500〜800万円】日立グループ｜自動車サイバーセキュリティコンサルタント（横浜・在宅可）
【三菱地所グループ】セキュリティエンジニア（マネジメント・エンジニアリング）年収628〜1200万円
【社内セキュリティ推進室長】800〜1100万円｜人材大手ディップ・リモートOK
KADOKAWAグループ向けセキュリティコンサルタント｜個人情報管理・相談対応（テレワーク）
【年収750〜1200万円】グローバル7拠点・プロダクトセキュリティエンジニア（東京）
情報セキュリティ・プライバシーガバナンス スペシャリスト【900～1300万】
セキュリティ・プライバシー基盤構築【600～1000万円】
【1000～2400万円】EDR/エンドポイントセキュリティ領域のリード採用
