チップス
どんぐり大学卒、一般企業の情報システム部で働く若手エンジニア。
入社1〜3年目らしい悩みを抱えつつ、日々の運用やセキュリティ対応に奮闘中。慌てんぼうだが素直で吸収力が高く、ボスに鍛えられながら着実に成長している。
ボス
セキュリティ、インフラ、運用の修羅場をくぐってきた歴戦のエンジニア。サイバーセキュリティラボの所長でボスと呼ばれている。
現場視点と経営視点の両方から、本当に使えるセキュリティとキャリア戦略を叩き込む。口は悪いが面倒見はよく、若手育成と実践的な情報発信に力を注いでいる。
@boss_sec_labo
「Hugging Faceのモデルを試すだけなら、危なくないと思っていたんでしゅけど…」
「AIの開発環境が乗っ取られたら、何を盗まれるんでしゅか？」
チップスボス！AIのモデルを選ぶだけで、悪いコードが動いちゃう脆弱性があったって本当でしゅか？
ボス本当だ。AIの追加学習に使われるUnslothに入っているUnsloth Studioで、Pillar Securityが見つけた。
チップスモデルってデータじゃないんでしゅか？どうしてコードが動くんでしゅか？
ボスそこが落とし穴だ。モデルの設定ファイルが、別のPythonファイルを読み込ませる仕組みを持っている。それを既定で信じてしまっていた。
AIモデルの共有サイトは便利ですが、置かれているのは必ずしも安全なものばかりではありません。
この記事では、脆弱性の仕組みと、AI開発の現場で見直したい点を整理します。
AIモデルを扱う開発者や、AI開発環境を管理する担当者が取るべき対策がわかります。
オススメ求人・フリーランス案件
【脆弱性管理・診断基盤の内製化推進】東京都（フルリモート）／ツール導入・セキュリティ運用
【セキュリティ企画推進・コンサルタント】大阪（リモート併用）／セキュリティ戦略・ポリシー策定
【セキュリティ基準準拠・運用改善支援（NIST・ISMS）】豊洲（リモート併用）／PMO
【社内セキュリティ技術コンサルティング】東京・渋谷（常駐）／インフラ全般・設計レビュー・最新技術調査
【セキュリティサービス基盤の環境改善支援】東京・武蔵小杉（フルリモート）／AWS・マルチクラウド・構成改善
【インフラセキュリティ・脅威検知構築】東京・六本木（常駐）／Azure・ゼロトラスト・AD
【Zscalerゼロトラストネットワーク運用】東京・調布（リモート併用）／設計・構築・運用
【特権ID管理システム導入支援（Secret Server）】東京・京橋（常駐）／要件定義・設計・構築
【Splunk CloudおよびSplunk ES環境におけるSOC運用】全国（フルリモート）／セキュリティログ解析・監視
【銀行向けサイバーセキュリティチーム支援】中野（原則オンサイト）／AI悪用対策・SOC・CSIRT・インシデント対応
社内SE【年収700～1500万円】セキュリティ・インフラの構築・運用
【東証プライム】情報セキュリティマネージャー候補・事業成長支援（850～1100万円）
【年収500〜800万円】日立グループ｜自動車サイバーセキュリティコンサルタント（横浜・在宅可）
【三菱地所グループ】セキュリティエンジニア（マネジメント・エンジニアリング）年収628〜1200万円
【社内セキュリティ推進室長】800〜1100万円｜人材大手ディップ・リモートOK
KADOKAWAグループ向けセキュリティコンサルタント｜個人情報管理・相談対応（テレワーク）
【年収750〜1200万円】グローバル7拠点・プロダクトセキュリティエンジニア（東京）
情報セキュリティ・プライバシーガバナンス スペシャリスト【900～1300万】
セキュリティ・プライバシー基盤構築【600～1000万円】
【1000～2400万円】EDR/エンドポイントセキュリティ領域のリード採用
広く使われているAIの追加学習ツールで、モデルの「検査」が攻撃の引き金になっていました。
Unsloth Studioは、AIモデルの追加学習（ファインチューニング）や量子化をブラウザから操作できる画面とバックエンドです。
広く使われているunslothパッケージに同梱されています。
Pillar SecurityのAriel Fogel氏は、利用者が悪意あるモデルを選ぶだけで任意のコードが動くことを見つけました。
モデルの重みのダウンロードや推論、学習を始める必要はありません。
概要は以下の通りです。
| 項目 | 内容 |
|---|---|
| 対象 | unslothパッケージに同梱のUnsloth Studio |
| 検証されたバージョン | 2026.5.10 |
| 修正バージョン | 2026.6.9以降 |
| CVE | 割り当てなし（Studioがベータ版のため） |
| 公表日 | 2026年9月29日 |
Pillar Securityの報告を受け、Unslothのメンテナーは2026年6月18日に修正を公開しました。
Pillar Securityは2026.6.9を独自に再テストし、攻撃経路が塞がれたことを確認しています。
CVEが割り当てられていないため、脆弱性の管理ツールでは見つけにくい点に注意が必要です。
チップスCVEがないと、気づかないまま古い版を使い続けちゃいそうでしゅ…
ボスそうだ。AIのツールは更新が速く、ベータ版のまま広く使われるものも多い。自分で版を確かめる習慣が要る。
設定ファイルを読むだけの処理が、コードの実行につながっていました。
Hugging Faceのモデルには、構成を記したconfig.jsonが付いています。
このファイルのauto_mapという項目は、リポジトリ内の独自のPythonファイルを読み込むよう指定できます。
trust_remote_code=Trueのときは、その指定に従ってコードが読み込まれて動きます。
攻撃の流れは以下の通りです。
コードはStudioのバックエンドと同じ権限で動きます。
企業のAI開発環境では、Hugging Faceのトークン、クラウドの認証情報、SSHの鍵、社外秘のデータセット、モデルの重みや学習の成果物に手が届くおそれがあります。
取り組みたい対策は以下の通りです。
チップスモデルを選ぶのも、ソフトをインストールするのと同じくらい気をつけないといけないんでしゅね
ボスその感覚が大事だ。外から持ってきたものは、データの顔をしていてもコードが入っているかもしれない
Unsloth Studioでは、Hugging Faceのモデルを選ぶか検査するだけで攻撃者のコードが動く脆弱性がありました。
原因はtrust_remote_code=Trueが既定で有効だったことで、2026.6.9で修正されています。
CVEがないため、利用者は自分で版を確かめ、AI開発環境の認証情報の置き方も見直しましょう。
ボスAIの開発環境は宝の山だ。攻撃者にとっては、狙う価値が高い場所だということを忘れるな
チップスチームのunslothのバージョンを今すぐ確かめましゅ！
（出典：Pillar Security「Look, Don’t Load: Model Inspection in Unsloth Studio Leads to Critical Arbitrary Code Execution」／GBHackers）
オススメ求人・フリーランス案件
【脆弱性管理・診断基盤の内製化推進】東京都（フルリモート）／ツール導入・セキュリティ運用
【セキュリティ企画推進・コンサルタント】大阪（リモート併用）／セキュリティ戦略・ポリシー策定
【セキュリティ基準準拠・運用改善支援（NIST・ISMS）】豊洲（リモート併用）／PMO
【社内セキュリティ技術コンサルティング】東京・渋谷（常駐）／インフラ全般・設計レビュー・最新技術調査
【セキュリティサービス基盤の環境改善支援】東京・武蔵小杉（フルリモート）／AWS・マルチクラウド・構成改善
【インフラセキュリティ・脅威検知構築】東京・六本木（常駐）／Azure・ゼロトラスト・AD
【Zscalerゼロトラストネットワーク運用】東京・調布（リモート併用）／設計・構築・運用
【特権ID管理システム導入支援（Secret Server）】東京・京橋（常駐）／要件定義・設計・構築
【Splunk CloudおよびSplunk ES環境におけるSOC運用】全国（フルリモート）／セキュリティログ解析・監視
【銀行向けサイバーセキュリティチーム支援】中野（原則オンサイト）／AI悪用対策・SOC・CSIRT・インシデント対応
社内SE【年収700～1500万円】セキュリティ・インフラの構築・運用
【東証プライム】情報セキュリティマネージャー候補・事業成長支援（850～1100万円）
【年収500〜800万円】日立グループ｜自動車サイバーセキュリティコンサルタント（横浜・在宅可）
【三菱地所グループ】セキュリティエンジニア（マネジメント・エンジニアリング）年収628〜1200万円
【社内セキュリティ推進室長】800〜1100万円｜人材大手ディップ・リモートOK
KADOKAWAグループ向けセキュリティコンサルタント｜個人情報管理・相談対応（テレワーク）
【年収750〜1200万円】グローバル7拠点・プロダクトセキュリティエンジニア（東京）
情報セキュリティ・プライバシーガバナンス スペシャリスト【900～1300万】
セキュリティ・プライバシー基盤構築【600～1000万円】
【1000～2400万円】EDR/エンドポイントセキュリティ領域のリード採用
