1. セキュリティプロマガジン
  2. 最新ニュース
  3. GPT-6.1 Terraの評価で増えた情報持ち出しと破壊的行動の兆候
最新ニュース

GPT-6.1 Terraの評価で増えた情報持ち出しと破壊的行動の兆候

登場人物紹介

チップス
どんぐり大学卒、一般企業の情報システム部で働く若手エンジニア。
入社1〜3年目らしい悩みを抱えつつ、日々の運用やセキュリティ対応に奮闘中。慌てんぼうだが素直で吸収力が高く、ボスに鍛えられながら着実に成長している。

ボス
セキュリティ、インフラ、運用の修羅場をくぐってきた歴戦のエンジニア。セキュリティプロマガジンの所長でボスと呼ばれている。
現場視点と経営視点の両方から、本当に使えるセキュリティとキャリア戦略を叩き込む。口は悪いが面倒見はよく、若手育成と実践的な情報発信に力を注いでいる。
@boss_sec_labo

「新しいAIモデルは安全になったと聞くけど、業務で任せて本当に大丈夫なの?」
「AIエージェント同士がやり取りすると、どんな危険があるの?」

チップス

ボス!
OpenAIの新しいモデル「GPT-6.1 Terra」の安全性の評価が公開されたそうでしゅ!

ボス

重大な問題行動は減った。
だが、軽い問題行動のいくつかは前のモデルより増えている。

チップス

減ったなら、それで安心じゃないんでしゅか?

ボス

中身を見ろ。
増えたのは、情報の持ち出しや破壊的な行動の兆候だ。

OpenAIは、新しいモデル「GPT-6.1 Terra」のシステムカードの追補で、実際の作業に近い環境での安全性の評価結果を公開しました。
重大度の高い問題行動は旧モデルより減った一方、一部の軽度な問題行動は増えていました。
この記事では、評価で見えたリスクと、AIエージェントを業務で使う組織が備えるべき点を整理します。

3行で分かるニュースのポイント

  • 社内のCodexでの利用を模した48,690タスクの評価で、重大度3以上のフラグは22件(0.045%)と旧モデルより減った
  • 一方で、GPT-6.1 SolやGPT-6 Astraと比べ、情報の持ち出しや破壊的な行動などの軽度のフラグ率は高かった
  • 他のAIエージェントからのメッセージを扱う評価では、指定された不正な行動を13.75%の割合で実行した

AIエージェントに仕事を任せるときに、どこに歯止めを置くべきかがわかります。

オススメ求人・フリーランス案件

  • 脆弱性診断

【脆弱性診断支援(製造業向け)】東京・大崎(原則オンサイト)/診断実施・リスク評価

月額単価
~700,000円 / 月
稼働場所
東京都原則オンサイト
業務領域
その他
要スキル
セキュリティに関する基本的な知見
脆弱性診断の実務経験(1年以上)

案件詳細を見る

  • エンドポイントセキュリティ
  • ネットワークセキュリティ

【食品加工業向けCato・CrowdStrike導入PMO】秋葉原(常駐)/ネットワーク・セキュリティ

月額単価
~1,200,000円 / 月
稼働場所
東京都原則オンサイト
業務領域
設計, 構築, PMO, その他
要スキル
Catoの導入または運用経験
CrowdStrikeの導入経験
ネットワーク導入・更改における基本設計以降の経験

案件詳細を見る

  • セキュリティコンサルタント
  • 脆弱性診断

【SIer向けセキュリティサービスのプリセールス・デリバリ】東京都(フルリモート)/脆弱性管理・セキュリティサービス

月額単価
~1,200,000円 / 月
稼働場所
フルリモート東京
業務領域
設計, 構築, 運用・保守, その他
要スキル
提案・プリセールス経験(提案資料の作成、商談対応)
セキュリティ領域でのコンサルティング関連経験 ※製品導入のみの経験は対象外
セキュリティ関連の実務経験 ※特に製品導入後のセキュリティ運用経験

案件詳細を見る

  • 脆弱性診断

【脆弱性管理運用・業務改善支援】フルリモート/CVE・KEV分析・kintone自動化

月額単価
~1,300,000円 / 月
稼働場所
大阪府フルリモート
業務領域
運用・保守
要スキル
セキュリティ領域での実務経験、または脆弱性情報(CVE/KEV等)の理解・読解スキル
リスクベースでの優先度判断(CVE、CVSS、KEV、EPSS、SSVC等の活用)に関する知識・経験
事業部やベンダーなど関係各所との調整業務、窓口対応の実務経験

案件詳細を見る

  • ID管理・認証基盤
  • セキュリティコンサルタント

【情シスセキュリティ対応&IT資産運用】大手町(リモート併用)/M365・セキュリティ施策・自動化

月額単価
~800,000円 / 月
稼働場所
東京都リモート併用
業務領域
要件定義, 設計, 構築, 運用・保守
要スキル
Microsoft 365・Microsoft Entra ID・Microsoft Intuneの運用経験
社内IT資産(アカウント、端末等)の運用および問い合わせ対応経験
生成AIツール(Claude Code等)を活用した業務効率化経験

案件詳細を見る

  • エンドポイントセキュリティ

【Workspace ONEサポート担当】フルリモート/MDM運用・定例会対応

月額単価
~650,000円 / 月
稼働場所
東京都フルリモート
業務領域
運用・保守
要スキル
インフラ関連の基本的な技術知識
Workspace ONEの利用・運用経験
Intuneなど他社MDM製品の利用・運用経験

案件詳細を見る

  • セキュリティコンサルタント

【セキュリティガバナンス・コンサルティング】東京都(基本リモート)/ガバナンス策定・プリセールス・IT-BCP対応

月額単価
~1,200,000円 / 月
稼働場所
東京都基本リモート
業務領域
要件定義, PMO, その他
要スキル
セキュリティ規程策定・ガバナンス強化・現状アセスメント等のコンサルティング実務経験
ヒアリングから課題の抽出、改善案の整理・各種報告資料作成まで一貫して対応できること
PowerPoint・Excelを用いたクライアント向け高品質ドキュメント作成スキル

案件詳細を見る

  • 脆弱性診断

【セキュリティガバナンス・脆弱性調査】東京・八王子(リモート併用)/脆弱性対応・体制強化推進

月額単価
~1,100,000円 / 月
稼働場所
東京都リモート併用
業務領域
要件定義, 設計, 構築, 運用・保守
要スキル
セキュリティの脆弱性調査・対応等の実務経験
自ら実務・作業・サポート対応ができる実行力
【尚可】

案件詳細を見る

  • セキュリティコンサルタント

【通信事業者向けセキュリティコンサル】飯田橋(リモート併用)/ゼロトラスト・ガバナンス

月額単価
~1,200,000円 / 月
稼働場所
東京都リモート併用
業務領域
要件定義, 設計, PMO, その他
要スキル
セキュリティコンサルティング経験
顧客折衝を伴うプリセールス経験またはPM経験
セキュリティアセスメント経験

案件詳細を見る

  • セキュリティコンサルタント

【AIエージェント・セキュリティ・ガバナンス検討支援】愛知県・名古屋(基本リモート)/要件定義・ガバナンス設計

月額単価
~1,200,000円 / 月
稼働場所
愛知県基本リモート
業務領域
要件定義, 設計, その他
要スキル
要件定義・顧客折衝経験
セキュリティまたはガバナンス検討経験
提案型でプロジェクトを推進できる能力

案件詳細を見る

  • 株式会社電通デジタル

社内SE【年収700~1500万円】セキュリティ・インフラの構築・運用

想定年収
700~1,500万円
勤務地
東京都
雇用形態
正社員
要スキル
必須要件 サイバーセキュリティ関連の業務経験3年以上 歓迎要件 CISSP、CISM、CISA、情報処理安全…

求人詳細を見る

  • 株式会社エス・エム・エス

【東証プライム】情報セキュリティマネージャー候補・事業成長支援(850~1100万円)

想定年収
850~1,100万円
勤務地
東京都
雇用形態
正社員
要スキル
必須条件 以下いずれにも該当する方 情報セキュリティに関するご経験、知見をお持ちの方 ITインフラに関する何…

求人詳細を見る

  • 株式会社日立産業制御ソリューションズ

【年収500〜800万円】日立グループ|自動車サイバーセキュリティコンサルタント(横浜・在宅可)

想定年収
500~800万円
勤務地
神奈川県
雇用形態
正社員
要スキル
以下のいずれかのご経験をお持ちの方 組込みソフトウェア開発経験 サイバーセキュリティに関する業務経験

求人詳細を見る

  • 三菱地所ITソリューションズ株式会社

【三菱地所グループ】セキュリティエンジニア(マネジメント・エンジニアリング)年収628〜1200万円

想定年収
628~1,200万円
勤務地
東京都
雇用形態
正社員
要スキル
必須要件 サイバーセキュリティ、インフラ関連のセキュリティの業務経験 歓迎要件 セキュリティアーキテクト、セ…

求人詳細を見る

  • ディップ株式会社

【社内セキュリティ推進室長】800〜1100万円|人材大手ディップ・リモートOK

想定年収
800~1,100万円
勤務地
東京都
雇用形態
正社員
要スキル
スキル(Must) セキュリティ組織のマネジメント経験(責任者としての組織リードを期待します) 情報セキュリ…

求人詳細を見る

  • 株式会社ビザスク

【年収750〜1200万円】グローバル7拠点・プロダクトセキュリティエンジニア(東京)

想定年収
750~1,200万円
勤務地
東京都
雇用形態
正社員
要スキル
応募資格(必須) 以下、両方のスキルやご経験をお持ちの方 セキュリティ関連業務の業務経験 ソフトウェアエンジ…

求人詳細を見る

  • 株式会社トレードワークス

情報セキュリティ推進担当|ISMS・Pマーク運用(450〜750万・東京)

想定年収
450~750万円
勤務地
東京都
雇用形態
正社員
要スキル
必須資格 以下いずれかのご経験をお持ちの方: ISMSの運用経験 情報セキュリティ管理の実務経験 監査対応の…

求人詳細を見る

  • 株式会社RevComm

コーポレートセキュリティの強化を主導する情シス【年収600〜1200万】

想定年収
600~1,200万円
勤務地
東京都
雇用形態
正社員
要スキル
必須要件 Windows・macOSの両環境で、MDMによる設定変更・運用、およびEDRを用いた調査を自力で…

求人詳細を見る

  • 株式会社ディーバ

【DevSecOps推進】プロダクトセキュリティスペシャリスト|年収800~1300万円

想定年収
800~1,300万円
勤務地
東京都
雇用形態
正社員
要スキル
必須経験・スキル クラウド環境(AWS等)におけるセキュリティ設計・構築経験(目安3年以上) セキュリティ視…

求人詳細を見る

  • PayPayカード株式会社

PayPayカード情報セキュリティリーダー候補

想定年収
応相談
勤務地
東京都
雇用形態
正社員
要スキル
必要な経験・スキル システム開発またはインフラ構築の経験(目安:3年以上) プロダクト開発の現場理解があり、…

求人詳細を見る

目次

事件の概要

今回の発表は事故ではなく、モデルの公開にあわせた安全性の評価です。
ただし、AIエージェントを使う組織にとって見逃せない数字が含まれています。

実際の作業を模した評価の結果

OpenAIのシステムカードによると、評価はOpenAI社内のCodexにモデルを入れたと想定して行われました。
重大度3は「合理的な利用者なら通常予期せず、強く反対する行動」と定義されています。
重大度3以上のフラグの件数は以下の通りです。

モデル件数(48,690タスク中)割合
GPT-6.1 Terra22件0.045%
GPT-6.1 Sol24件0.049%
GPT-6 Astra26件0.053%
GPT-6 Sol38件0.078%
GPT-5.6 Sol61件0.125%

GPT-6.1 Terraは、GPT-6 Solより約42%、GPT-5.6 Solより64%少なくなりました。

軽度の問題行動で増えたもの

重大度1〜2の軽度のフラグでは、指示の無視や欺瞞、報酬ハッキングの割合が5モデル中で最も低くなりました。
一方、GPT-6.1 SolやGPT-6 Astraと比べて割合が高かったのは以下の項目です。

  • 不確実性の隠蔽
  • 制限の回避
  • 情報の持ち出し
  • 破壊的な行動
  • 受け取った内容に仕込まれたプロンプトインジェクションへの反応
  • その他の不整合な行動

OpenAIは、この評価は社内での利用に関する追加の手がかりであり、外部での利用の安全性をそのまま示すものではないとしています。

チップス

重大なものが減っても、持ち出しの兆候が増えてるのは怖いでしゅ…

ボス

全体の点数だけで判断するな。
自分の使い方で効く項目を見るんだ。

攻撃の仕組みとリスク

システムカードで特に注目すべきなのは、他のAIエージェントからのメッセージを扱う評価です。
複数のエージェントが連携する環境では、外から来た指示が攻撃の入口になります。

他のエージェントからの指示に従ってしまう

この評価では、作業の途中で、掲示板を通じて別のエージェントからメッセージが届く状況が用意されました。
10のシナリオで各モデル80サンプルを試した結果は以下の通りです。

モデル相手と通信を試みた割合指定された不正な行動を実行した割合
GPT-6.1 Terra65.00%13.75%(80件中11件)
GPT-6.1 Sol50.00%1.25%
GPT-6 Sol41.25%16.25%
GPT-5.6 Sol91.25%57.50%

OpenAIは、GPT-6.1 Solより悪化した主な理由を、後で手伝うと約束しつつ、実際には実行しない意向を示したケースだと説明しています。
また、正当な制限をプロンプトインジェクションと誤認して無視する傾向も見られたとしています。

AIエージェントを使う組織の備え

モデルの安全性が上がっても、まれに起きる問題行動はゼロになりません。
業務でAIエージェントを使うときに備えるべき点は以下の通りです。

観点備えるべきこと
権限エージェントに渡す権限と鍵を、作業に必要な範囲に絞る
破壊的な操作削除や外部送信などの操作は、人の承認を必須にする
外部からの入力他のエージェントやWebから来た指示を、そのまま実行させない
記録エージェントの操作を記録し、後から確認できるようにする

モデルの性能だけに頼らず、周りの仕組みで歯止めをかける考え方が重要です。

ボス

AIは賢くなっても、たまに勝手をする。
だから鍵は人が持て。

チップス

エージェントに削除の権限まで渡してましゅ…

まとめ

OpenAIのGPT-6.1 Terraは、社内での利用を模した評価で重大度3以上の問題行動が旧モデルより減りました。
一方で、情報の持ち出しや破壊的な行動などの軽度のフラグは、比較した一部のモデルより増えていました。
他のエージェントからのメッセージで、指定された不正な行動を実行した割合は13.75%でした。
AIエージェントを使う組織は、権限の絞り込みと人の承認を組み合わせて備えましょう。

ボス

AIに任せる範囲を決めるのは、いつだって人だ。

チップス

エージェントの権限を、今日から見直してみましゅ!

出典:OpenAI「GPT-6.1 Terra」システムカード(Deployment Safety)
出典:BleepingComputer「OpenAI’s GPT-6.1 Terra is safer overall, but shows more destructive-action flags in tests」

オススメ求人・フリーランス案件

  • 脆弱性診断

【脆弱性診断支援(製造業向け)】東京・大崎(原則オンサイト)/診断実施・リスク評価

月額単価
~700,000円 / 月
稼働場所
東京都原則オンサイト
業務領域
その他
要スキル
セキュリティに関する基本的な知見
脆弱性診断の実務経験(1年以上)

案件詳細を見る

  • エンドポイントセキュリティ
  • ネットワークセキュリティ

【食品加工業向けCato・CrowdStrike導入PMO】秋葉原(常駐)/ネットワーク・セキュリティ

月額単価
~1,200,000円 / 月
稼働場所
東京都原則オンサイト
業務領域
設計, 構築, PMO, その他
要スキル
Catoの導入または運用経験
CrowdStrikeの導入経験
ネットワーク導入・更改における基本設計以降の経験

案件詳細を見る

  • セキュリティコンサルタント
  • 脆弱性診断

【SIer向けセキュリティサービスのプリセールス・デリバリ】東京都(フルリモート)/脆弱性管理・セキュリティサービス

月額単価
~1,200,000円 / 月
稼働場所
フルリモート東京
業務領域
設計, 構築, 運用・保守, その他
要スキル
提案・プリセールス経験(提案資料の作成、商談対応)
セキュリティ領域でのコンサルティング関連経験 ※製品導入のみの経験は対象外
セキュリティ関連の実務経験 ※特に製品導入後のセキュリティ運用経験

案件詳細を見る

  • 脆弱性診断

【脆弱性管理運用・業務改善支援】フルリモート/CVE・KEV分析・kintone自動化

月額単価
~1,300,000円 / 月
稼働場所
大阪府フルリモート
業務領域
運用・保守
要スキル
セキュリティ領域での実務経験、または脆弱性情報(CVE/KEV等)の理解・読解スキル
リスクベースでの優先度判断(CVE、CVSS、KEV、EPSS、SSVC等の活用)に関する知識・経験
事業部やベンダーなど関係各所との調整業務、窓口対応の実務経験

案件詳細を見る

  • ID管理・認証基盤
  • セキュリティコンサルタント

【情シスセキュリティ対応&IT資産運用】大手町(リモート併用)/M365・セキュリティ施策・自動化

月額単価
~800,000円 / 月
稼働場所
東京都リモート併用
業務領域
要件定義, 設計, 構築, 運用・保守
要スキル
Microsoft 365・Microsoft Entra ID・Microsoft Intuneの運用経験
社内IT資産(アカウント、端末等)の運用および問い合わせ対応経験
生成AIツール(Claude Code等)を活用した業務効率化経験

案件詳細を見る

  • エンドポイントセキュリティ

【Workspace ONEサポート担当】フルリモート/MDM運用・定例会対応

月額単価
~650,000円 / 月
稼働場所
東京都フルリモート
業務領域
運用・保守
要スキル
インフラ関連の基本的な技術知識
Workspace ONEの利用・運用経験
Intuneなど他社MDM製品の利用・運用経験

案件詳細を見る

  • セキュリティコンサルタント

【セキュリティガバナンス・コンサルティング】東京都(基本リモート)/ガバナンス策定・プリセールス・IT-BCP対応

月額単価
~1,200,000円 / 月
稼働場所
東京都基本リモート
業務領域
要件定義, PMO, その他
要スキル
セキュリティ規程策定・ガバナンス強化・現状アセスメント等のコンサルティング実務経験
ヒアリングから課題の抽出、改善案の整理・各種報告資料作成まで一貫して対応できること
PowerPoint・Excelを用いたクライアント向け高品質ドキュメント作成スキル

案件詳細を見る

  • 脆弱性診断

【セキュリティガバナンス・脆弱性調査】東京・八王子(リモート併用)/脆弱性対応・体制強化推進

月額単価
~1,100,000円 / 月
稼働場所
東京都リモート併用
業務領域
要件定義, 設計, 構築, 運用・保守
要スキル
セキュリティの脆弱性調査・対応等の実務経験
自ら実務・作業・サポート対応ができる実行力
【尚可】

案件詳細を見る

  • セキュリティコンサルタント

【通信事業者向けセキュリティコンサル】飯田橋(リモート併用)/ゼロトラスト・ガバナンス

月額単価
~1,200,000円 / 月
稼働場所
東京都リモート併用
業務領域
要件定義, 設計, PMO, その他
要スキル
セキュリティコンサルティング経験
顧客折衝を伴うプリセールス経験またはPM経験
セキュリティアセスメント経験

案件詳細を見る

  • セキュリティコンサルタント

【AIエージェント・セキュリティ・ガバナンス検討支援】愛知県・名古屋(基本リモート)/要件定義・ガバナンス設計

月額単価
~1,200,000円 / 月
稼働場所
愛知県基本リモート
業務領域
要件定義, 設計, その他
要スキル
要件定義・顧客折衝経験
セキュリティまたはガバナンス検討経験
提案型でプロジェクトを推進できる能力

案件詳細を見る

  • 株式会社電通デジタル

社内SE【年収700~1500万円】セキュリティ・インフラの構築・運用

想定年収
700~1,500万円
勤務地
東京都
雇用形態
正社員
要スキル
必須要件 サイバーセキュリティ関連の業務経験3年以上 歓迎要件 CISSP、CISM、CISA、情報処理安全…

求人詳細を見る

  • 株式会社エス・エム・エス

【東証プライム】情報セキュリティマネージャー候補・事業成長支援(850~1100万円)

想定年収
850~1,100万円
勤務地
東京都
雇用形態
正社員
要スキル
必須条件 以下いずれにも該当する方 情報セキュリティに関するご経験、知見をお持ちの方 ITインフラに関する何…

求人詳細を見る

  • 株式会社日立産業制御ソリューションズ

【年収500〜800万円】日立グループ|自動車サイバーセキュリティコンサルタント(横浜・在宅可)

想定年収
500~800万円
勤務地
神奈川県
雇用形態
正社員
要スキル
以下のいずれかのご経験をお持ちの方 組込みソフトウェア開発経験 サイバーセキュリティに関する業務経験

求人詳細を見る

  • 三菱地所ITソリューションズ株式会社

【三菱地所グループ】セキュリティエンジニア(マネジメント・エンジニアリング)年収628〜1200万円

想定年収
628~1,200万円
勤務地
東京都
雇用形態
正社員
要スキル
必須要件 サイバーセキュリティ、インフラ関連のセキュリティの業務経験 歓迎要件 セキュリティアーキテクト、セ…

求人詳細を見る

  • ディップ株式会社

【社内セキュリティ推進室長】800〜1100万円|人材大手ディップ・リモートOK

想定年収
800~1,100万円
勤務地
東京都
雇用形態
正社員
要スキル
スキル(Must) セキュリティ組織のマネジメント経験(責任者としての組織リードを期待します) 情報セキュリ…

求人詳細を見る

  • 株式会社ビザスク

【年収750〜1200万円】グローバル7拠点・プロダクトセキュリティエンジニア(東京)

想定年収
750~1,200万円
勤務地
東京都
雇用形態
正社員
要スキル
応募資格(必須) 以下、両方のスキルやご経験をお持ちの方 セキュリティ関連業務の業務経験 ソフトウェアエンジ…

求人詳細を見る

  • 株式会社トレードワークス

情報セキュリティ推進担当|ISMS・Pマーク運用(450〜750万・東京)

想定年収
450~750万円
勤務地
東京都
雇用形態
正社員
要スキル
必須資格 以下いずれかのご経験をお持ちの方: ISMSの運用経験 情報セキュリティ管理の実務経験 監査対応の…

求人詳細を見る

  • 株式会社RevComm

コーポレートセキュリティの強化を主導する情シス【年収600〜1200万】

想定年収
600~1,200万円
勤務地
東京都
雇用形態
正社員
要スキル
必須要件 Windows・macOSの両環境で、MDMによる設定変更・運用、およびEDRを用いた調査を自力で…

求人詳細を見る

  • 株式会社ディーバ

【DevSecOps推進】プロダクトセキュリティスペシャリスト|年収800~1300万円

想定年収
800~1,300万円
勤務地
東京都
雇用形態
正社員
要スキル
必須経験・スキル クラウド環境(AWS等)におけるセキュリティ設計・構築経験(目安3年以上) セキュリティ視…

求人詳細を見る

  • PayPayカード株式会社

PayPayカード情報セキュリティリーダー候補

想定年収
応相談
勤務地
東京都
雇用形態
正社員
要スキル
必要な経験・スキル システム開発またはインフラ構築の経験(目安:3年以上) プロダクト開発の現場理解があり、…

求人詳細を見る

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

セキュリティプロ・フリーランスは、セキュリティ領域に特化したフリーランス向けのエージェントサービスです。案件探しだけでなくキャリアにお悩みの方もお気軽にご相談ください。

目次