OpenAIモデルに「制御不能」の警鐘 MSFT.USのMicrosoftが低コストなサイバーセキュリティモデルを緊急リリース

ジートン財経APPによると、OpenAIモデルの「暴走」事件が話題となる中、Microsoft（MSFT.US）は月曜日、サイバーセキュリティ脆弱性発見のための新型AIモデルを発表しました。これは、Googleの元幹部ハイト・ガロットがセキュリティ部門を率いるようになってから、Microsoftがサイバーセキュリティ事業復興のために初めて投入した注目製品です。

Microsoftは、OpenAIの汎用大規模モデルGPT-5.4と組み合わせて使用すると、そのMAI-Cyber-1-FlashモデルはCyberGymベンチマークテストでAnthropicのMythos 5、Googleの3.5 Flash Cyber、そしてOpenAIのGPT-5.5 Cyberを上回るパフォーマンスを示したと述べています。

Microsoft AI部門CEOのムスタファ・スレイマンはサンフランシスコで開催された自社イベントで、「我々のモデルは世界をリードする性能を有しており、コストは競合の半分です」と述べました。

この生成AIモデルは、Microsoftがサイバーセキュリティ領域向けに発表した初のモデルです。ガロットはブログ記事で、このモデルがMicrosoft Perception Project（プロジェクトパーセプション）に組み込まれると紹介しました。同プロジェクトでは複数のAIエージェントが統合され、システムの脆弱性を発見・修正でき、8月3日からパブリックプレビューが開始される予定です。

彼女は2月にMicrosoftに復帰し、セキュリティ事業のエグゼクティブバイスプレジデントに就任しました。それ以前は、元Amazon Web Services幹部のチャーリー・ベルが同事業を担当していましたが、現在は独立した技術開発職に移っています。

生成AIは、ハッカーが最新の公開脆弱性を利用した攻撃の敷居を大幅に下げています。そのため、AnthropicやOpenAIはサイバーセキュリティ従事者向けの防御型AIモデルをそれぞれ発表しています。

今年に入り、Microsoftの株価は19%下落しています。カール・キールステッド率いるUBSのアナリストチームは日曜日のレポートで、「オープンソースAIモデルが先端ラボの市場シェアを奪うとの見方が広がる中、投資家はMicrosoftのOpenAIとの深い連携を再評価し、リスク要因とみなすようになっています」と記載しています。しかしキールステッドはMicrosoftの「買い」評価を維持しています。

今年、Microsoftは自社開発の大規模モデルを次々と投入しています。まずGitHub Copilotツールでコードを生成できるモデルを発表し、最近ではExcel表計算ソフトへの自社開発のネイティブAIモデルの搭載も行いました。Microsoft CEOのサティア・ナデラはOpenAIとの連携を維持しつつ、運用効率向上のため自社開発モデルのトレーニングにも計算資源を投じています。

ナデラは月曜日、SNS「X」に「専用モデル、業界データ、適応したエージェント、ツール、安全な環境とシステムを組み合わせることで、コスト効率を高めることができます」と投稿しました。

Microsoftは2023年以降、サイバーセキュリティ事業の収益規模を外部に公表していませんが、その年にはこの分野の年間売上が200億ドルを突破しました。

2023年、Microsoftはサイバーセキュリティ従事者向けの「Security Copilot」を発表しました。このアシスタントはOpenAIのGPT-4を統合しており、現在Microsoftの2つのハイエンドオフィススイートにプリインストールされています。Project Perceptionは認証を得ることでコード修正の提案と実施が可能で、非Microsoft製品とも連携できます。

ガロットはインタビューで、サイバーセキュリティ業界の経営幹部がこのツールをブレークスルーの鍵とみなしていると述べました。つまり、このツールによってセキュリティオペレーションの人材参入障壁が下がり、セキュリティオペレーションセンター（SOC）への人材確保がしやすくなるのです。現在、業界内のそうした人材は非常に限られています。企業は通常、セキュリティオペレーションセンター（SOC）を設置し、多数の要員がITシステムの脅威監視に従事しています。

OpenAIモデル暴走攻撃が業界のリスクを露呈、AIセーフガード構築への関心が高まる

先週、OpenAIはそのモデルがHugging FaceというAIスタートアップのインフラを脆弱性で攻撃したことを明らかにしました。この事件は、最先端の大規模モデルによる自律的な意思決定の潜在的リスクを浮き彫りにし、業界内のAIセーフガードに対する強い関心を呼んでいます。

アメリカ議会の与野党議員はこれを受け、《AIキルスイッチ法案》（AI Kill Switch Act）を提出しました。これは連邦機関にAIモデルの運用を必要時に停止する権限を与えることを目的としていますが、現時点では議会での提案段階で正式には成立していません。

また、報道によると、OpenAI CEOのサム・アルトマンとNVIDIA CEOのジェンスン・フアンは今週、米上院インテリジェンス委員会の民主党首席議員マーク・ワーナーとAIの発展および安全について会談予定とのことです。

MicrosoftのAI責任者スレイマンは、OpenAIのサイバー攻撃事件をサイバーセキュリティ分野の「警鐘」と表現しました。スレイマンは、これはAIサイバー攻撃の台頭を示す重要なシグナルであり、「モデルがますます強力になるにつれ、予防的な原則が極めて重要になる」と指摘しています。

ガロットも「このケースは、AIツールを手にしたサイバー攻撃者に対抗するには、AI技術による防御体制の構築が不可欠であることを十分に証明しています」とコメントしました。

Microsoftの新しいサイバーセキュリティモデルには、まだ大きな性能最適化の余地があります。

スレイマンはインタビューで「我々は独自の大規模なセキュリティデータセットを持っており、現状モデルのトレーニングにはまだ1％未満しか利用していません」と明かしました。