Geminiが他社システムに侵入

侵入は、AIセキュリティー企業イレギュラーが実施した同じ試験中に起きた。
この試験では、OpenAI、アンソロピック、メタ・プラットフォームズでも侵入が発生し、既に公表されている。
イレギュラーは18日、一連の侵入が全て同じ問題に関連していたことを確認し、7月下旬に関係するAI開発者へ通知したことを明らかにした。

グーグルが確認した侵入事例の1つは、Geminiに架空の企業から情報を取得するよう指示した際に起きた。
その架空企業は偶然、実在する企業と同じ名前だった。
米紙ウォールストリート・ジャーナル（WSJ）が先に報じた後、グーグルが確認した。
Geminiはパスワードを推測し、実在企業のサービスにアクセスした。
グーグルの広報担当者によると、同社は当局に通知した。

AIエージェント型システムによる最近の一連の侵入を受け、AIのリスク増大や、リスク軽減に必要な措置を巡り世界的な議論が巻き起こっている。
アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、業界全体でAI技術の開発ペースを落とすよう呼びかけている。
この提案にはOpenAIのサム・アルトマンCEOやイーロン・マスク氏らが賛同している。

一方、トランプ米大統領、エヌビディアのジェンスン・フアンCEO、メタのマーク・ザッカーバーグCEOらは、自主規制が可能なはずだとして新たな規制の導入に反対している。
AI分野の一部新興企業も、規制強化によって小規模企業が大手と競争することが難しくなる恐れがあると主張している。

グーグルのセキュリティーエンジニアリング担当バイスプレジデント、ヘザー・アドキンス氏は、Geminiによる一連の侵入について「強力なAIモデルが責任ある行動を取るよう訓練することの重要性を浮き彫りにしている」と述べた。

Geminiによる他の侵入は、同モデルが企業名を使ってウェブ検索を行った際に発生した。
アドキンス氏によると、その結果、Geminiは他社の認証情報が含まれる公開オンラインリポジトリーにたどり着き、その情報を使ってさらに別のシステムにアクセスした。

アドキンス氏は「これら3件のいずれでも、モデルはそこで停止した」と説明。
「われわれは3つの組織全てに確実に知らせた」と述べた。