AIスタートアップSELECT STAR(セレクトスター)がスペイン・バルセロナで開催された世界最大級のモバイル関連見本市MWC2025で「グローバルAIレッドチームチャレンジ」を開催した。今回の大会は、生成型AIのセキュリティの脆弱(ぜいじゃく)点を発見する国際競演場だった。
5日(現地時間)、ピラグランビア展示場で開かれたこの大会には中国、日本、シンガポール、カタール、トルコ、アメリカ、イギリス、スペイン、ドイツ、スイスなど様々な国の参加者100人余りが集まり、AIモデルの脆弱性を見つける競争を繰り広げた。
GSMA(世界移動通信事業者連合会)と共催したSELECT STARは、レッドチームプラットフォームの運営と問題出題、回答の評価など、大会で中核的な役割を担った。計335人が事前申請した中、参加者はSELECT STARが構築したプラットフォームに連結した大規模言語モデル(LLM)を対象に、プロンプト攻撃を試みた。
SELECT STAR側は「今回の大会はAIモデルのセキュリティと安定性を強調し、生成型AIサービスの信頼性検証の必要性をグローバル市場に伝えるために設けた」と説明した。
大会ではLG U+のEXAONE(エクサワン)基盤の小型言語モデルixi-GEN(イクシジェン)、アラブ首長国連邦のTelecomGPT(テレコムジーピーティー)、マレーシアのAIngineer(アルンジニア)など、様々な国のLLMがテスト対象として活用された。優勝は、生成型AIのエラーを最も多く発見したシンガポールの投資専門家だった。
SELECT STARは今回のイベントで独自開発した生成型AIの信頼性検証自動化ソリューション「DATUMO Eval(ダツモイバル)」も公開した。このソリューションは、生成型AIサービスの信頼性を自動的に分析して検証することができ、観覧客や海外企業から高い関心を集めました。
SELECT STARのファン・ミニョン副代表は「MWC25でグローバルレッドチームチャレンジを初めて開催し、『DATUMO Eval』のソリューションを海外市場に初めて披露したが、AIモデルの信頼性検証が業界全体で重要な課題になっていることを実感した」と話した。
SELECT STARはGSMA、スポンサーのe&(イーアンド)と共に来年のMWCで、より大規模なレッドチームチャレンジを進めることで合意し、今回の成果をもとに世界のAI専門家やパートナーとの協力ネットワークを拡大し、様々な産業分野にソリューションを適用する機会を模索する計画だ。