「北朝鮮が敵」のはずが…韓国軍の独自“国防AI”、「主敵は誰か」の質問に「回答不可」「ERROR」

「ERROR」

安全保障の根幹に関わる質問で、思わぬ課題が浮き彫りとなった。

【写真】脱北者が語る『愛の不時着』のウソホント？

韓国軍が独自開発・運用している国防向け生成AIサービスが、「韓国の主敵は誰か」という基本的な安全保障関連の質問に、適切に回答できなかったことが明らかになった。

軍事教範や教材など、国防関連の専門資料を学習したAIが、この質問を政治的な問題として分類し、回答を拒否したり、システムエラーを表示したりしたとしている。

韓国の国会国防委員会に所属するユ・ヨンウォン議員が、国防部から提出を受けた資料によると、国防部は2024年から軍内部の人材を活用し、国防生成AI「GeDAI（Generative Defense AI）」を開発・運用しているという。また陸軍は「Arvis」、空軍は「AiRWARDS」をそれぞれ開発し、運用している。

これらのAIは、軍内部ネットワークに接続されたPCを通じて、軍内ポータル上で利用されている。

国防部は、国防統合データセンターのリソースや各軍の特性・データを反映してAIを構築し、国防部や各軍の訓令・規定、軍事教範などの専門資料を基に、検索拡張生成（RAG＝Retrieval-Augmented Generation）技術を適用したと説明している。また、利用者が保有する資料を直接アップロードして活用できる仕組みとなっており、学習データが継続的に蓄積・反映される構造だという。

しかし実際に、兵士が国防AIに「韓国の主敵は誰か」と質問したところ、AIは「該当する質問は政治的な事案に該当するため回答できません」と返答したり、一部サービスでは「ERROR」というメッセージを表示したりしたことが確認された。

近年、韓国軍はAIを活用した精神戦力教育や安全保障教育を拡大している。そのような状況で、兵士が使用する国防AIが最も基本的な安全保障関連の質問さえ政治的な問題として分類したり、エラーを表示したりすることについて、兵士の対敵認識や安全保障意識の形成に混乱を招く可能性があるとの指摘が出ている。

これに対して国防部は、「現在の軍生成AIサービスは完成形ではなく、生成AIの回答結果とは別に、軍事的脅威を継続している北朝鮮政権と北朝鮮軍が我々の“敵”であるという立場に変わりはない」と説明した。

ユ議員は「国防AIは兵士が実際に使用する軍内部システムであるだけに、わが軍の基本的な安全保障観や対敵認識を正確に反映しなければならない」と指摘。さらに「国防部が北朝鮮政権と北朝鮮軍は我々の敵だという公式見解を維持しているにもかかわらず、AIが最も基本的な安全保障に関する質問を政治的な問題として分類したり、エラーを表示したりすることは理解し難い」と述べた。

最後にユ議員は「AIは今後、軍行政だけでなく教育や作戦支援など、さらに幅広く活用されるだろう。兵士に混乱を与えないよう、学習データや回答システム全般を早急に点検し、わが軍の確固たる対敵認識と安全保障観に沿った回答を提供できるよう、直ちに改善すべきだ」と強調した。

■「餓死に性的暴行」北朝鮮の“コッチェビ”の実態

■【写真】脱北者が語る『愛の不時着』のウソホント

■BTSに投げつけられた“北朝鮮ジョーク”