AI脅威論を正しく理解するために
2026年10月、韓国の金融機関を標的とした一連のサイバー攻撃で、AIエージェント「ARTEX」が使用されたと報じられました。
AIが銀行を攻撃した。
そう聞けば、人工知能が人間の制御を離れ、金融機関のシステムへ次々と侵入しているかのような印象を抱く人もいるでしょう。
しかし、今回の事件を理解するうえで重要なのは、AIが人間に代わって犯罪を始めたという話ではありません。
人間の攻撃者がAIを利用し、従来は自分で行っていた作業の一部をAIに任せたという点です。
では、そのAIは実際に何をしていたのでしょうか。
ネット探検ラボでは、ARTEX v0.3.19として保存されたソースコードを静的解析し、その内部構造と安全制御の仕組みを調べました。
今回は、事件に関する公開調査資料と、ソースコードから確認できた実装を照らし合わせながら、人間とAIが共同でサイバー攻撃を進める仕組みを考察します。
1．韓国の金融機関で何が起きたのか
米サイバーセキュリティー企業CrowdStrikeは、2026年9月下旬から10月上旬にかけて韓国の金融機関を標的とした攻撃活動を調査し、攻撃者がARTEXというAIを利用したペネトレーションテスト用ツールを使用していたと報告しました。
注目すべきは、攻撃者の管理するサーバー上で、AIとの対話履歴、ARTEXの設定ファイル、作業に関する記録などが発見されたことです。
これは、単に攻撃にAIが使用されたという推測ではなく、攻撃者がどのようにAIを作業に組み込んでいたのかを考えるための重要な手掛かりになります。
一方、韓国の金融機関に対する不正アクセスのすべてがARTEXによって実行されたと確認されたわけではありません。
事件に関する調査結果と、私たちが入手したARTEXのソースコードの解析結果は、それぞれ異なる証拠です。
この二つを区別することが、AI脅威論を正しく理解する第一歩になります。
2．ARTEXとは何か――AIそのものではなく、AIを働かせる仕組み
ARTEXは、AIを利用してセキュリティー検査の作業を自動化するためのソフトウェアです。
通常、ペネトレーションテスト（許可を得てシステムの弱点を調べる検査）では、技術者が対象システムを調査し、使用するツールを選び、実行結果を確認し、次の作業を判断します。
ARTEXは、こうした工程の一部をAIエージェント（目的に応じて複数の作業を進めるAI）に担当させる仕組みを備えています。
今回確認したソースコードには、主に次の役割が実装されていました。
- MainAgent（メインエージェント）：人間からの指示を受け取り、作業全体を管理する中核のAIです。
- Planner（プランナー）：目的に応じて、実行する作業の順序や方法を立てる計画担当です。
- Worker（ワーカー）：Plannerが割り当てた個別の作業を実行する担当です。
重要なのは、ARTEXがAIに質問して回答を表示するだけのプログラムではないことです。
シェルコマンド（コンピューターを文字入力で操作する命令）を実行する機能や、外部の情報を取得する機能を備えており、AIが選択した操作を実際のコンピューター上で実行できる構造になっています。
つまり、AIの判断と実際のシステム操作を接続する仕組みなのです。
ただし、AIモデル自体がARTEXの内部にすべて組み込まれているわけではありません。外部の大規模言語モデルを接続して利用する設計です。
AIが判断を担当し、ARTEXがその判断を実際の作業へと結び付ける。この関係を理解すると、ARTEXの性格が見えてきます。
3．人間とAIはどのように共同作業するのか
ここで、人間の攻撃者がARTEXを使用する場面を考えてみましょう。
従来、人間の攻撃者は対象を調査し、発見した情報を読み解き、次に何を試すかを考え、その都度ツールを操作していました。
AIエージェントを利用すると、この作業の分担が変わります。
人間が目的や対象を指定し、AIが作業計画を提案する。さらに、AIが実行結果を読み取り、次の調査を組み立てることも可能になります。
人間は、すべての操作を自分で入力する必要がなくなります。
しかし、ここで誤解してはならないことがあります。
AIが作業を自動化できることと、攻撃の成功が保証されることは、まったく別の問題です。
攻撃対象に侵入可能な弱点がなければ、AIが何度調査を繰り返しても、必ず侵入できるわけではありません。
AIは存在しない脆弱性を自由に作り出せるわけではないのです。
むしろ注目すべきは、人間の攻撃者が必要としていた時間と労力を削減できる点でしょう。
多数の対象を調査し、結果を比較し、次の作業を検討する。そうした工程が高速化されれば、一人の攻撃者が扱える作業量は増加する可能性があります。
これが、AIによってサイバー攻撃の脅威が変化する重要な理由だと考えます。
4．AIは道具なのか、それともバディーなのか
ARTEXの構造を考えると、AIの役割には二つの側面があります。
一つは、人間が指定した作業を実行する道具としてのAIです。
例えば、人間が調査内容を具体的に指定し、AIがその作業を効率化する場合です。この関係では、人間が中心となって判断し、AIは作業を補助します。
もう一つは、目的を共有し、途中の判断を分担するバディーとしてのAIです。
人間が大まかな目的を与え、AIが調査計画を作成し、実行結果から次の作業を提案する。人間は必要な場面で判断し、方向を修正します。
ARTEXのMainAgent、Planner、Workerという構造は、後者のような使い方を技術的に支えるものです。
もっとも、これはAIが人間と同じ意味で意図や責任を持つということではありません。
目的を与え、実行環境を用意し、権限を付与するのは人間です。
AIの自律性とは、与えられた条件の範囲で作業手順を選択できるという意味であり、人間の責任が消えるという意味ではありません。
5．ARTEXには安全装置があるのか
今回の静的解析では、ARTEXに安全制御の仕組みが実装されていることを確認しました。
まず、agent/constraints.go には、許可される行為や禁止される行為などをAIへの指示として組み込む処理があります。
これは、AIに作業上の制約を伝える仕組みです。
しかし、AIへの指示文は、それ自体がコンピューターの権限を強制的に制限する仕組みではありません。
そこで重要になるのが、guard/guard.go と intercept/intercept.go に実装された安全制御です。
これらには、ツールを実行する前に操作内容を審査し、許可、拒否、あるいは人間への確認を求める仕組みが存在します。
Interceptor（インターセプター、実行前に操作を受け止めて確認する仕組み）が設定されていない場合や、審査対象から除外されたツールについては、該当する審査を経由しない構造があります。
データベースの初期設定には、危険な操作を制限するルールも用意されています。
また、AIによる補助判定が失敗した場合の既定動作として、フェイルオープン（判定できないときに処理を許可する設計）を選択できる設定も確認されました。
ここから導ける結論は明確です。
ARTEXには安全装置が実装されています。しかし、その有効性は設定や実行条件に左右され、一部の操作が安全審査を通過せずに実行される可能性があります。
特に重要なのは、どの安全制御が有効になっているか、どの権限で動作しているか、どのツールが審査対象になっているかという点です。こうした設計上の特徴は、ARTEXに限らず、AIエージェント全般の安全性を考えるうえでも重要な意味を持つと考えます。
6．韓国の事件が示した本当の脅威とは
韓国の金融機関を標的とした攻撃について、公開情報から読み取れる重要な点があります。
それは、AIを利用したからといって、攻撃の基本原理がすべて新しいものに置き換わったわけではないということです。
- 対象を調査する
- 弱点を探す
- 利用可能な権限を得る
- 情報を収集する
これらは、AIが登場する以前から存在していたサイバー攻撃の工程です。
AIによって変化するのは、その工程を進める速度、必要な人的労力、同時に扱える作業の規模などです。
さらに、AIが作業結果を読み取り、次の手順を組み立てるようになれば、従来は経験豊富な人間が担当していた判断の一部も自動化されます。
一方、AIには判断ミスもあります。対象システムの構造を誤解したり、実行結果を正しく解釈できなかったりする可能性もあります。
人間の攻撃者にとっても、AIは万能な相棒ではありません。
だからこそ、AIを利用した攻撃を「防御不可能な新しい脅威」として扱うことには慎重であるべきです。
7．防御側は何を変えるべきなのか
ARTEXのような仕組みを理解すると、防御側が重視すべき課題も見えてきます。
AIが攻撃作業を高速化するのであれば、防御側も脆弱性の発見、設定の点検、異常の検知、初動対応を高速化する必要があります。
特に重要なのは、認証・認可の適切な設定、公開システムの継続的な点検、不要なアクセス経路の削減、管理権限の保護です。
また、正規のアカウントや通常の通信を悪用する攻撃に備えるためには、単に既知のマルウェアを検知するだけでなく、操作の内容や権限の使われ方にも注目する必要があります。
AIによって攻撃側の作業効率が向上するなら、防御側もAIを活用して点検や分析の速度を高めることが合理的です。
AIが攻撃者の能力を拡張するのであれば、防御側もAIによって自らの能力を拡張できるはずです。
脅威を過大評価して恐れるだけではなく、攻撃の仕組みを理解し、対抗する技術と運用を整えることが重要と考えます。
8．結論――恐れるべきはAIそのものではなく、AIを使う人間の能力の拡張
今回のARTEX解析で見えてきたのは、人間とAIが共同作業するための具体的な技術構造でした。
人間が目的を与え、AIが計画を立て、ツールが実行し、その結果を次の判断へつなげる。
この循環が高速化されることに、AIエージェントの特徴があります。
しかし、AIが高度化したからといって、すべてのセキュリティー対策が無意味になるわけではありません。
攻撃者がAIを利用する時代には、防御側もAIを利用する。そして、従来から重要とされてきた権限管理、攻撃面の削減、監視、復旧能力を強化する。
必要なのは、AIに対する漠然とした恐怖ではなく、技術に基づく冷静な理解です。
韓国の金融機関への攻撃とARTEXの事例は、AIがサイバー攻撃をどのように変え得るのかを考えるための、重要な材料を提供しています。
AIは攻撃者にとって強力な道具となり、時には作業を分担するバディーにもなります。
しかし、その力をどのような目的に使用するかを決めるのは人間です。
そして、防御する側にも同じ技術を利用する選択肢があります。
AI脅威論を理解するために必要なのは、「AIが何をしたか」という見出しだけではありません。「人間がAIに何を任せ、どのような仕組みで実行させたのか」を明らかにすることなのだと考えます。
調査方法と対象
本記事は、ARTEX v0.3.19として保存されたソースコードの静的解析結果、および2026年10月19日までに公表された外部調査資料に基づきます。
ソースコードについては全ファイルの自動走査、Goコードの構文解析、主要なエージェント処理と安全制御機構の重点解析を実施しました。全行の意味論的監査、動的実行、攻撃再現、外部通信の実測は行っていません。
また、解析対象のソースコードが韓国の攻撃者の実行したバイナリと完全に一致することを確認したものではありません。事件における利用状況は外部調査資料に基づくものです。
コメント