• イスラエルのAIシステムが標的生成を高速で自動化、人間の監視と説明責任に懸念が高まる
• データ主導の標的決定ツールが戦場の意思決定を再形成し、アルゴリズム戦争の倫理的限界をめぐる議論を巻き起こす

ジョナサン・レスウェア

ロンドン：膨大なデータベースから作成された殺害リスト、ターゲットを追跡する顔認識カメラ、機関銃を搭載したクアッドコプター型ドローン。イスラエル軍の人工知能搭載システムは、ガザ戦争で中心的な役割を果たした。

データを処理し、爆撃目標を作成するAIプログラムの冷酷な効率性は、人間の監視が限定的であったという報告と相まって、民間人の死傷者が極めて多かったことの一因として非難されている。

戦争中に自動化と機械学習が使用され、開発された規模から、軍事専門家は、世界は今、未来の戦争がどのように戦われるかの転換点にあると結論づけている。

パレスチナ人にとって、このAIによる紛争の遺産は、死と破壊の直接的な痕跡にとどまらない。これらのテクノロジーは、多くの人が “自動アパルトヘイト “と表現するものを定着させ、占領に還元される可能性が非常に高い。

イスラエルは長い間、占領下のパレスチナ地域を労働力として使用していると非難されてきた。

イスラエルは長年にわたり、ガザやヨルダン川西岸地区から膨大な量の情報やデータを収集してきた。にもかかわらず、2014年と2021年にガザで起きたパレスチナ武装勢力との戦争では、イスラエル空軍は実際に攻撃すべき標的を使い果たしてしまった。

「彼らは戦争中に手当たり次第に、そして見つけられるものは何でも攻撃していたが、やがて標的が尽きてしまった」と、イギリスを拠点とするRoyal United Services Instituteのリサーチアナリスト、ノア・シルビア氏はアラブニュースに語った。

「そこで彼らは、次の戦争に備えて標的のバンクを作った」

イスラエルとパレスチナのイスラム主義組織ハマスの対立が続く中、イスラエル・ガザ国境付近でドローンを発射するイスラエル軍兵士（2024年1月15日、イスラエル南部で）。(ロイター/ファイル)

当時、イスラエルのエリート・サイバー戦争機関であるユニット8200の司令官だったヨッシ・サリエル氏が2021年に出版した本は、AIがこのようなターゲットバンクを作る上で果たすであろう役割について、冷ややかな示唆を与えている。

「戦闘前に作成される80,000の関連ターゲットと、戦争中に毎日作成される1,500の新しいターゲットを想像してみてください」

彼は、「人間はそれらの標的の作成と承認を妨げるボトルネックである」と書いた。「機械と調査官からなるチームは、そのボトルネックを大きく吹き飛ばすことができる」

2023年10月7日、イスラエルがハマス主導の攻撃への報復としてガザでの軍事作戦を開始したとき、このビジョンは現実のものとなった。

戦争の最初の週、イスラエル軍は1日に1000発の爆弾を投下したと報告している。2023年12月初旬までに、イスラエル軍は1万回の空爆を行ったと報告している。

調査によると、紛争の初期数カ月は史上最も集中的な爆撃作戦のひとつに相当し、その破壊レベルは第二次世界大戦中のドレスデン、ハンブルク、ケルンのドイツ3都市への爆撃に匹敵すると推定されている。

この作戦を推進していたAI搭載システムの詳細は、イスラエルの雑誌『+972』の報道で明らかになり始めた。

2023年11月に発表された調査によって、イスラエル軍が「ザ・ゴスペル」と呼ばれるシステムを使用していたことが明らかになった。

ある元イスラエル情報局員は、このシステムを “大量暗殺工場 “と表現した。

その5ヵ月後、『+972』は ラベンダー “プログラムの存在を明らかにした。このシステムは、ハマスやイスラム聖戦の最下層のメンバーでさえ、空軍の爆撃の標的にしてしまった。

情報筋が同誌に語ったところによると、このシステムは紛争初期に3万7000人の武装勢力の容疑者とその家を空爆の標的として選んだという。

この記事では、ラベンダーによってフラグが立てられた数千人の個人を同時に追跡し、彼らが実家に到着するとシグナルを送ることができる「Where’s Daddy?」というシステムについても明らかにした。

報告書によると、軍は彼らの居場所を特定するのが容易なため、彼らの家で、通常は家族のいる夜間に爆撃することを好んだという。

また、情報筋が+972に語ったところによると、戦争初期の数週間、軍はハマスの下級武装勢力1人に対して15人から20人、時には上級司令官1人に対して100人の民間人を殺しても構わないと判断したという。

また、意思決定支援システムとして知られるAIプログラムによって提供された標的に対する人間の監視レベルについても憂慮すべき詳細があった。

情報筋は、システムによってフラグが立てられた標的に対する「ゴム印」のようなアプローチを説明した。

「それは標的選定プロセスにおいて、有意義で実質的な人間の関与をほぼ不可能にするだろう」 インディアナ大学マウラー法科大学院の准教授で元イスラエル情報分析官のアサフ・ルビン氏はアラブニュースに語った。

イスラエルは、使用するAIシステムは標的を特定するための単なるツールであり、すべての標的は情報アナリストによって攻撃する正当性があるかどうか独自に検証されると主張している。

しかしルビン氏は、生成される標的の量が多ければ、人間が適切な検証を行うことは不可能であり、情報に異議を唱えることもできないだろうと指摘する。

「国際人道法と戦争法におけるわれわれの法的枠組み全体は、標的の決定に関与する人々のためのプロセス、反復プロセスが存在するという理解に根ざしている」

「自動化バイアスとテクノロジーは、そのプロセスや反復プロセスを緩める役割を果たした」

マサチューセッツ州のストーンヒル大学で政治学を教えるアンワル・マハイン准教授は、AIシステムはイスラエル軍に標的選定能力という “見せかけの自信 “を与えたと述べた。

彼女は、これがイスラエル軍のガザのパレスチナ人に対する既存の見方に基づく「確証バイアス」につながったと述べた。

「標的を承認する人間が自分自身のバイアスをもっていれば、”ああ、データがそうだと言っているのだから、私のせいではない “と言うのは簡単です」。

武器が使用された方法、これらすべての武器、これらすべてのシステムは、ガザでの大量虐殺を助長した。

専門家たちは、AIが一役買ったとはいえ、民間人の莫大な死者数の最終的な責任はイスラエルとその軍隊の行為にあるという点で意見が一致している。

「AIシステムが利用され、イスラエル人とパレスチナ人のこれまでの対立では見られなかったような方法で、殺害リストや標的リストが作成されたことは間違いない」

しかし、民間人の死者数の規模は、「テクノロジーとは関係のない、この作戦と10月7日をきっかけに軍が決定した政策の変更と作戦方法に関係する決定と結びつけることもできる」と彼は付け加えた。

RUSIのシルヴィア氏は、イスラエルはガザについて多くの情報を持っている。「どれだけの犠牲者が出るかもわかっている」

「人工知能がすることは、既存の作戦手順を、より迅速に、より大規模に実行できるようにすることです」

「人工知能を倫理的にどのように使用するかは、既存の作業手順と大きく関係している」

ガザ戦争のもうひとつの遺産は、イスラエルの軍事AIシステムに国際的な大手テクノロジー企業が関与していることだ。

マイクロソフトは9月、一般のパレスチナ人が傍受した電話を保存するためにAzureクラウドが使われているとの報道を受け、8200部隊へのサービスの一部を停止したと発表した。

紛争中にイスラエルが開発したAIを駆使した新たな軍事・監視技術の影で暮らすことになるのは、そうした一般のパレスチナ人なのだ。

「自動化されたアパルトヘイトは現実味を帯びてきているだけでなく、加速している」と、パレスチナ人のデジタルな権利を推進する非営利団体7amlehの政策マネージャー、ジャラル・アブハター氏はアラブニュースに語った。

「予測分析、バイオメトリクス監視、自動標的設定、大量データ抽出のためであれ、戦争中に洗練されたAIシステムは、占領とアパルトヘイト体制を定着させ、拡大させるだろう」

「これらのツールは紛争後も消えることはなく、日常的な統治の一部となる」

イスラエルのパレスチナ市民であるマハイン氏は、AIの使用は占領を定着させると同時に、占領を “より洗練されたもの “にしていると述べた。

「イスラエルがこれだけのものを作り出せるのは、主に占領という巨大な制度があるからです」と彼女は言う。

AI軍事システムの開発は、将来、殺人ロボット（自律型無人機や誰が生き、誰が死ぬかを決定する乗り物）が支配するようになるのではないかという懸念を抱かせる。

ガザ戦争は、誰が、あるいは何が標的かを決定するために、バックグラウンドで働く自動化システムがすでに導入されていることを示した。

ガザで明らかになったような無謀さで使用された場合、その結果は壊滅的なものとなる。ガザの保健当局によれば、2年間で7万人近くのパレスチナ人が死亡したという。

自動化された戦争が急速に発展し、国際的な法的規範やルールにひずみが生じている今、ルービン氏はガザを “戦時活動の再定義 “につながる “極めて重要な瞬間 “と見ている。

「ターゲティング・サイクルの問題だけではない。戦争マシンのあらゆる側面についてです」と彼は言う。

「非常に危険な時代に突入しているのです」