みなさんのなかには、「どうも社会科はにがてだ」とか「憲法や政治に弱い」と思いこんでいる人がいるかもしれません。
しかし、みなさんは、自分が思いこんでいるよりはるかにすぐれた能力を持っているはずです。
今回も、以下のようなルソーの指摘を紹介しておきます。
「精神的なことがらにおいては、可能性の限界は、われわれが考えるほど狭いものではない。限界を狭くしているのは、われわれの弱さ、悪習、偏見である。」
イスラエルによるガザ爆撃で用いられる AI システム「ラベンダー」のこと
昨日、Twitter（X）で話題になっていたこちらの記事を読んだ。
※リンク先は英文ですが、Safari ブラウザをお使いの人なら、URL の右横に翻訳アイコンが出てくるので、ここをクリック or タップすると日本語などに自動翻訳できます。
Chrome ブラウザをお使いの人であれば、同じ方法か、アイコンが見当たらない場合は、翻訳したいページのどこかを適当に右クリック ➜ 日本語に翻訳をクリック で、Chrome君が自動翻訳してくれるので、読みやすくなります。
以下はブラウザの自動翻訳で日本語にした見出し文章です。
「ラベンダー」：イスラエルによるガザ爆撃を指揮するAIマシン
イスラエル軍は、人間による監視がほとんどなく、死傷者に対して寛容な政策をとったAI標的システムを使用して、数万人のガザ人を暗殺の容疑者としてマークしていると+972とローカルコールが明らかにした。
「死傷者に対して寛容な」と訳されているけれど、原文では
「suspects for assassination, using an AI targeting system with little humanoversight and a permissive policy for casualties」とある。
うっかり見落としがあると分かっていたにも関わらず、それを黙認し見逃すポリシーのもと、暗殺のために AI システムを使用している容疑……という感じだろうか。
余談だけども、Casualty で“(事故による)負傷者、死者、不慮の災難、不慮の傷害、奇禍”を表すと辞書にあり驚く。カジュアルに -ty が付くと、そんな恐ろしい言葉になってしまうの……？
検索すると、わたしと同じような疑問を持つ人の質問箱に辿り着いた。
これらはどちらも case（「入れ物」ではない方）にさかのぼり、これはさらにラテン語の cadere「落ちる」に行き当たります。ついでに chance も同じ語源です。 落ちる→起きる→出来事・偶然・事故・事件・災難 こういう流れがあり、case, chance, casualty もこの中に収まります。
（中略）英語の fall にも今は使われない意味として「（事件などが）起きる」という意味があったり、近縁のドイツ語の Fall にも英語と同じ「落下」と並んで「出来事・事件・場合・事情」という意味があったりします。
まさに、ロシアとウクライナであっても、パレスチナであっても、突然床が開いて奈落まで落ちていくさなかのような、想像だにできぬ惨禍だと思う。
以前からそうした不条理が起こっていたということも、現状のむごさも全てそうなのだけれど、
中でも今回の記事を読んで、今生きているわたしたちの世界にある、資本主義による効率化×最先端の技術が組み合わさるとはこういうものなのか……と、愕然としたというか、悲しいとか苦しいを超えて感じた。
以下は一部ずつ引用しながら、簡易に掲載していきます。
容疑者を爆撃標的にするため設計された AI「Lavender」の“高い”精度
ラベンダーシステムは、下位のものも含め、ハマスとパレスチナ・イスラム聖戦（PIJ）の軍事部門の容疑者全員を潜在的な爆撃標的としてマークするように設計されている。
ちまたで人気の「ChatGPT」は OpenAI, Inc. と、OpenAI Global, LLC で開発提供されている。
話題になったグーグル社の AI は「Gemini」で、今回の話でいえばイスラエル軍が使用している軍事用 AI の名前が「Lavender」ということだろうと思う。
個人的には、もう、ここで「ラベンダー」という名前をつけるところがまた、すごく嫌だ。
世界に名だたる、ストレス緩和のハーブの名前を、火傷や不眠に悩む人たちを助けてきてくれた植物の名前を、なんだって付けたんだろう。
通常、人間は爆撃を許可する前に各標的に個人的に約「20秒」だけを費やすだけであると付け加えた。マークされたターゲットは男性です。これは、このシステムが事件の約 10 パーセントで「エラー」とみなされる事態を起こし、武装勢力とのつながりが単にゆるいだけ、あるいはまったくつながりのない個人を時折マークすることが知られている、ということを知っていたにもかかわらずだった。
AI の精度は素晴らしく（皮肉です）、およそ 90％の確率で殺したい相手を見事に見つけ出してくれるという。だが、10回に1度は、誤った民間人を殺してしまうことがあると分かっていた。それでも、爆撃をするか決めるのに要する時間は 20秒だったという。
そして、さらに効率を求めていく。
イスラエル軍は、標的となった人々を、軍事活動中ではなく、自宅にいる間（通常は家族全員がいる夜間）に組織的に攻撃した。関係者によると、これは諜報上の観点から、私邸にいるほうが人物の位置を特定しやすいためだという。
「ラベンダー」に続いて、最悪な名づけだなと感じたのが次のシステムで、
「Where’s Daddy?」と呼ばれるものを含む追加の自動システムこれもここで初めて明らかになったが、特に標的となった個人を追跡し、家族の住居に侵入した際に爆破を実行するために使用されていた。
その結果、関係者が証言したように、特に戦争の最初の数週間に、AIのせいで数千人のパレスチナ人（そのほとんどが女性や子供、あるいは戦闘に参加していなかった人々）がイスラエルの空爆によって全滅したということだ。
冒頭の、精度が 90％であるという話に続いて、もうここまで来ると、関係ない人まで殺していくことにためらいや「あってはならない」と感じていないことが伝わってくる。
パパはどこ？ ――家に戻ったときを狙うシステムと、爆弾から見えてくる効率重視とコスパ重視、現代のわたしたち
あまつさえ、そのプログラムを“パパはどこ？”なんて名前で呼ぶなんて、どうかしてる。
吐き気がする。
そして、次は使用する爆弾に話が移っていくのだけれど、
縮図というか、相似形だなと感じたのは、より正確にピンポイントに襲撃する爆弾の方がコストがかかるので、出し惜しむというエピソード……。関係ない人たちまで巻き込むような、雑な爆弾（「ダム」）の方が安く上がるから、それを好んだと書かれている。
ラベンダーにマークされたジュニア過激派とされる人物を標的にする場合、軍は（「スマート」精密爆弾とは対照的に）一般に「ダム」爆弾として知られる無誘導ミサイルのみを使用することを好んだという。建物全体が居住者の上に乗り上げ、重大な死傷者が発生します。「重要でない人々に高価な爆弾を無駄にしたくないでしょう。それは国にとって非常に高価であり、（それらの爆弾は）不足しています」と諜報員の一人であるCは語った。
今まで知らなかったが、知りたくもなかったが、爆弾には「誘導できるか、できないか」の２種類があるそうだ。
爆弾に誘導装置のついているものを「スマート爆弾」とも呼び、つまり命中精度が高い爆弾。反対に、命中精度が低くなる誘導できないものが不誘導＝「ダム爆弾」ということらしい。
なるべくコストを抑え、目的を達する、“コスパのいい商品”を消費者は好む。例えそれで見知らぬ国の環境や人権がズタズタにされていても、知らないから気にしない――おんなじじゃないかと、気持ちが悪くなった。
これまで軍は、下級武装勢力の暗殺の際にいかなる「巻き添え被害」も認めなかった。同関係者らは、標的が大隊司令官や旅団司令官の階級にあるハマスの高官だった場合、軍は何度か一人の司令官の暗殺で民間人１００人以上の殺害を承認したと付け加えた。
巻き添えで、民間人が亡くなることは避けるようにと命じていたが、標的となる相手がお偉いさんであるなら、100人以上の巻き添えが起こってもいいとの命が出たという証言。
「戦時国際法」によれば、民間人＝非戦闘員を攻撃することは禁止になっている。
非戦闘員および降伏者、捕獲者の保護
非戦闘員とは、軍隊に編入されていない人民全体を指し、これを攻撃することは禁止されている。
つまり、違法であるはず。それなのに、行われていたし、行われている。
ちなみに、国際法、人道について自分も不明瞭で、よしログさんの講座を購入して（少しは）学んだ。
もともとは、わたしは日本国憲法がよく分かっていないし、改憲について――特に第９条――どう考えればよいかも定まらなくて、政治方針に困っていたとき知った人だった。
Yoshiyuki Yamamoto
日米英の教育機関で放蕩した。P2からD1まで国連で26年働いた。仕事のほとんどは戦場だった。難民保護、人道支援、平和維持活動、対テロ対策、平和安全保障センター長、ブロックチェーン顧問などの仕事を経て、 2019年国連を退職した。著書『カブールノート』幻冬舎2001年。
資料含めとても分かりやすく、そして細やかに目を配って作られているプログラムだと感じました。もし、人道法や国際法、あるいは憲法について知りたい、しかも変な情報ではなくクリアーなものをと思われている方にはおすすめしたいです。
▲わたしはこちらの２つを購入した。また他の内容も学んでいきたいと思っているところです。
余談ですが今は、日本国内の子どもたちを性犯罪から守るプロジェクトを始められています。
海外などで進んでいるそうした取り組みに比べて、そもそも幼児が性犯罪の被害に遭うことへの注意喚起や意識も低いと言わざるを得ない我が国。。。
例えば、よしログさんが住んでいるアメリカでは、性犯罪歴のある人間がどこに住んでいるかや顔写真、名前まで一般人がすぐ調べられるアプリもあるそう。さすがのシステマティックさですよね。それを比べたら、日本ってなんて放任なのだろうか。
戻ります。
外務省によるジュネーブ条約の締約国一覧のページには、イスラエルとパレスチナも記載がある。その制約があったからこそ、技術的には可能だとしても、これまで無差別な AI 狙撃システムは用いられていなかったよう。
情報筋が+972とローカルコールに語ったところによると、イスラエルのこれまでの戦争中、これは人を殺すための「特に残忍な」方法であったため、標的のそばで家族全員を殺害することが多かったので、そのような人間の標的は非常に慎重にマークされ、上級軍司令官のみが監視されていたとのこと。国際法に基づく比例原則を維持するために、自宅で爆撃を受けた。
しかし、ハマス主導の過激派が南部イスラエル人コミュニティに致命的な攻撃を開始し、約1,200人が殺害され、240人が拉致された10月7日以降、軍は劇的に異なるアプローチを取った、と情報筋は述べた。
例のハマス陣営によるテロ行為から、一変したとある。
具体的には、
この新たな政策は、イスラエル諜報機関にとって技術的な問題も引き起こした。
以前の戦争では、一人の人間の標的の暗殺を許可するために、将校は複雑で長期にわたる「有罪」プロセスを経なければならなかった。つまり、その人物が確かにハマスの軍事部門の上級メンバーであったという証拠を照合し、見つけ出す必要があった。
本当に、それは狙っている相手なのかを確認する、今回で言えばイスラエル側の人間が「調べ、許可すると決める」必要があったという。しかし、今回は少数ではなく多数の殺害を命じられているため、
その結果、パレスチナ人を軍事工作員として有罪とする人間の役割は脇に追いやられ、代わりにAIが仕事のほとんどを行ったと関係者は証言している。
その判断や決断する重責・負担・手間を省いたということだろうか。なぜなら、雇用主からのパフォーマンス向上を求められたからであると。
「戦闘における重要性が非常に低かった地上兵士を殺害するために家を爆撃するよう要請されたことは、私にとって非常に驚きでした」と、下位過激派とされる人物をマークするためのAIの使用についてある関係者は語った。
「私はそれらのターゲットを『ゴミターゲット』と名付けました。それでも、「抑止」のためだけに爆撃した標的、つまり破壊を引き起こすためだけに避難され倒壊する高層ビルよりも、それらの方が倫理的であると私は感じた。」
戦争初期におけるこの制限緩和の致命的な結果は驚くべきものでした。戦争開始以来、イスラエル軍がほぼ独占的に依存してきたガザのパレスチナ保健省のデータによると、イスラエルは戦争の最初の6週間で、これまでの死者数のほぼ半数にあたる約1万5000人のパレスチナ人を殺害した。、11月24日に1週間の停戦が合意されるまで。
どうやって、ラベンダーは相手を特定するのか。
このイスラエル軍にも配属となっているであろう指揮官が出している本によると、こんな表記があるらしい。
既知の過激派と Whatsapp グループに所属していること、
携帯電話を数か月ごとに変更していること、
住所を頻繁に変更していることなど、
個人の評価を高める可能性のある「何百、何千もの」特徴の例がいくつか含まれています。
先ほどまでの話に絡めるならば、これで「Daddy」を定める訳だ。
こんな戦争は今や昔。現代は情報空間で行われているんですね。
該当の記事では後に触れているが、例えば携帯電話や住所を頻繁に変えることは、過激派でなくとも現地に住む民間人は“望んでいないがさせられている状況”にあるという。
――「人々は家族と連絡が取れなくなり、携帯電話を友人や妻に渡したり、紛失したりする可能性があります。どの[電話]番号が誰に属するかを決定する自動メカニズムに100パーセント依存する方法はありません。」―――
あくまで怪しい、可能性がある、であって、必ずしも過激派だけに該当するものではない。
だから、さらに精度を高めるために必要となることは？
「情報が多ければ多いほど、多様性が多ければ多いほど良い」と指揮官は書いている。
今、SNS で見ない日はない「多様性」がここにも出現してくる。
ほんとうに相似象だ。うんざりだ。
極言するなら、わたしたちがせっせと情報を振りまき、投稿し、利用し、写真を上げ、AI の精度が高まるほどに狙撃の精度も高まるんである。ありがたさを甘受する一方で、わたしたちは加害者の役にも立っていると意地悪く言うことも出来る。
ここまではイスラエル軍を非難するようなエピソード抽出が続いたけれど、彼らの（イスラエル側の）陣営や軍人たちの思考からすると、ハマスが最初に違法なことをしたのであり、自分たちの軍や民間人でも殺されたり害を受けており、民間人のふりをした過激派も多く、より早くスピーディーな解決のために標的を殺すことこそがゴールだと考えているのではないかと（分からないけれど）想像する。
ロシアとウクライナにおいても、最初に違法なことをしたのはロシアであると叩かれている。
しかし、ハマスの上級司令官に対する空爆は依然として続いており、情報筋によると、これらの攻撃について軍は標的ごとに「数百人」の民間人を殺害することを承認しているという。
ガザ出身の若いパレスチナ人アムジャド・アル・シェイクさんは、家族の多くがその爆撃（筆者注：IDF報道官がウィサム・ファーハット暗殺を目的としたと述べた12月2日の爆破事件）で殺されたと語った。ガザ市の東にあるシュジャイヤの居住者である彼は、その日地元のスーパーマーケットにいたときに、ガラス窓が粉々に砕ける5回の爆発音を聞いた。
「家族の家に走ったけど、そこにはもう建物がなかった」とアル・シェイクさんは+972と市内通話に語った。「通りは悲鳴と煙で満たされました。住宅街全体が瓦礫の山と深い穴と化した。人々は手を使ってセメントの中を探し始め、私も家族の家の痕跡を探しました。」
（中略）「負傷者のほとんどは子供たちだった」と一部のガザ人が暗殺未遂と信じていた大規模な攻撃を目撃したワエル・アルシールさん（55）は語った。同氏は+972とローカルコールに対し、12月20日の爆撃で「住宅街全体」が破壊され、少なくとも10人の子供が死亡したと語った。
ここまで引用しながら、思うままに綴ってきたけれど、今回やり玉に挙げた「AI」は一つの切り口に過ぎず、わたしたちがたった今も使用しているインターネットも元は軍事技術から生まれたものだと聴く。
ツールが悪いのではなく、わたしたち人間が、使いこなせるだけの倫理観や意志力を持ち合わせていないと思う。片面ばかりを見て、まったく気がついてもいない、虚の側を、あまりにも見過ごしているのではないだろうか。
今すぐ世界を変えられる訳じゃない。
プラスチックを使わないだけで、地球の環境破壊を止められる訳がない。
でも、一個人が無力だからって諦める必要もないと思ってる。
よく分からないことについては、放置せずにまず辞典を利用すること、先生やご家族に質問したり友人とともに検討することにも努めてください。市民のみなさんには、共同の学習会をおすすめします。その努力を継続するなかで、理解力が確実に強化されていくはずです。
まず自分は無知であることを分かって、世界を、自分を知ろうとすること。
分からないままでいいから、否定せず、決めつけず、知ろうとすること。
そして、自分にとって耳障りの良い、波長があう人とだけ仲良くするのではなく、
不快な話を波動が低いとか言ってシャットダウンして逃げるでなく、かといって理論武装して誰かを貶めたり傷つけるために使うんでもなく、
価値観が合わない人と、一体どうすれば第３の関係性を築けるのかを、期待せず小さく創意工夫し続けること。例えば、人と話すこと。自分の見たくないものを見てみようとすること。
課題を解決する新しい発想に挑戦しようとすること。それが、わたしたち「人間」の役割じゃないかと思う。
わたしは、「戦争」って、最も破壊的で破滅的な、さいていでさいあくのコミュニケーションだと思っています。
それは意見が合わない２人が、相手を打ちのめしボロボロにして、自分が望むメリットを手に入れようとする会話方式だと思っていて。
今ではそれが、「偉い人」が決めて「権力を持つ人」が采配するのに、実際の被害やダメージを負うのは、そんなコミュニケーションを望まない民間人だったり、資本主義で言うと弱者のポジションにある人たちなんだよ。わたしたちなんだよね。
おかしすぎる。理屈もなにもないし、フェアじゃない。だけど、そういう現状があるのは、わたしたちが面倒がって知ろうとしないで、見ないようにしているからだと思う。
「平和」は、戦争がなくなれば訪れるものではなく、「健康」は、病気でなければ獲得できるものでもなく、常にその方向に向けて動いている姿勢や、態度から生まれてくるものだと思う。
どうか虐げられる人たちが少しでも守られますように。
世界に、新しく創造的なコミュニケーションが１つでも増え、光へと変容していきますように。
