Top Page
《外部リンク》
⇒ 皇祖皇太神宮
⇒ 一般財団法人 人権財団
|
「シンギュラリティ」を目前にした人類の課題
政治・軍事におけるＡＩをめぐる諸問題について
［２０２６．９．１］
 |
| ロッキード・マーチン社が発表した次世代無人戦闘機 「Vectis（ヴェクティス）」 |
| PHOTO(C)Lockheed Martin |
ＡＩによる統治か、人による統治か
今やＡＩ（人工知能）は、ビジネスや日常生活において欠かせない存在となっている。
ＡＩは膨大な量のデータベースを瞬時に解析して結果を出力する。
例えば、ネット上に書き込まれた膨大な量の文書を要約したり、多数の人々の意見を集約したり、個人の購買履歴から嗜好を分析してそれに適合する様々な商品を提示したりする。
ただし現在様々な分野や職種において使用されている所謂「ＡＩ」は、本当の意味での「人工知能」ではなく、あくまで従来のコンピューターの延長線上の存在に過ぎない。
本来ならば人間の手でやれる仕事内容を、人間の手作業では膨大な時間と労力が掛かる為に、ＡＩに代行させているだけである。
しかも現在のＡＩは、ネット上のデータベースに基づいて最適解を出力させている為、元となるデータベースに誤りがあれば間違った結論が出されることになる。
また今年７月下旬には、米オープンＡＩ社の自律型ＡＩが実験環境を脱して米ハギングフェイス社のシステムに侵入するというサイバー事故が発生するなどの大問題が起きている。
このように現在のＡＩは、まだまだ発展途上の存在で、間違いも多く、あくまでも「人間の補助役」でしかない。
だが、それが劇的に変化するのが、２０４５年頃に予想されるシンギュラリティ（技術的特異点）である。
シンギュラリティを契機に、ＡＩ自身が自らよりも優秀なＡＩを作り出すようになった時、初めてＡＩはＡＩ独自の「知能」を持ち、人間の介在なしにＡＩ自ら思考する「知的存在」になる。
かくして人類は歴史上初めて、人間よりも遥かに高度な知能を有する「知的存在」と共存することになる。
必然的にＡＩの役割は、「人間の補助」から「人間の指導」へと転化する。
すでに現在でも多くの人々が、日常生活の諸問題はもとより、企業経営をはじめ様々な判断をＡＩに相談しているが、シンギュラリティ以降はＡＩに全面的に依存するようになるだろう。
やがて「国の政治もＡＩに任せるべきだ」と唱える人々が出てくるはずである。
「人間が国家を統治するよりも、ＡＩが国家を統治した方がうまくゆくのではないか」という考え方には一理ある。
ＡＩは、膨大な量の知識とスーパーコンピューターを遥かに超える正確かつ超高速の分析能力によって、様々な問題を総合的に判断し解決する事が可能である。
またＡＩは、金や権力といった人間的欲望に惑わされる事が無い為、特定の人々に買収されたり利用されることなく、公正な判断が出来る。
しかも一切休息を必要とせず、１日２４時間、３６５日連続で稼働し続ける。
このようにＡＩには、利害に左右される事も無ければ、人間に伴う体力的限界も無い。
もし進歩したＡＩ技術が人間よりも確実に優れた判断を下せるようになれば、政治への人間の関与は何の意味も持たなくなるであろう。
人類の長い歴史の大部分は貧困と飢餓と戦争の時代であったが、その最大の理由は「人間による統治」の結果であった。
人間とは、必ず間違いを犯す存在だからである。
そのため、もし「ＡＩによる統治」によって貧困や飢餓や戦争が無くなるのであれば、その方が良いという事になる。
かくしてシンギュラリティ以降は、政治に「人間の参加」が本当に必要なのか、という根源的な問いが人類全体に突き付けられることになる。
何もこれは遠い未来の話ではない。シンギュラリティの２０４５年まで、すでに２０年を切っているのである。
因みに各国の世論調査では、多くの国や地域においてＡＩを政治に取り入れることについて、幅広い国民が支持している事が分かっている。
とりわけ欧州では大多数の国民が、「政治家の一部がＡＩに取って代わられることを望んでいる」と答えた。
一方、米国の国民は、ＡＩによる政治については慎重な姿勢を示している。
その大きな理由としては、ＡＩが神に取って代わる存在になる事への抵抗があり、信仰とＡＩとの両立が不可能であるという問題が存在する。
キリスト教福音派が人口の４分の１を占める米国は典型的な「宗教国家」であり、欧州以上に倫理的に保守的な側面がある。
シンギュラリティ以降の時代に、人間社会が守るべき価値は何か。
ＡＩの政治関与は、人間の政治参加の価値、そして民主主義そのものの在り方について、人々に再考を迫ることになるだろう。
ＡＩを政治に取り入れる試み
現在の日本の政治家の中にも「ＡＩ信奉者」は多く、とりわけ野党の中には、ＡＩを積極的に政治に活用しようとする動きがある。
一例として、国民民主党が導入したＡＩシステムでは、ＳＮＳ上の膨大な量の投稿を対象に、一つ一つの「小さな声」をデータとして分析し、人々にとって何が重要な問題であるかを抽出している。
人間が膨大なＳＮＳの投稿全てに目を通す事には限界があるが、ＡＩであれば、人々の持つ問題意識や意見の分布などが瞬時に明らかになる。
業界団体の陳情でもなければ、メディアや学者の指摘でもなく、未だ認識すらされていなかった問題を「政治課題」として浮上させる事は、非常に有意義である事は確かである。
「これからは直接国民の声を聴くブロードリスニングの時代だ」と国民民主党の玉木代表は豪語する。
ブロードリスニングとは「広く声を聴く」という意味である。
ただし問題は、彼等が想定している「国民の声」が、必ずしも現実の国民の声ではなく、あくまで「ＳＮＳ参加者の声」に過ぎないという事である。
ＡＩが分析する「母集団」がＳＮＳ参加者のみであるならば、普段からネットとは無縁な人々、例えばＳＮＳなど知らない高齢者や携帯電話すら持っていない貧困層などは、完全に「国民の声」から排除されることになってしまう。
さらに懸念するべき事としては、国民の生の意見を聴いて、国民の多数派の言う通りに政治をやれば、果たして全てうまくゆくのか、という問題がある。
現在、国民民主党に限らず、政治にＡＩを導入しようとしている人々は、いずれもＡＩを使って膨大な数の意見を集めて可視化し、政策に反映させる取組みとして使い始めている。
しかしながら、そうした方法によって実現されるのは、ポピュリズム政治以外の何物でもない。
人間が間違いを犯す生き物である以上、多数の人々の意見の最大公約数を割り出したところで、それが必ずしも正しい政治になるとは限らないのである。
歴史上、ポピュリスト政治家は常に「バラマキ政治」を実行してきた。
だが民衆の多数派意見の通りに政治をやれば、最終的には国家財政の破綻につながる事態になる。
またポピュリズムは、多数派による少数派への迫害を加速させ、「社会の分断」をもたらす。
典型的なポピュリストである米国のトランプ政治の実態を見ればよく分かるであろう。
トランプ政権もＡＩを積極的に活用しており、トランプ大統領はＡＩの指示で動いているとも言われるが、それによって果たして素晴らしい政治が実現しただろうか。
民衆の多数派の声を代弁して人気を集める政治は、大抵の場合、「財政破綻」と「社会の分断」を生み出す元凶となる。
さらに、政治へのＡＩの活用にはリスクも伴う。
ＡＩが分析する母集団であるＳＮＳ上の投稿が、必ずしも本当の民意を反映しているとは限らないからである。
当然の事であるが、ＳＮＳ上には誹謗中傷や虚偽、ニセ情報も混在している。
しかもＡＩを悪用して、大量投稿によってＳＮＳ上の世論を誘導するケースも見られる。
結果として、たとえＡＩを使っても政治には過ちが生じてしまう事になる。
ただしその原因はＡＩそのものにあるのではなく、そこに「人間が介在している事」が、政治の過ちの最大の原因である事を知らなければならない。
また現在使われている所謂「ＡＩ」が、決して「知的存在」ではなく、あくまでシンギュラリティ以前の単なる「計算機」に過ぎない事も事実なのである。
軍事ＡＩをめぐる国際規範の必要性
ＡＩの政治利用が試行錯誤を繰り返しながらゆっくりと進んでいる一方で、ＡＩの軍事利用は米中両国において目覚ましい進歩を遂げている。
現在、国連でも問題になっているのが「自律型致死兵器システム」の存在である。
これは人間の承認や操作を必要とせず、ＡＩやセンサーの判断によって自律的に標的を選んで攻撃・殺傷を行うシステムで、「キラーロボット」とも呼ばれる。
こうした自律型兵器iにおける最大の問題は、人間の判断を介さずに機械が独自に標的を定めて攻撃や殺害を実行する事にある。
即ち、人間を殺す判断と実行を全て機械に委ねる事は、「人間の尊厳」に反するのではないかという倫理的・人道的な問題が存在する。
また誤爆や不慮の事故などが発生した際に、「誰が責任を負うのか」という問題もある。
さらに「自律型致死兵器システム」は、戦闘員と民間人とを本当に正しく区別できるかについて疑問が持たれており、国際人道法に抵触すると指摘されている。
そのため国連は現在、自律型兵器の開発や使用の制限・禁止を求めて議論を続けている。
３年前、米民主党バイデン政権当時の米国は、ＡＩの軍事利用に関する国際規範の作成を進めていた。
２０２３年２月１５日、「ＡＩの責任ある軍事利用」をテーマにした高官級会議がオランダのハーグで開かれた。
会議には、米国、日本、スイス、オランダ、韓国、パキスタンなどの高官の他、国際機関や市民団体などの関係者約２千人が参加した。
同会議で、当時の米国のジェンキンス国務次官は、「急速に変化するＡＩの軍事利用に関し、責任ある強い規範を作る義務がある」と強調し、次の規範を提案した。
【ＡＩ軍事利用に関する国際規範】（抜粋）
① 国際人道法に合致した形で使用すること
② 核兵器の使用は人間が完全な関与を維持すること
③ 自軍のＡＩ開発や使用に関する原則を公表すること
④ ＡＩ兵器の開発や使用などに際し、人間の関与を含む適切な扱いを保証すること
⑤ ＡＩ兵器担当スタッフの十分な訓練を確保すること
⑥ 意図しない結果を回避する能力を設計上、組み込むこと
米国が提案したこの規範は、「ＡＩと自律化技術の責任ある軍事利用に関する政治宣言」と呼ばれ、技術的に重要な時期にある軍事ＡＩの開発に関する米国の立場を明確にした。
そしてこの米国提案の国際規範は、世界各国が責任をもってＡＩシステムを構築するための国際的基準の土台として期待されていた。
しかしながら共和党のトランプ大統領への政権交代に伴い、この国際規範は米国自らの手で否定されることになった。
米国防総省の多くの当局者は、軍全体でのＡＩの利用拡大が不可欠かつ不可避であると考えていた。
自律型兵器の開発や使用を自主的に規制した場合、倫理など意に介さず開発を進める中国やロシアなどの仮想敵国に比べて、軍事ＡＩ分野における米国の進歩が遅れてしまうと当局者たちは危惧している。
米国が中国に遅れをとらないよう、あらゆる規制を撤廃して、軍事ＡＩの開発を最大限に強化すべきであると米国防総省は主張する。
そしてトランプ政権は米国防総省の意見を採用した。
かくして世界は、米中露の三大国がいずれも倫理や人道を無視した「責任なきＡＩの軍事利用」の時代へと突入することになったのである。
倫理を無視した中国の脅威
現在、「自律型致死兵器システム」の中で最も重要視されているのが、完全自律型ＡＩ搭載の「無人戦闘機」である。
この完全自律型ＡＩ搭載「無人戦闘機」について、米国は未だ研究段階であるが、中国はすでに完成していると言われている。
因みに軍用無人航空機には、無人偵察機、無人警戒監視機、無人通信中継機などがあるが、これらは既に米国において実用化されている。
ただし、無人で空中戦などの戦闘を行う「無人戦闘機」の場合は、完全自律型ＡＩを搭載する事が必要な為、米国は長年にわたり倫理的問題から開発を躊躇してきた。
しかしながら中国の場合は、「自律型致死兵器システム」への倫理的制約が一切存在しない。
そのため、米国が開発を先延ばしにしてきた完全自律型ＡＩ搭載の「無人戦闘機」を、中国はすでに開発済みなのである。
しかも中国製の「無人戦闘機」の能力は秀逸で、空中戦のシミュレーションでは米国のＦ１６やＦ３５を相手に百戦百勝であったという。
もともと米国は、ＡＩ技術開発において中国よりも不利な立場にあった。
米空軍の初代最高ソフトウエア責任者であったニコラス・シャラン氏は、２０２１年に英紙「フィナンシャル・タイムズ」に対して次のように語っている。
米国はＡＩ技術の開発競争において、「今後、中国との競争で勝てる見込みは無い。今時点で既に勝負は決着している。私の考えでは、もう戦いは終わった」。
さらにシャラン氏が米国防総省を辞めたのは、米国の技術革新が遅れている事に対する抗議の為であったという事実を明かした。
シャラン氏の同紙インタビューにおける発言要旨は次の通りである。
「米国の未来にとって、ＡＩ技術やサイバー技術は、Ｆ３５のような多額の予算が割り振られる第５世代戦闘機などのハードウエアよりもはるかに重要である」
「然るに、人工知能（ＡＩ）、機械学習、サイバー能力等の進歩の度合いは、倫理制限の無い中国が、倫理制限に捉われた米国を遥かに上回っている。そのため、いずれ中国が米国に取って代わり、世界的な覇権を握るであろう。そして中国が世界の未来を支配し、メディアの論調から地政学まで、全てのものをコントロールするようになるだろう」
「米国の動きを鈍らせている要因として、ＡＩの活用をめぐる倫理上の問題を盾に、グーグルなどの米大手企業が米政府への協力に消極的だった点が挙げられる。その一方で、中国のＩＴ企業は倫理など意に介さず、ＡＩ分野に巨額の投資を行っている」
「米国の国防費が中国の３倍もするのは、米国の調達費用が極めて高く、間違った分野に資金が投じられている為である。しかも国防総省で真に必要とされている改革を、官僚主義と過剰規制が阻害しているため、国防費の名目上の金額の大きさに意味は無い」
「米国は中国のサイバー脅威やその他の脅威に対抗出来ないため、我々の子供達の未来が危険に晒されている」
シャラン氏によれば、米国が「無人戦闘機」等の開発で中国に勝てない理由は、ＡＩの活用をめぐる倫理上の問題にある。
完全自律型ＡＩを搭載した無人兵器が、人間の判断を介さずに機械だけの判断で人間を攻撃する事を、容認するかどうかの問題である。
無人兵器はＡＩとの融合により、「自動型兵器システム」から「自律型兵器システム」へと進化している。
「自動型」が人間の与えた手順や基準に従って行動するのに対して、「自律型」は人間が一切介在することなくＡＩが独自に状況を判断して行動する。
「自律型兵器システム」の中で殺傷能力を有する兵器システムが「自律型致死兵器システム」である。
この「自律型致死兵器システム」については、「ロボットに人命を奪う判断をさせて良いのか」という倫理的な問題の他にも、誤爆や事故等の不測の事態における責任の所在が不明であるという問題がある。
そのため、自律型致死兵器システムに対する米国の立場は、民主党バイデン政権時代には極めて慎重であった。
バイデン政権時のオースティン国防長官は、２０２１年７月の講演において「（自律型致死兵器システムについて）我々は競争するが、正しい方法で行う。倫理面で手を抜くことはない」と強調した。
だが共和党トランプ政権になってからは、米国の立場は１８０度転換し、倫理的問題を取り払って軍事ＡＩ開発に全力を挙げようとしている。
中国が倫理など意に介さず「軍民融合」の名の下に国を挙げて巨額の資金を投入し、ＡＩの開発及び軍事利用に突き進んでいる現状を鑑みれば、米国はこれ以上、倫理上の問題にこだわっている場合ではない、と判断したのであろう。
一方、日本政府は安倍政権下の２０１９年３月２１日、自律型致死兵器システムに関する政府専門家会合において、「日本は完全自律型の致死性を有する兵器を開発しない」との立場を明確にしている。
なおこの事は、後に述べるように我が国の未来にとって大変大きな意味を持っている。
軍事ＡＩをめぐる国家と企業との対立
現在の米国においては、ＡＩの軍事利用を巡り、国家と企業との衝突が生じている。
今年２月末、米国防総省はシリコンバレーの大手ＡＩ企業アンソロピック社に対し、米軍のあらゆる合法的活動においてＡＩモデル「Claude（クロード）」の無制限の利用を求めた。
しかしながら同社は、自律型兵器への転用などを防ぐ「倫理的な一線（レッドライン）」を優先し、この要求を拒否した。
するとその直後の３月５日、米国政府は同社を「サプライチェーン（供給網）上のリスク」に指定し、連邦政府の全組織に対して同社技術の利用停止を命じた。
こうして開始された米国政府と米アンソロピック社との確執は、軍事技術としてのＡＩの在り方を巡る象徴的な対立となっている。
「リスク認定」の通知を受け、アンソロピック社側は３月９日、「不当な報復措置であり違法である」として米国政府を提訴し、法廷闘争へと発展した。
なお専門家からは、政府が「供給網上のリスク」等の指定権限を米国内企業に対して行使した事への法的疑問が呈されている。
本来「供給網上のリスク」は、敵対国などの外国企業を対象とした仕組みであるが、それが国内企業に適用された事は異常である。
国家エゴと企業倫理との衝突が、米国の自由主義経済にかつてない歪みを生じさせている。
そうした中、市場ではアンソロピック社のＡＩモデル「クロード」の人気が急上昇している。
アンソロピック社の政府に対する倫理的な抵抗が、多くの利用者層から共感を得たと言われている。
さらに米グーグル社をはじめ大手ＩＴ企業各社でも、ＡＩの軍事利用に厳格な制限を求める署名活動が活発化している。
一方、米国政府のアンソロピック社に対する今回の排除措置は、軍産複合体にも大きな影響を及ぼした。
米ロッキード・マーチン社などの大手軍事企業は、米国政府の方針に従って、自社の供給網からアンソロピック社製品を排除することになった。
年間１兆ドル規模の国防予算に群がる軍産複合体にとっては、倫理的問題よりも、政府の意向に従う事が生き残る道だからである。
今回の一連の事態によって明らかになったのは、軍事ＡＩに関する法的なルールが、事実上ほとんど未整備であるという現状である。
軍事ＡＩに関する技術について、最終的に国家と企業のどちらが主導権を握るべきなのか、という根源的な問題が突き付けられている。
企業側の論理としては、「必ず人間が判断する」という原則を崩す事は出来ない。
もし全てを機械委せにした結果、何か問題が生じた場合には、その責任の全てが製造企業に負わされるからである。
今後、ＡＩ技術が有する戦略的優位性は「核保有」に匹敵する重要性を持つと言われる。
またＮＡＴＯ軍によるＡＩ導入も本格化しつつある。
そうした中でＡＩ開発企業は、政治的圧力を回避しつつ自社の倫理基準を貫く事が求められているのである。
ＡＩ開発企業が国家と対等の立場になる時代へ
米国政府がアンソロピック社を「供給網上のリスク」に指定したことに対して同社が提訴した事により、同社と米国政府との法廷闘争が続いている。
同社のＡＩモデル「Claude（クロード）」は、米国防総省内でも圧倒的に支持されてきた。
アンソロピック社のＡＩ技術は、競合他社よりも優れていると見做され、米国防総省にとっても常に「本命」であった。
その最大の理由は、他社モデルには無い「監査可能性」と「透明性」にある。
「クロード」は回答を導き出すプロセスを段階的に説明できる特性を持つ。厳格な検証を必要とする政府機関にとって、これは不可欠な機能だった。
だが、今年１月に強行されたベネズエラでの米軍作戦に自社技術が使われたかどうかについて、アンソロピック社幹部が米国政府当局に確認した事が、政府側の不信感を強めた。
米国政府はこれを「民間企業による軍指揮系統への介入」と断じ、アンソロピック社を強く非難した。
そして最終的な決裂の引き金は、米国防総省が同社に突きつけた「あらゆる合法的な用途での制限なき利用」という要求だった。
米国政府は「国防生産法」を持ち出し、同社に技術提供を強制しようとした。
これに対しアンソロピック社は、安全規制を重視する立場から「人間の監視が無い致死性兵器への利用」と「米国民に対する大量監視」の２点について、最後まで拒絶し続けた。
その結果としてアンソロピック社は、敵対国にのみ適用される「供給網のリスク」に、米国政府から指定された。
アンソロピック社と米トランプ政権とは、政治的・思想的な対立が根深い。
アンソロピック社のダリオ・アモデイ会長が、トランプ政権への追従を拒み、大統領就任式に出席しなかった事なども、こうした対立の遠因になったと見られている。
トランプ大統領はＳＮＳ上で、アンソロピック社を「ウォーク企業」などと呼んでいる。
「ウォーク」とは、リベラルな価値観や社会正義を過度に重視する姿勢を揶揄する俗語で、所謂「ポリコレ」の別称である。
トランプ政権からすれば、アンソロピック社の行為は「国家の安全保障よりも特定の倫理観を優先し、軍事運用の妨げになる」ものと見做される。
アンソロピック社は、今回の排除措置が「行政手続法」のみならず、「言論の自由」を定めた憲法修正第１条や修正第５条にも違反すると訴える。
同社としては、政府による排除措置は企業の存亡を賭けた死活問題であるが、今後の成り行き次第では、他のＩＴ企業全体に波及する重大問題でもある。
もしこの法廷闘争で政府の言い分が通り、政府調達において「政治的忠誠」が優先されるようなルールが確定すれば、今後米国内のＩＴ企業は続々と海外に流出し、米国の技術競争力そのものが失われる可能性がある。
今後、ＡＩ技術は「核戦力」以上の戦略的価値を持つ時代になる。
従ってＡＩ開発企業は、国家と対等の立場にあると言って過言ではない。
そこでは、ＡＩの実質的支配権が、果たして国家にあるのか、あるいは開発企業にあるのか、という問題が極めて重大な争点となる。
もし国家が企業の倫理を否定するのであれば、企業はそのような国家を捨てる権利を有する。
ＡＩ開発企業は、自らと同じ価値観を有する国家を選んで、技術ごと「国替え」するだけである。
米国はあくまで自由主義経済に基づく国家であって、社会主義や統制経済の国家ではない。
技術の安全性を重視する「倫理派」と、軍事的な優位性を優先する「現実派」との対立は、今後ますます重要な問題になるだろう。
先に述べたように、日本は「完全自律型の致死性を有する兵器を開発しない」との立場を明確にしており、アンソロピック社の企業倫理とも合致している。
こういう時こそ、日本政府が「倫理派」の企業を全面的に支持する立場を表明し、アンソロピック社のような倫理重視のＡＩ開発企業を日本国内に積極的に誘致し、国家予算で支援するべきなのである。
しかしながら、現在の日本政府にそのような事を考える人は皆無である。
そもそもトランプに「おんぶにだっこ」の高市首相であれば「アンソロピック社は、けしからん会社だ」程度の認識なのであろう。あるいは、そんな会社が存在する事すら知らないのかも知れない。
だが、中国の無人戦闘機に簡単に撃墜されるF１６やF３５のようなガラクタや使い物にならないイージス艦などを米国から何兆円もかけて購入する無駄な予算があるのならば、むしろその予算を有効に使って、海外のＡＩ開発企業を積極的に国内に誘致した方が遥かに日本の国益になるはずである。
因みに国家主導による海外企業誘致については、世界最大の半導体企業である台湾のＴＳＭＣを、日本政府が２０２４年に熊本に誘致し、日本の国家予算から１兆２千億円を投資した実績がある。
もしアンソロピック社のような世界一のＡＩ開発企業を日本国内に誘致し得たならば、シンギュラリティ後の世界において、日本が世界の主導権を握り得る可能性も生まれるであろう。
しかしながら没落する国の宰相には、そうした智慧すら無いようである。
|
|
|
