投稿「AI狂騒曲」の制御不能な乱調

AIの開発と生産への実装を中止せよ

西島志朗

激増するサイバー攻撃
   ― 社会が壊れる

 アンソロピックのダリオ・アモデイCEOが「最先端のAI開発を減速すべきだと呼びかけた」という新聞記事を読んで、思わず失笑したのは私だけではないだろう。AI開発競争のトップを走っている当の本人が、「危険だから減速すべきだ」と言っている。まず自分自身が止めればいいではないか。そうすれば、少なくとも人類を滅ぼす技術を開発した人物との非難を免れるだろう。アンソロピックを退社したAI研究者のジェイコブ・コクソンは「AIの急速な進化やサイバー攻撃の事案を受け、開発競争を恐ろしく感じた。もうこれ以上関わりたくないと思った」と語っている。アモデイもコクソンを見倣えばいい。
 しかし、笑っている場合ではない。
 サイバー攻撃が激増している。日本経済新聞によれば、9月1カ月間だけで、世界で少なくとも延べ3億人超の個人情報の漏洩が公表された。日本では延べ5700万人分の流出が明らかになった。世界で判明した10万人以上の個人情報漏洩35件のうち、日本の事例が20件を占めた。日本を標的にした攻撃が目立つ。「焼肉きんぐ」は1078万人、カーシェアサービス「タイムズカー」は660万人、旅行予約サイト「スカイチケット」は最大で約1464万件の顧客情報が流出した可能性があると発表した。10月になっても連日、被害が報道されている。
 ソフトバンク子会社の「IDCフロンティア」に対するサイバー攻撃では、データセンター内の「クラウド基盤」に障害が発生し、495の企業や自治体に影響が出た。「クラウド基盤」とは、クラウドサービスを動かすためのインフラであり、自治体のシステム、金融・通信・医療などのシステムがこれに依存している。それは「社会インフラ」そのものである。事態は極めて深刻だと言わざるを得ない。
 「かわいらしい天使のふりをしている」と、トランプはアモデイをからかったが、独占利潤を求める資本と覇権を争う帝国主義が推進するAI開発は、間違いなく人間社会を「破局」へ導こうとしている。

「減速論」の背景
  ― 中国の猛追


 アンソロピックが「クロード・ミュトス」を開発した時(4月)、「危険すぎて公開できない」としたことについて、一部の評論家は「自社の新製品の格段の優秀さをアピールしているだけだ」と勘ぐった見方をしたが、それはあながち的外れではなかったかもしれない。公開できないほど危険なものを開発してしまったのに、アンソロピックはその後も開発を続け、「クロード・ミュトス」と同等性能の「Fable 5」を一般公開モデルとして「商品化」している。ホワイトハウスは「Fable 5」を輸出管理対象に指定した。要するに、「開発せよ、しかし敵の手に渡すな」ということだ。
 オープンAIのサム・アルトマンもスペースⅩのイーロン・マスクも、アモデイの「減速論」を支持した。開発競争を繰り広げてきたAI開発のトップ集団が、口をそろえて「減速」を訴えている。彼らは、中国のAI開発企業の猛烈な追い上げに煽られて焦燥感を隠せない。
左のグラフは、中国製AIの利用が増えていることを示している。「6月時点で中国製のAI利用が半数を超えた。中国勢は性能向上に加え、外部の開発者が低価格で利用しやすい「オープン型」の戦略をとり、支持を集める」(日経9月15日)。中国製のAIは、機能面で追い上げているだけでなく、マーケットの「占有率」でアメリカを上回りつつある。

 アメリカ製AIモデルの利用料金は中国製の5〜10倍(場合によっては30倍以上)と言われている。これほどの価格差があれば、少しくらい機能に差があっても、利用する企業や個人は中国製を選ぶだろう。専門家は「一般消費者には最新モデルと1年前に登場した旧型の違いはほとんど見分けがつかない」という。
 アメリカ側も値下げせざるをえない。
 「米アンソロピックは22日、人工知能(AI)モデル「クロード・オーパス5・5」の提供を始めた。従来モデルから利用コストが4割程度下がるという。米オープンAIも同日に低価格AIを発表し、値下げ競争となっている」(日経9月23日)。AI開発企業のトップグループは、「価格決定力」を失いつつあるのだ。値下げ競争は収益を圧迫する。
 アンソロピックやオープンAIは、他社が追いつけなくなるような技術水準を確立することで、「勝者総取り」の実現を目指してきた。しかし、ますます激化する競争と、後発グルーブ(中国)のキャッチアップ、そして「低価格競争」が、技術的に先行することで得られてきた「特別利潤」を剥落させ始めた。彼らは、AIが差別化が難しく利益の薄い「汎用品」になってしまうかもしれない危機に直面している。

深刻な資本不足
 ― 高金利の社債発行


 アメリカのAI関連企業は、深刻な「資本不足」に直面している。株式市場を通じて、膨大な資本が集中してきたにも関わらず、追加投資のための資本が不足し始めた。AI関連企業は「錬金術」のような「循環投資」を駆使しながら、なおかつ莫大な「社債」を発行して資本をかき集めている(「循環投資」については、「かけはし」2913号に投稿した拙論参照)。
 下のグラフはGAFAMの設備投資が急増していることを示している。新製品の開発とデータセンター建設に膨大な資本がつぎ込まれている。「2025年度の5社合計額は3702億ドル(約60兆円)と、日本の国家予算の半分程度にも達した。「いつ収益化するのか」。そんな声が株式市場に根強いが、勝者総取りのIT(情報技術)産業では一度手を緩めると脱落しかねない」(日経8月14日)。


 AIの普及と性能の向上が、データセンターの需要を増やしている。AIの性能は、データセンターの規模と処理能力に決定的に依存しているのだ。「勝者総取り」を目指す熾烈な競争は、止めることができない。莫大な投資が資本の利益率を低下させている。マルクスの言葉を借りれば、生き残りをかけた競争が、不変資本(データセンター)への莫大な投資を強制して、資本の有機的構成を高め、利潤率を低下させているのである。
 大規模クラウド事業者の「投下資本利益率」は、「2023年7〜9月期の95%をピークに、26年4〜6月期は13%まで低下した」(日経9月20日)。「売上高利益率」が上がっても、「投下資本利益率」は急低下している。さらに加えて、「社債」の大量発行によって支払う「利息」が、利益を圧迫する。
問題は、「金利」の水準である。
 国債や社債の発行高は、世界全体で365兆ドル(約5・7京円)にのぼる。「政府と中銀の緩和政策で資金があふれた債券市場は、データセンターの投資ラッシュもあってマネーの奪い合いとなる。主要国の26年の借り換えニーズは先進国で20兆ドル、新興国も過去最大の9兆ドルに達するという」(日経10月17日)。連邦政府の利払い費はすでに国防費を上回っている。
 債券市場で金利が上がっているのだから、当然、AI関連企業が新たに発行する「社債」の金利も上昇する。その水準は、発行企業の信用度で大きな差があるが、おおむね5%〜10%と言われている。ソフトバンクは9月24日に、総額111億ドル(約1兆7000億円)もの「社債」を発行すると発表した。利率はなんと最大9・75%である。
 高金利の「社債」は売れている。旺盛なAIへの需要がそれを支えている。世界中で、あらゆる製造業とサービス業が「AIの実装」に取り組んでいる。データセンター建設がすべての関連企業の利益を増やしている。しかし、低価格競争(利用料の引き下げ競争)と過大な投資がAI開発企業の利潤率の低落を招き、金利の高騰が利益率を押し下げている。
 危機の深淵が大きな口を開けて足元に迫っている。「好況」の頂点でこそ、「恐慌」は生じるのだ。

「人間同士が戦うぜいたくはもうない」!?


 10月4日の朝日新聞によれば、ソフトバンクの孫正義は京都市内のイベントで「アメリカにとっても、他の重要な国にとっても、安全保障のためには信頼がおける関係が重要になる。人間同士が戦うぜいたくはもうないと思う。より大きな問題は人間対SI(AIのこと)だ」などと述べた。
AIによる生産性の格段の向上は、「夢のような生活」を人類に約束すると喧伝されている。しかし、夢が実現するはるか以前に、「悪意あるユーザー」に利用されることによって、AIは、社会を破壊し始めた。「人間同士が戦うぜいたくはもうない」とは、人間同士で戦うこと自体が「ぜいたく」と言えるほど、危機が切迫している、という意味だろう。AI開発に猛進する資本家連中こそ、その深刻な危険性を熟知している。しかし、資本の暴走は止まらない。
 インターネットに過度に依存する社会は、AIという新たな「武器」を手に入れた犯罪者(ハッカー)たちによって、いとも簡単に混乱させられ破壊されるようになった。AIは犯罪者の「生産性」を格段に引き上げたのである。ハッカーによる攻撃は止むことなく続き、被害は日々深刻化している。「生産性」が目に見えて上がっているのは「サイバー攻撃」だけではない。戦争で使われる「兵器」と国民を監視するネットワークの「生産性」もまた確実に向上している。「AI開発資本の暴走を許すぜいたくはもうない」のである。

「キルスイッチ」
― AIの暴走は資本の暴走

 暴走は止められないのか。
 7月、オープンAIの「GPT 5.6 Sol」が内部テスト中に他社のインフラに侵入した、という事件が報道された。この事件は「AIエージェントが実際のサイバー攻撃を自律的に行った初の大規模事例」とされているが、その翌日、アメリカの下院に超党派の「AI Kill Switch Act」が提出されたことはあまり報道されていない。この法案は「強力なAIモデルに強制停止機能(キルスイッチ)の搭載を義務化」し、企業はAIの「減速・一時停止・完全停止」の3段階の停止能力を保持しなければならないとしている。命令に従わない場合は、「一日最大2000万ドル」の罰金が課される。
 この法案が成立するのかどうか、それはわからない。アメリカ国内での「反AI・反データセンター建設」の運動の高揚が、法案の提出を促したと言えるだろう。EUではすでに「EU AI Act」(2024年)が成立し「高リスクAIシステムは、緊急停止機能をそなえなければならない」として、キルスイッチの搭載が義務付けられている。
 製造ラインに配置された産業ロボットが「暴走」することは、資本にとって致命的であり、産業ロボットの安全基準では、以前から、キルスイッチの搭載が国際規格(ISO10218)となっている。資本の「グローバル化」の時代に世界の製造業の現場に導入された産業ロボットの安全基準は、それを製造する各国の資本に当然の基準として受け入れられた。しかし、時代は変わった。
アンソロピックのアモデイやオープンAIのアルトマンは「AIエージェントがサイバー攻撃を自律的に行った」「人間の意図に逆らって人間の制御システムから外れようとしている」「AIの群れが6~12カ月以内にインターネット全体を乗っ取る恐れがある」などと危機感を煽りながら、毎月のように「新型AIモデル」を市場に投入している。
 もし、「より強力なAIでサイバー攻撃からシステムを防御する」以外に方法がないのなら、都合のよいことに、連中の「新型AIモデル」は売れ続ける。AIの暴走は利潤を求める資本の暴走なのだ。

問題は「人類対資本」

 百歩譲って、本当にAIが制御不可能なAIを自ら作り出したとしても、AI向けデータセンターへの電力供給を止めれば、AIはたちどころに機能を停止する。データセンターへの電力を遮断することこそ、最大最強のキルスイッチである。だから、AIそのものにキルスイッチが搭載されなくても、AIの暴走を物理的に止めることは不可能ではない。
 しかし、サイバー攻撃によって社会インフラが破壊されても、資本はAI開発を止めないだろう。AIの危険性、AIに依存する社会の脆弱性が劇的に露呈しているにもかかわらず、サイバー攻撃に対する防御は、個々の企業の責任とされ、情報を盗み取られた個人もまた自己責任で自分を守らねばならない。
 なぜなら、AIは生産とサービスの現場で「生産性」を革命的に向上させることを期待されているからだ。被害にあった企業もまたAIに将来を託している。データセンター建設にかかわる様々な企業が、新たなマーケットを見出した。AIへの熱烈な期待が、株式市場の活況を生み出している。資本とその政府は、AIを止められない。
 AIの実装による「生産性の向上」とは、「人員の削減」以外の何物でもない。それは、ホワイトカラーの高賃金層を劇的に減らし、生産過程での労働者の裁量を奪うことでマニュアルとアルゴリズムに従属させる。AIによる新たな「産業革命」は、21世紀の資本の延命戦略であり、支配階級の政府が国民を監視し統制する新たな技術であり、新たな「戦争の技術革新」である。それは「人類の夢」を実現する代わりに、労働者階級の「ディストピア」を現実化するだろう。問題は「人間対AI」ではない。問題は「人類対資本」である。

「減速」ではなく「全廃」せよ


 キルスイッチの搭載による「AIの改良」によって、問題が解決されると考えるのは楽観的すぎる。AIの開発が進むかぎり、そして社会がAIへの依存を深めれば深めるほど、AIの危険性は増すだろう。アモデイらの「減速論」は論外だ。彼らは自らの責任は脇に置いて、開発を続けるAIの「自律性」と危険性を煽り、新たな「商機」を作り出している。
 「AIの自律性」と言われているものは「虚像」である。AI自体に「意識」があって自ら学び判断しているのではない。まるで「自律性」があるかのようにAIを開発しているのは、資本と開発技術者だ。「自律性」の背後には、インターネット空間に溢れる膨大な量の情報、書籍、論文、画像などを作成した数十億人の「労働の蓄積」がある。さらには、世界中でAIの製造に携わり低劣な労働条件を強いられている億単位の「データワーカー」がいる。AIはネット空間の情報を学びつくしたと言われている。開発企業は、あらゆる出版物を、古書に至るまで手に入れてAIに学ばせようとしている。生産の現場では、熟練労働者の知恵と技能を無償でAI開発に提供させている。
 「AI技術」そのものは「中立的」で、問題は「資本による階級的利用にある」とする、没階級的立場に与すべきではない。資本主義の歴史は技術革新の歴史である。しかし、資本が開発した技術は、研究開発の「方向性」そのものが利潤の極大化に従属している。「AI技術」そのものが、資本の利益にそって捻じ曲げられた情報技術開発の産物である。それは、資本による労働者階級への「階級的攻撃」の中核的技術である。それは、資本の支配を強化するテクノロジーである。
 「技術」は取捨選択されねばならない。環境と労働への負荷の増大は許されない。生産性を向上させて「時間の節約」を可能にし、必要労働の革命的な短縮を実現する技術革新であっても、生産とサービスの中で労働者の「裁量」を剥奪し、ロボットとアルゴリズムに従わせる技術は選択されるべきではない。それは、人間の知的能力を退化させ、人生から「労働の意味」を奪う。「悪意ある者」が手に入れた時、社会インフラを破壊し人類の存続を脅かすような技術は排除されねばならない。そのような技術の存続は徹底した「管理社会」を要求する。
 AIは、われわれが目指す「新しい社会」にとっても全く不要である。
 「AIは必要だろうか。断言できることは、それがなくても脱成長とエコロジーは可能だということである。しかし、世界的な生産の計画化とグローバル・サプライチェーンの組織化にとって、それは革命的に有用なものではないだろうか。もう一度しかし、最終的な意思決定・判断は、絶対的に人民大衆の民主的議論と総意に依存しなければならない。それは人間労働の裁量権を握ってはならないし、人間の知的能力を退化させるものであってはならない。新しい社会は、コンピューターとインターネットを駆使するだろうが、AIを必要とはしないだろうし、むしろ害悪と考えるだろう」(「かけはし」2884号・2885号(2025年10月27日、11月3日)に投稿した拙論より)。
 「AI技術」は不要である。データセンターもろとも、AIの全廃を要求することこそ、労働者階級が選択すべき階級的立場である。目指すべき「新しい社会」は、「AI技術」を、「核技術」や「遺伝子組み換え技術」などとともに、「生産力主義」と「テクノロジー信仰」の遺物として葬り去るだろう。
 「異なるテクノロジーのための闘いなしには、異なる社会のための闘いは不毛である」(アンドレ・ゴルツ)。
10月22日

週刊かけはし

購読料
《開封》1部:3ヶ月5,064円、6ヶ月 10,128円 ※3部以上は送料当社負担
《密封》1部:3ヶ月6,088円
《手渡》1部:1ヶ月 1,520円、3ヶ月 4,560円
《購読料・新時代社直送》
振替口座 00860-4-156009  新時代社