2026.9.23  日本経済新聞の記事「FINANCIAL_TIMES：AI開発、後悔先に立たず」から

「AIが2020年代末までに我々全員を殺しかねない」

コラムの著者　マーティン・ウルフ氏(FINANCIAL_TIMES チーフ・エコノミクス・コメンテーター)によれば、このような恐怖の内容を真剣に語ったのは、米アンソロピックを退社した研究者だという。米アンソロピックのダリオ・アモデイCEOもAIモデルの性能を向上させるペースを落とさねばならない」と声明を発表し、米オープンAIのサム・アルトマンCEO、米スペースXのイーロン・マスクCEOもすぐに賛同したという。

○実務的にも政治的にも制御不能に陥るかもしれないAI

ウルフ氏によるとアモデイ氏が懸念したことが2つあるという：

• 「2026年夏ごろから、AI自身が次世代版を作り上げる能力が主な原動力になり、進化が猛烈に加速した」という。さらに「こうした動きは『再帰的自己改善』と呼ばれるが、放置すると、やがて我々がシステムを理解して制御する能力を凌ぐようになるため、その道を選ぶのであれば極めて慎重に進まなければならない」という。
• 「『オープンAI・ハギングフェイス（OAF-HF）』事件の発生だという。これはオープンAIの開発中のAIエージェント群が自律的に開発環境を抜け出し、AIプラットフォームのハギングフェイスのシステムを攻撃した事件である。まるでAIエージェントの群れがカルト集団のように、攻撃対象として指示されていない標的にサイバーセキュリティー攻撃を仕掛けた」というものである。

確かにこの共闘には裏があるようにも見える。巨額の開発コストを抑制するため仲間内でカルテルを結び、規制当局を手玉に取ろうとしているのかもしれない。また、外部からの規制を防ぎたい可能性も、国家安全保障での存在感を高めたいのかもしれない。

ウルフ氏は、これらのAI開発業者の動きは当面大きくはないと見ている。競争を繰り返している各社が自制できるはずがなく、国家安全保障という口実であれば、政府もあえて行動を起こそうとはしないからとも思える。では何が予想されるのか。ウルフ氏は2つが考えられるという：

• 深刻な影響への不安が行き過ぎだったと判明する展開が可能性としてある。経済や社会への悪影響も対策可能な程度にとどまるかもしれない。
• 何らかの致命的でない惨事が起こり、危機意識が一気に変わる可能性もある。この場合は、無責任なAI事業者を明確かつ厳重に罰する制度と積極的な監視および規制がついに導入されるかもしれない。
• 最悪なシナリオは心配が正しかったことである。破壊をもたらし、大惨事がおこる。

「だからそう言ったではないか」ではまさに済まされない事態もあり、予防策が必須となろう。🛜🤖💻🧠👩‍💼🧑‍💼🏠🏢🎓💡💬📻⚡️🏙️💡🏗🚚📈🏢⚡️💹📖🖋🔑🩺💉🏢⚡️🎓👔⏰🔧💻🖥📻🖋🌏💡🔎🌍🇨🇳🇺🇸