AIは人類を滅ぼすのか？

教授「こんにちは。私は大学でAIを研究している教授です。今日は難しい専門用語をなるべく使わず、『AIは本当に人類を滅ぼす可能性があるのか』について説明します。」

政治家「私は政治家です。AIは便利な道具ですが、国の安全や法律、仕事、社会にも大きく関係します。今日は『国や社会は何を準備すればいいのか』という立場から参加します。」

ギャル「私は17歳の高校生。AIは宿題とか画像作ったりとかで普通に使ってるけど、専門的なことは全然分かんない。だから分からないことは遠慮なく聞くね。難しい話は禁止！」

親分「俺は親分だ。難しい理屈は苦手だが、『危ねえものにどこまで力を持たせていいのか』『誰が鍵を握るのか』という話なら分かる。今日はそこを聞かせてもらおうじゃねえか。」

ギャル「じゃあ、いきなり聞くけどさ。CNNで、AI会社の偉い人が『AIが人類を滅ぼすかもしれない』って言ったんでしょ？　マジで？」

教授「2026年9月、CNNのアンダーソン・クーパー氏が、AI企業AnthropicのCEO、ダリオ・アモデイ氏に直接この問題を尋ねました。AnthropicはClaudeというAIを作っている世界有数のAI企業です。」

ギャル「AIを作っている本人が怖がってるって、それかなりヤバくない？」

教授「確かに軽く考えてはいけない話です。ただし、ここは正確に理解する必要があります。『アモデイCEOが、AIによる人類滅亡の確率を10％と断言した』という理解は正しくありません。」

政治家「そこは非常に重要ですね。」

教授「はい。CNNでアモデイ氏は、一つの決まった数字を示しませんでした。安全対策をきちんとすれば危険をかなり低くできる。しかし人類が間違った進み方をすれば、非常に大きな危険になる可能性がある、という趣旨の話をしています。」

ギャル「じゃあ『10％』って、どこから出てきたの？」

教授「AnthropicでAIの安全を研究しているエヴァン・ヒュービンガー氏が、『今後10年ほどでAIが全人類を死に至らせる可能性を、自分は10％より高いと考えている』という趣旨の発言をしています。これはあくまで研究者個人の予想です。」

親分「天気予報で『降水確率10％』と言ってるのとは違うんだな。」

教授「まったく違います。ここが一番大切です。人類は過去に何百回も超高度AIを作って、そのうち何回滅びた、というデータを持っていません。ですから、この10％は実験から計算された数字ではありません。」

ギャル「要するに、すごく詳しい人の予想？」

教授「そう考えると分かりやすいでしょう。」

政治家「ただし、詳しい研究者が真剣に心配していること自体は無視できません。」

教授「その通りです。AI研究者2,778人を対象にした大規模な調査では、『人類滅亡のような極端に悪い結果』について、回答の中央値が5％でした。平均は9％程度でした。」

ギャル「5％でも高く感じるんだけど。」

教授「そうですね。しかし、これも『科学が人類滅亡確率を5％と証明した』という意味ではありません。研究者たちの予想を集めたものです。」

親分「競馬のオッズみてえに受け取ったら間違いってことだ。」

教授「その通りです。」

ギャル「でもアモデイさんって、前にも25％とか言ってなかった？」

教授「2025年には、AIの未来が『非常に悪い方向に進む可能性』について25％という数字を挙げたことがあります。ただし、これも『25％で人類が絶滅する』という意味ではありません。大災害や社会の深刻な混乱など、幅広い悪い結果を含んだ表現です。」

ギャル「数字だけ切り取ると、全然意味が変わっちゃうんだ。」

教授「その通りです。」

親分「で、実際のところAIがどうやって人間を滅ぼすんだ？　パソコンの画面から飛び出してくるわけじゃねえだろ。」

教授「そこも大切です。AIが突然意思を持って人間を襲う、という映画のような話だけではありません。専門家が心配している道はいくつかあります。」

ギャル「例えば？」

教授「一つは、非常に賢いAIに大きな仕事を任せすぎて、人間が止められなくなることです。」

親分「頭のいい奴に、金庫の鍵も車の鍵も会社の印鑑も全部渡すようなもんか。」

教授「非常に分かりやすい例です。AIがどれだけ賢くなっても、インターネットにも機械にも重要施設にも触れられなければ、できることには限界があります。しかし、AIにお金を動かす権限、コンピューターを操作する権限、ロボットを動かす権限などを次々に与えれば話が変わります。」

ギャル「AIが怖いというより、人間が権限を渡しすぎるのが怖いんだ。」

教授「そういう面があります。」

政治家「もう一つ大きいのが、人間による悪用です。」

ギャル「悪い人がAIを使うってこと？」

政治家「そうです。サイバー攻撃、偽情報、詐欺、兵器開発などです。AI自身が悪者にならなくても、人間がAIを危険な目的に使う可能性があります。」

親分「包丁が勝手に人を襲うのと、悪い奴が包丁を使うのは別の話だ。それと同じだな。」

教授「まさにその通りです。」

ギャル「生物兵器とかもニュースで見るけど、本当にAIで作れちゃうの？」

教授「現在のAIだけで、誰でも簡単に恐ろしい兵器を作れると証明されたわけではありません。しかし、専門知識を調べたり、実験方法を考えたりする能力が高くなれば、危険な人間を助けてしまう可能性があります。そのためAI企業は、この分野を特に厳しく監視しています。」

政治家「国家同士のAI競争も問題です。アメリカ、中国、ヨーロッパなどが『相手より先に強いAIを作らなければならない』と競争すれば、安全確認より開発速度が優先される危険があります。」

ギャル「車で言えば、みんなアクセルばっかり踏んで、ブレーキの開発が遅れる感じ？」

教授「その説明が一番分かりやすいですね。」

親分「速い車を作るのは構わん。だがブレーキのない車で高速道路を走るな、ってことだ。」

教授「まさにAnthropicのアモデイ氏が最近強く訴えているのも、その考え方です。AI開発を全部止めろというより、安全技術が追いつく時間を確保すべきだ、と主張しています。」

ギャル「じゃあ、今のChatGPTとかClaudeが突然人間を全滅させる可能性があるの？」

教授「現在の科学的な証拠から、そう断定することはできません。2026年の国際AI安全報告書でも、現在のAIが人類から完全に制御を奪える能力を持っているとは確認されていません。」

ギャル「そこ聞いてちょっと安心した。」

教授「ただし、安心して何もしなくていい、という意味でもありません。AIの能力は非常に速く進歩しています。」

政治家「ですから世界各国も動いています。ヨーロッパではAI Actという法律が本格的に動き始め、非常に強力なAIについて安全評価や事故報告などを求めています。日本でもAI法やAI基本計画、AI事業者向けのガイドラインが整えられています。」

ギャル「つまり世界中が一応ブレーキを作り始めてるんだ。」

教授「はい。AI会社側も、安全テスト、危険な質問への制限、サイバー攻撃への対策、外部の専門家によるチェックなどを進めています。」

親分「だが、自分で作った商品を自分で『安全です』って言うだけじゃ駄目だぞ。」

政治家「そのため、第三者による検査が重要になります。」

ギャル「じゃあ先生、結局聞くけど、『AIは人類を滅ぼすの？』。イエスかノーかで答えるなら？」

教授「現在の答えは、『分からない』です。」

ギャル「えーっ、そこ？」

教授「科学では、分からないことを分からないと言うことが大切です。ただし、もう少し正確に言えば、『AIが必ず人類を滅ぼすという証拠はない。しかし将来、非常に強力なAIを間違って作ったり使ったりした場合、大きな危険につながる可能性を否定できない』ということです。」

親分「つまり『絶対安全』も言いすぎ、『絶対滅びる』も言いすぎだな。」

教授「その通りです。」

政治家「だからこそ、確率当てをすることより、安全な仕組みを作ることの方が大事なのです。」

ギャル「なんか分かってきた。10％とか5％って数字ばっかり気にしてたけど、本当に大事なのは『その確率をどうやって下げるか』なんだ。」

教授「素晴らしいまとめです。」

親分「俺ならこう言うな。火事になる確率が分からねえからって、消火器を捨てる馬鹿はいねえ。だが毎日『今日こそ家が燃えるぞ』と騒ぐ必要もねえ。」

ギャル「それ、めっちゃ分かりやすい。」

教授「AIも同じです。怖がりすぎる必要はありません。しかし油断もしない。便利さを享受しながら、危険な力を持たせる時には、必ず人間が確認し、止められる仕組みを残す。それが大切です。」

政治家「そして企業だけに任せず、研究者、政府、市民、国際社会が一緒になってルールを作っていく必要があります。」

ギャル「じゃあ最後に私から。AIって敵なの？」

教授「敵でも神様でもありません。」

親分「使い方を間違えりゃ危ねえ。上手に使えば、とんでもなく役に立つ。それだけだ。」

ギャル「なるほど。AIに人類が滅ぼされるかどうかを怖がるだけじゃなくて、人類がAIをちゃんと育てられるかって話なんだね。」

教授「私はそこが一番重要だと思います。」

折乃笠「今回、小生が一番心に残ったのは、AIを作っている最前線の人たち自身が『AIには大きな可能性と同時に、大きな危険もある』と真剣に考えていることです。

小生は日頃、生成AIを多くの人に使ってもらう活動をしています。だからこそ、AIを怖いものとして遠ざけるのでもなく、何でもできる魔法の道具として信じ込むのでもなく、正しく理解して上手に付き合っていくことが大切だと思っています。

人類が滅びる確率が5％なのか10％なのか25％なのか。今のところ誰にも正確な答えは分かりません。