490.AI開発に懸念相次ぐ
初回：2026/9/30
以前から、ちょくちょく、話題に挙がっているAI開発に関する話題です。
P子「AIが暴走したって話ね」※1
正直、私は素人なので、危機感がありません。なので、ある程度専門家の意見を聞いて、危機感を持たなければいけないと考えています。
今回は、あちこちのまとめ記事的になってしまいました。
1.１０年以内に人類皆殺しに
≪参考資料1≫
https://www.jiji.com/jc/article?k=2026091300109
ＡＩ開発に懸念相次ぐ 「１０年以内に人類皆殺しに」―アンソロピック研究者が抗議の退社
2026年09月14日10時25分配信
時事通信 編集局
『コクソン氏はオープンＡＩで勤務した後、今年に入りアンソロピックに入社。両社でＡＩの学習に関する研究を行っていた。』人で、『両社は自ら能力を改善していく超知能の開発に向け突き進んでおり、「責任ある行動を取っていない」と批判した。』そうです。そして、『「ＡＩ開発者らは、ＡＩが１０年以内に私たちを皆殺しにしかねないと考えている」と警告した。』という事です。
これに反応した研究者の一人は、『「ＡＩが人類を皆殺しにする可能性があると思う。個人的には、その確率は１０年以内に１０％に達する」と主張。』とのこと。
P子「一般利用者と研究者との間で、認識に相当差がありそうね」
そして、トランプ米大統領は『ＡＩによる人類絶滅への懸念を持っているか問われると「いや、まったく持っていない」と否定。』
私と同じ認識というのは、少しまずい気がします。
P子「まあ、中国とのＡＩ開発競争があるから、うかつにブレーキも踏めないわね」
2.開発減速を呼び掛け
≪参考資料2≫
https://www.jiji.com/jc/article?k=2026091300171
ＡＩ開発の減速呼び掛け １年以内に「インターネット全体を乗っ取る能力」懸念 アンソロピックＣＥＯ
2026年09月13日09時39分配信
時事通信 編集局
近くにあった記事なので、ついでに。
アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）の発言に対して、『米オープンＡＩのサム・アルトマンＣＥＯと米実業家イーロン・マスク氏もこの主張に賛同した。』そうです。
まずは、少し開発を減速して、対策が追い付けるようにすることを提唱したそうです。
『ＡＩ開発企業に常駐の独立した評価者の設置や、政府による法規制、中国など権威主義国家も交えた減速への枠組み構築を訴えた。』
こういう枠組みは私も必要だと思います。
3.ＡＩに「１０億人の死者出す力」
≪参考資料3≫
https://www.jiji.com/jc/article?k=2026092600246
ビル・ゲイツ氏、ＡＩに「１０億人の死者出す力」 開発減速へ法規制を
2026年09月26日11時45分配信
時事通信 編集局
その中で、『業界内の自主規制では不十分で、法執行機関や政治家が参加し、どのような安全対策や監督体制が必要か議論すべきだと指摘した。』そうです。
会員限定記事ですが、これも上げておきます。
≪参考資料4≫
https://www.jiji.com/jc/v8?id=202609genai
ＡＩ開発競争で人類が直面する危機～マンハッタン計画に匹敵する不条理
2026年09月20日09時00分
（東京大学大学院教授・酒井邦嘉）
そんな中、トランプ大統領のAIの呼称変更というニュースがありました。
≪参考資料5≫
https://mainichi.jp/articles/20260926/k00/00m/030/118000c
「AI→SI」呼称変更「合意」に疑義 中国発表は「人工知能」維持
2026/9/26 19:05（最終更新 9/26 22:59）
毎日新聞
『人工知能（AI）を「スーパーインテリジェンス（超知能、SI）」と呼ぶことで双方が一致したと明らかにした。』そうです。
P子「AIは危険だから、SIにすれば安心安全に見えるって作戦かしら？」
理由は『AIは素晴らしい能力を持っているのに、名称が「うそっぽく聞こえる」と指摘』だそうです。
4.まとめ
今回は、まとめ記事的になってしまったので、まとめのまとめでまとめにくいのですが、要するに一般人はAIが便利になったとか、中国の人型ロボットがすごいとか気楽に言ってますが、専門家からすると、『こりゃほんとにまずいぞ』という緊張状態になってきているという感じでしょうか？
まだ、会社ではソースコードのチェックや議事録作成程度にしか使われていませんが、高度なAIエージェントが活発に導入されてくると、ほんとに収拾がつかなくなってくるのかもしれません。
P子「目に見える産業革命とかとは、ちょっと種類が違うものね」
この手の記事は、今後も色々と出てくるかもしれませんが、注意して追いかけていきたいと思います。
ほな、さいなら
======= <<注釈>>=======
※1 P子「AIが暴走したって話ね」
P子とは、私があこがれているツンデレPythonの仮想女性の心の声です。