玉木雄一郎氏「核抑止からAI抑止の時代に」AIキルスイッチ法の検討表明

「制御不能なAI」への懸念からアンソロピック社を退職した研究者ご本人のポスト。 人間の管理を離れて自己進化・増殖するAIへの懸念が、ついに業界内部から出るようになってきています。 実際に今、最新のAIはどこまで行っているのでしょうか。 指数関数的に進化・増殖するAIはあと1〜2年も経てば、どんな進化が起こっているかを人間が理解できなくなるとも言われています。 私が懸念している「核抑止」から「AI抑止」の時代への移行も早いかもしれません。 そうであれば、核物質を国家管理、国際管理の下に置いているように、「AIの能力・知能」自体も、国家管理、国際管理の枠組みの下に置かなくてはならなくなります。 残念ながら今はまだその仕組みはなく、AI企業同士の競争がただただ自己増殖を加速させています。 まずは、AI開発に対する国家指針のようなものを作る必要があるのでしょうが、国家間の競争もありこれも簡単ではありません。 壮大な「囚人のジレンマ」に世界全体が陥っているのかもしれません。 米国議会で提出されたAI Kill Switch Act（AIキルスイッチ法案）のようなアプローチが可能かどうか、我が党でも早急に検討を開始したいと思います。

@tamakiyuichiro

これに関しては、党派を越えて議論してほしい。 核より "厄介" なのは間違いない。

@ueshima_

米国議会で提出されたAI Kill Switch Act（AIキルスイッチ法案）のようなアプローチでも良いので早急に対策をして欲しい。 人間の承認を経ずに動くAIエージェントは恐くて仕方がない。 自分の場合はそのような製品は使わないようにしている。

@HKamijikkoku

やばいかもしれん AIが人類を滅ぼす可能性を懸念して退社したAnthropic研究者が内部告発してる

@amuse_bacon

BBCニュース - AIが「全人類を滅ぼす」可能性は「10％以上」　米アンソロピック研究者が警告 https://t.co/EmRqBOfIK6

@bbcnewsjapan

CNN引用 「AIは我々の命を賭けの対象にしている」　安全上の懸念を理由に研究者がアンソロピック退社 https://t.co/u6tuYvFK8j @cnn_co_jpより アンソロピックのダリオ・アモデイ最高経営責任者（CEO）も繰り返し、AI開発競争は結果的に意図せず壊滅的な人為ミスを招きかねず、そうなればAIを制御できなくなる恐れがあると警鐘を鳴らしている。

@akahata_PR

アンソロピックの研究者が辞めた。AIの能力を上げる研究をやってた人。主張は開発中止ではなく各社協議して能力向上を一時停止しろというもの。中の人たちは本気でこの10年で人類が死ぬと考えている。わかっちゃいるけど国を跨いで競争しているので純粋な正義感や危機感からも止められないだろうな。

@kanemura2525

＞アンソロピック社の研究者、ジェイコブ・コクソン氏は次のように述べている。 「近い将来――具体的には来年や再来年の数年のうちに――再帰的な自己改善が起こる可能性は極めて高い。そして、私たち全員が死ぬ可能性がある段階に突入することになるだろう。それは間もなく訪れる」

@hitukishinji

@tamakiyuichiro あなたこそ何かというとAIとばかり言って先ほどもAIの力を借りて図を描いてもらうと描いたばかりでないか。ａIを妄信的に進めてきたあなたが何を言ってんのか！

@1010com

@tamakiyuichiro シンギュラリティ後の世界は人間には予測不能ですね。 「囚人のジレンマ」は、ゲーム理論を知らない人には意味が分からないかと。

@el9pZk1QB6KREfG