ジェフリー・ヒントン氏によると、今後30年以内に人工知能が人類を絶滅させる可能性が高まっているという。
RT
28 Dec, 2024 15:50
AIの先駆者であり、2024年のノーベル物理学賞受賞者であるジェフリー・ヒントン氏によると、人工知能は30年以内に最大20％の確率で人類を絶滅させる可能性があるという。これは、わずか1年前に彼が推定した10％のリスクから増加したことになる。
木曜日のBBCラジオ4のインタビューで、ヒントン氏はAIによる終末の可能性が10分の1という以前の推定から何か変わったかと尋ねられた。チューリング賞を受賞したこの科学者は、「それほどではない、10％から20％だ」と答えた。
これを受けて、番組のゲスト編集者で元首相のサジド・ジャビド氏は「上がっているよ」とジョークを飛ばした。昨年Googleを辞めたこのコンピューター科学者は、「むしろ。おわかりのように、私たちはこれまで自分たちよりも賢いものに対処しなければならなかったことはない」と答えた。
AIへの貢献により今年のノーベル物理学賞を受賞した英国系カナダ人科学者は、高度なAIシステムを制御することの難しさを強調した。
「より知能の高いものが、より知能の低いものに制御される例をいくつ知っていますか？…進化は、赤ちゃんが母親を制御できるようにするために多くの努力をしましたが、私が知っている例はそれくらいしかありません」と、しばしば「AIのゴッドファーザー」と呼ばれるヒントン氏は述べた。
彼は、「自分と3歳児を想像してみてください。私たちは3歳児です」と提案し、将来のAIは「人間よりも賢い」だろうと述べた。
ヒントン氏は、進歩は「予想よりもはるかに速い」と指摘し、安全を確保するための規制を求めた。彼は、企業の利益動機だけに頼ることに対して警告し、「大企業に安全性についてさらに研究するよう強制できるのは、政府の規制だけです」と述べた。
2023年5月、AI安全センターは、ヒントン氏を含むこの分野の著名な科学者が署名した声明を発表し、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会的規模のリスクと並んで、世界的な優先事項であるべきだ」と警告した。署名者には、テスラのCEOであるイーロン・マスク氏、アップルの共同創設者であるスティーブ・ウォズニアック氏、ニューラルネットワークの研究でAIの先駆者とみなされているヨシュア・ベンジオ氏などがいる。
ヒントン氏は、AIシステムが最終的に人間の知能を超え、人間の制御を逃れ、人類に壊滅的な害を及ぼす可能性があると考えている。彼は、AIの安全性と倫理的使用を確保するために多大なリソースを投入することを提唱し、手遅れになる前に積極的な対策を緊急に講じる必要があることを強調している。
メタのチーフAIサイエンティストであるヤン・ルカン氏は、ヒントン氏とは反対の意見を表明し、この技術は「実際に人類を絶滅から救う可能性がある」と述べた。
