今年、フェイスブックの共同設立者が出資するグループから1500万ドル以上を受け取ったランド研究所の研究者たちは、ホワイトハウスがAIに関する新しい報告要件を抜本的に見直す原動力となった。
Brendan Bordelon
Politico
12/16/2023 07:00 AM EST
ポリティコが入手したランド研究所の内部会議記録と、その起草に詳しいAI研究者によると、ランド研究所は最近、テック業界の億万長者たちが支援する影響力ネットワークと結びついている著名な国際的シンクタンクだが、ジョー・バイデン大統領による人工知能に関する新しい大統領令の起草に重要な役割を果たしたという。
10月の大統領令でランド研究所が提示した条項には、最も強力なAIシステムに課される一連の報告要件が含まれており、表向きはこの技術がもたらす大惨事のリスクを軽減するように設計されている。これらの要件は、今年ランド研究所に1500万ドル以上の資金を提供した団体、オープン・フィランソロピーが追求する政策の優先順位と密接に関連している。
オープン・フィランソロピーは、フェイスブックの共同設立者であり、アサナのCEOであるダスティン・モスコヴィッツとその妻であるキャリ・ツナによって設立された団体である。
効果的利他主義者たちは現在、AIに大きな関心を寄せており、高度なAIがいつか生物兵器の開発に利用される危険性など、このテクノロジーが持つ終末論的な可能性に取り組むよう、ワシントンに働きかけを強めている。批評家たちは、この運動が推測される将来のリスクに焦点を当てることで、人種偏見を助長したり著作権保護を損なったりする傾向など、既存のAIの害悪から政策立案者の目をそらし、一流ハイテク企業の利益に貢献していると主張している。
効果的利他主義の思想とAI産業との結びつきは、すでに密接なものとなっている。一流AI企業の重要人物の多くが、効果的利他主義の提唱者なのだ。数十年の歴史を持つ有力なシンクタンクであるランド研究所は、こうしたアイデアをアメリカの政策に導入する強力な手段として機能している。
ランド研究所では、CEOのジェイソン・マシーニーと上級情報科学者のジェフ・アルストットの両名が有能な利他主義者として知られており、両名ともバイデン政権とつながりがある： 彼らは昨年ランドに入社する前、ホワイトハウスの科学技術政策局と国家安全保障会議の両方で一緒に働いていた。
ランド研究所スポークスマンのジェフリー・ヒデイは、アルストットを含むランド研究所の職員が、AI大統領令の報告要件やその他の部分の起草に関与していることを確認した。ヒデイは、ランドは「今日の重要なトピックに関する研究と分析を行い、その研究、分析、専門知識を政策立案者と共有する」ために存在すると述べた。
ランドは今年初め、オープン・フィランソロピーからAIとバイオセキュリティに関して1500万ドル以上の裁量的補助金を受けた。この効果的利他主義のグループは、AI企業のAnthropicやOpenAIと個人的・金銭的なつながりがあり、ランド大学のトップは、これらの企業の主要な企業組織と密接な関係がある。
マシーニーは、Anthropic社の「Long-Term Benefit Trust」の5人のメンバーの1人を務めている。そしてターシャ・マコーリー（AIの黙示録を根深く恐れているとされるランド研究所の非常勤上級管理科学者）は先月、OpenAIのCEOサム・アルトマンを解任しようとした後、OpenAIの取締役を退いた。
Horizon Institute for Public Service（オープン・フィランソロピーが出資する組織）は、AIやバイオテクノロジーに関する存亡の危機やその他の政策問題に取り組むスタッフをワシントン各地に配置しているが、その資金提供を受けている2人のAIフェローがランド研究所で働いている。これらのフェローは、オープン・フィランソロピーや他のテクノロジー関連団体から資金提供を受けている広範なネットワークの一部であり、連邦議会や連邦政府機関、ワシントンの主要なシンクタンクにAIスタッフを派遣している。
ランド研究所がホワイトハウスのAI政策に大きな影響力を持つようになったのは、ランド研究所の職員たちが、シンクタンクが効果的な利他主義と結びついていることに懸念を表明し始めたからだ。
ポリティコが入手した10月25日の全従業員会議では、ある従業員が、ランドとオープン・フィランソロピーとの関係が、「効果的利他主義のアジェンダ」を推進するために、「厳格で客観的」なランドという評判を損ないかねないと懸念していた。
同じ録音で、マシーニーは、ランドがAI大統領令の草案作成でホワイトハウスを支援したと語っている。10月30日に署名されたこの命令は、AIやバイオテクノロジーの最先端を行く企業に対し、広範な新しい報告義務を課すものだ。これらの要件は、AIに対するバイデン政権のアプローチに歯止めをかけるものであり、アルストットをはじめとするランド研究所の職員が大きな影響を与えた。
大統領令の起草に詳しいAI研究者は、この話題はデリケートなため匿名を希望したが、ポリティコによると、アルストットと他のランド職員は、ホワイトハウスが大統領令を起草する際に実質的な支援を提供したという。この研究者によると、アルストットやランド研究所の他のメンバーは、特に第4節にある報告義務の作成に関与したという。
特に、第4章では、高度なAIモデルの開発や、その訓練に使用されるマイクロチップの大規模なクラスタに関する詳細な情報を提供するよう企業に求めている。また、これらのAIモデルに対してより厳格なセキュリティ要件を義務付け、遺伝子合成に携わるバイオテクノロジー企業に対して新たなスクリーニングの仕組みを導入し、AIおよびバイオテクノロジー企業に対してknow-your-customerルールを推進するとしている。
大統領令の最も具体的な側面の多くは、アルストットが以前から推進していたアイデアである。アルストットが9月に上院で行われたAIを利用した脅威に関する公聴会で行った包括的な政策提言のうち6つすべてが、何らかの形で第4節に盛り込まれている。その中には、企業が高度なAIモデルに関する情報を報告しなければならない正確な閾値も含まれている。アルストットとホワイトハウスの両者は、その閾値を10^26演算以上と定めている。
バイデンが大統領令に署名する5日前の10月25日、ランド研究所の全従業員を集めた会議で、マシーニーは「国家安全保障会議（NSC）、国防総省、および国土安全保障省は将来のAIシステムによる壊滅的なリスクを深く懸念しており、ランド研究所にいくつかの分析を依頼した」と、ランド研究所の影響力について言及した。ランド研究所CEOは、これらの分析が「新たな輸出規制と来週ホワイトハウスから期待される重要な行政措置に影響を与えた」と述べた。
ホワイトハウスが大統領令を発表する数時間前、10月30日にアルストットがランド大学の複数のアカウントに送った電子メール（ポリティコがそのコピーを入手した）には、アルストットが「1週間前の（命令の）バージョン」と呼ぶ添付ファイルが含まれていた。アルストットが大統領令署名の1週間前に最新版のコピーを持っていたことは、彼が大統領令の作成に深く関わっていたことを示唆している。
ヒデイは、10月25日の全員会議の録音と、アルストットが送った電子メールの正確性を確認した。
ヒデイによれば、ランド研究所は、第4節に盛り込まれた条項の少なくともいくつかについて、最初の提言を行ったという。大統領令の起草に詳しいAI研究者は、この順序は、シンクタンクがホワイトハウスで不適切なレベルの影響力を行使していたことを示唆していると述べた。この研究者は、ランド研究所がAI大統領令の主要な条項の最初の提案者となったことで、バイデン政権が優先事項を立案し、実施するのを単に支援したのではなく、「技術支援活動」を超えて「影響力活動」に迷い込んだのではないかと懸念を表明した。
ヒデイは、ランドがオープン・フィランソロピーのAIとバイオセキュリティの優先事項を大統領令に不適切に挿入したという考え方を否定した。
「ランド研究所に資金を提供する人々や組織は、政策提言を含む私たちの研究結果に影響を与えることはありません」とヒデイは語った。ランド研究所の広報担当者は、「客観性を確保するために厳格な方針が定められている」と付け加えた。
マシーニーとアルストットは、共に最近ホワイトハウスで働くようになったが、AI政策に影響を与えるために、政権内の関係を利用したのか、という質問に対して、ヒデイは、「（マシーニーとアルストットを含め）ランドに入社した者は皆、広範な専門的関係のネットワークを持っている」と答えた。
ホワイトハウスのロビン・パターソン報道官は、ランドがAI大統領令の起草に参加したことを肯定も否定もせず、ランドとオープン・フィランソロピーとの関係についての質問にも答えなかった。
パターソン氏は、AIに関するバイデン氏の行動は、「市民権、プライバシー、消費者、労働者、市場の失敗、国家安全保障へのリスクなど、幅広いリスクに対処するものであり、また、病気の治療や気候変動への対応など、現代の最も重要な課題に対処するためにAIを適切に活用するものである」と述べた。
オープン・フィランソロピーのスポークスマンであるマイク・レヴィーン氏は、同団体が「（AIの安全性に関する）ホワイトハウスの自主的なコミットメントの勢いを引き継ぐために、バイデン大統領の取り組みに貢献するよう依頼された独立した専門家を支援できたことを誇りに思う」と述べた。レヴィン氏は、AI政策への効果的な利他主義の影響力を批判する研究者の中には、バイデン大統領の大統領令の側面を称賛する者もいると指摘した。新たな報告義務に加え、大統領令には、既存のAIによる危害に対処するためのいくつかの項目が含まれている。
ランド研究所の職員の中には、オープン・フィランソロピーや利他主義との関係が、75年の歴史を持つシンクタンクの客観性にどのような影響を与えるかについて、内部で懸念を表明している者もいる。
同じ10月25日の全体会議で、正体不明の質問者が、ポリティコの以前の記事で取り上げられたランド研究所とオープン・フィランソロピーとのつながりについて、「厳格で客観的な分析」という老舗シンクタンクの評判とは「相反するように思える」と述べた。質問者はマシーニー氏に、「ランド・ブランドでの証言や政策メモによる、効果的な利他主義のアジェンダの推進は適切か」と尋ねた。
マシーニー氏は、AIがもたらす可能性のある破滅的なリスクについて、「特に政策立案者が私たちに求めているのに、（ランドが）それを取り上げないのは無責任だ」と答えた。
彼はまた、ポリティコが「AIの安全性についての懸念は周辺的な問題であるかのように誤って伝えているが、実際には、今日の主要なAI研究者の間では支配的な問題である」と主張した。
同じ会合で、別の正体不明の質問者は、「ランド内で（効果的利他主義者を）雇用し、通常のランド・エコシステムの外に均一なフェロー・グループを作ろうとする動き」についてコメントするようマシーニーに求めた。その質問者は、ポリティコの記事で取り上げられたランドとオープン・フィランソロピーとの関係は、「我々の組織に対する信頼を脅かすものだ」と述べた。
マシーニーCEOは、ランドは「私たちの出版物と同じように、雇用においてもデューデリジェンスを実践している」と答えた。ランドCEOは、「どちらかといえば、オープン・フィランソロピーがより手を抜いたやり方をしているのを見た」と付け加えた。
ヒデイはポリティコの取材に対し、ランド研究所内では「効果的な利他主義者を採用しようという動きはない」としながらも、シンクタンクでは「様々なタイプのフェローシップ・プログラムを開催している」と述べた。
