【ちょい事情通の記者】 AIの始祖、Metaヤン・ルカン首席AI科学者へのインタビュー

オーロラシリコンバレー特派員+ちょい事情通の記者

AIのブーマー、Meta　ヤン・ルカン首席AI科学者インタビュー

今日のレターは、海を渡ってシリコンバレーから来たレターです。オーロラ特派員がMeta（メタ）の「基礎AI研究所（FAIR）」創立10周年記念イベントに参加しました。オ―ロラ特派員はここでMetaヤン・ルカン主任AI科学者（副社長）兼ニューヨーク大学教授にインタビューしました。

ルカンは、ジェフリー・ヒントン　トロント大学教授、ジョシュア・ベンジ　オモントリオール大学教授、アンドリュー・ン　スタンフォード大学教授とともに「AI　4天王」と呼ばれる碩学者です。2013年のFAIR設立時に初代所長を務めた彼は、2018年にヒントン・ベンジオ教授とともに「コンピュータサイエンスのノーベル賞」と呼ばれるチューリング賞を受賞しました。

しかし、最近、AIの危険性をめぐって行われた「AI哲学論争」において、これらの碩学の見解は極端に分かれています。ヒントンとベンジオがAIが人類にとって実存的な危険になると考える「ドゥーマー(Doomer-破滅論者)」であるのに対し、ルカンはAIの潜在能力を最大化して人間を助けなければならないという「ブーマー(Boomer-開発論者)」と評されています。彼が教授でありながらMetaの主任科学者を務める理由でしょう。

ヤン・ルカンは、複数の記者や参加者を対象とした講演や、オーロラ記者との対談で、人間レベルへの人工知能（AGI）の到達、AIの危険性、AI技術の開発スピードの観点や今後のAI技術競争の方向性など、様々なテーマについて率直に語りました。ちょい事情通の記者記者には、AI 4大始祖のうちアンドリュー・ンとヤン・ルクーンまで登場し、残りはあと2人になりました。ヒントン氏とベンジオ氏のインタビューまで行い、AIという技術的なテーマについても着実にお伝えしていきたいと思います。

オーロラ記者の録音録をGPTの助けを借りて翻訳しました。一部のヤン・ルカン教授の発言には、理解を助けるために質問を添付します。また、記事の下部にはヤン・ルカン教授の英語の回答の原文も添付します。

Metaの基礎人工知能研究所（FAIR）の10周年記念イベントで、Metaのヤン・ルカン首席AI科学者（右）がAIの将来展望について説明する様子／サンフランシスコ＝オーロラ特派員

1.「ジェンスン・ファンが、もうすぐAGIが来ると言っていた？彼はただの武器商人です。人間に勝てるチェスAIがあるからといって、すべてが可能なわけではない」

-AGI（人間に近いレベルであろうとされる、汎用人工知能）とは？

「『汎用人工知能』というものはありません。人間の知能も非常に専門化されています。ですから、私は「人間レベルのAI」または「高度な機械知能」と呼ばれるものについて話すようにしています。これが私たちがつけた名前です。そう、しかし、それはあくまで一つのカテゴリーに過ぎません。さて、そうは言っても、未来の、ある時点で人間より賢い機械が登場することは間違いありません。では、何が起こるのでしょうか？今、最も楽観的な人は、それは、すぐ目の前まで来ていると言います。『3年以内に起こるでしょう』と言われ続けてきましたし、今も言われ続けていますが、間違っています。」

-NVIDIA（エンビディア）のジェンソスン・ファンCEOは今日のメディアデーで、5年以内にAGIの瞬間が来るだろうと述べました。

「ご存知の通り、AI戦争があります。彼は武器を供給しています。だから彼はすべてが続くことを望んでいるのです。そう、つまり、ショートカットがなく、購入すべきGPUが多ければ多いほど良いのです。私はそういう未来はかなり怖いことだとは思いますが、3年以内、5年以内に起こることではありません、わかるでしょう？5年以内に起こることは、私たちはおそらく進歩を遂げる、ということです。人間レベルの知能への道が提示はされるでしょう。しかし、私たちが最初に得られるのは、人間レベルの知能ではなく、猫や犬レベルの知能でしょう。これには多くの作業と繰り返しが必要です。そして、一部の人々が主張するように、私たちが巨大なシステムを作って電源を入れるだけで、数分で地球を支配するという考えは、まったくばかげています。そんなこと、ありえないですよね。そうはいきません。これは非常に遅く、退屈なプロセスであり、難しい工学と多くの科学が必要です。

よく知らない人は、法律試験に合格できるAIシステムがあるのだから、人間の知能を備えていると考えるかもしれません。しかし、現在人間全員に勝つことができるチェスプレイシステムもあります。だからといって、推論できるシステムがあるわけではありません。その証拠に、法律試験に合格できるAIシステムがあるにもかかわらず、私たちはまだレベル5の自動運転車を手に入れていません。どんなティーンエイジャーでも20時間の練習で学ぶことができるのに。ですから、明らかに私たちが見逃していることは非常に大きいのです。そしてそれは単に運転に関することだけではありません。10歳の子供に初めて夕食の食器を片付けて食器洗い機に入れるように頼んでみてください。一度でできるでしょう。学ぶ必要はありません。しかし、私たちはこのような学習ロボットの作り方は全くわかりません。」

2.AIに対する恐怖を乗り越え...「AIを007映画の悪役のように描いている」

-AIに対する恐怖は今ちょっと飽和状態でしょうか？

「大げさです、意味がありません。なぜなら、人間レベルの知能に到達するにはまだ遠いからです。つまり、少なくとも、現時点では極端に早いということです。言い切ることはできませんが...では、皆さんにお聞きしたいのですが、可能性はあるでしょうか？知っておくべきこと、そして、私たちが本当に非常に賢いAIシステムを設計できる確率はどれくらいでしょうか？そして、そのAIが別の道を歩んだり、予想外のことをする確率はどれくらいでしょうか？そうですね、そうです。私はこの質問はおかしいと思います。

私たちには行動力があります。まるで、『あなたが次の1分以内に携帯電話を落とす確率はどれくらいでしょうか？』みたいなものです。私がしっかり握っていれば、ほぼゼロに近いです、わかりますよね、私には行動力があります。それは、どうなっても落ちるし、あなたができることは何もない、というようなことではないのです。そして、私たちは再び作ります、わかりますよね。つまり、危険なものであれば、私たちは作らないか、作ろうとしてもリリースしないか、あるいは小さなものを作って実験します。今日私たちが置かれている状況は、1920-1925年の航空・航空輸送が置かれていた状況と似ています。まるで、人々が委員会全体で『ああ、今すぐ航空を止めなければならない、大惨事を考えてみてください』と言っているようなものです。」

-飛行機で太平洋を渡るときに墜落して死ぬという恐怖のように。

「飛行機、そう、私たちは飛行機が墜落することを知っています。では、1925年にプロペラ飛行機で太平洋を横断することは、どのようにすれば安全にできるのでしょうか？誰もそのようなことを成し遂げた人はいませんでした。ジェットエンジンが発明されたのはその数年後でしたから。だから人々は尋ねました、超知性的なAIを確実に安全に作ることができますか？それはまるで1925年の人々はターボジェットを安全に作ることができますか？と尋ねるようなものです。当時はターボジェットも発明されていませんでしたよね？しかし、現在のターボジェットは信じられないほど信頼できます。それは誰かが魔法のような方法を発見したからでしょうか？いいえ、それは数十年にわたるエンジニアリングの結果です。」

-AIの初期展開は、雨が降る前の最初の雨粒のようなものだと誰かが言っていました。だからAIを世に送り出すことは、後に続く何かの警告なのでしょうか？このプロセスを遅くすべきか、それともこのペースを維持すべきか？AIシステムとサービスについてどう考えていますか？早く進むべきでしょうか、それともゆっくり進むべきでしょうか？

「私たちは、経済的な面で許す限り早く進めなくてはなりません。投資を正当化するのに十分なメリットがあるのに、なぜ遅らせる必要があるのでしょうか？安全の観点からは、本当に遅くする理由はありません。安全について人々が語っているのは、まるで007映画の悪役のようなことです。全く現実的でないのです。人々は「AIを使って新しい生物兵器（2号の説明：最新の007映画の悪役は生化学兵器でテロを起こします）を設計することができるでしょう」と言います。いいえ、できません。まず、現在のシステムは公開データに基づいて訓練されており、検索エンジンや図書館訪問で得られない情報は提供しません。彼らはただ指示のリストを提供するだけで、実際に難しい作業、すなわち実験室での作業、ウイルス培養、DNA配列合成のための転送などを行う必要があります。それは、本当に難しいのです。そしてそれを放出すれば、作った人も殺すでしょう。そういうシナリオはかなりばかばかしいです。」

3.これから3～4つの大きな進歩が必要...AIが理解できない世界モデルとは？

「業界関係者を驚かせたのは、一般の人々がChatGPTに見せた関心の高さでした。ChatGPTの技術は人々を驚かせるようなものではありませんでした。この革命はChatGPTがリリースされる3年前に起こりました。ですから、技術的な観点からは驚くべきことはありませんでした。しかし、驚くべきことに、一般の人々は、私たちがおそらく3週間前に作成した、科学者を支援するために特別に作られた画像に魅了されました。それは非常に悪く受け取られました。Twitterや様々なネットワークで多くの人が批判し、否定的な反応が多かったので、私たちはそれを削除しました。そして3週間後にChatGPTが登場し、それはテクノロジーにおいて全く異なる方法で歓迎された2度目の出現のようなものでした。これは、大衆がテクノロジーをどのように認識しているかについて多くのことを教えてくれます。GoogleやMicrosoftのような会社が製品をリリースすることは、歴史のない小さな会社よりもはるかに大きなリスクがあります。しかし、それは人々がこれまで気づかなかったAI技術の潜在的な影響について多くの考えを変えました。ご存知のように、1年ほど前までは、AIの大部分の運用は裏で行われていました。コンテンツの調整、整合性、ランキング、翻訳などの難しい作業に使われていたのです。しかし、AIが核となる、AI中心の製品はありませんでした。現在は、ありますよね。つまり、産業界の多くの人々の考えを変えたということです。」

-私たちはジャーナリストとして、この1年間、懐疑的かつ厳密にAIの問題を扱ったでしょうか？

「おそらく否でしょうね。メディアは確実に多くの誇大宣伝をしており、それはソーシャルネットワーク等も同様でした。それらのシステムを答えとして見て、私たちはただそれらを拡張するべきだと考えること...私はこれを信じていませんし、誰もが分かっています。そのため、私はこれについて多くの公開的な意見を出しました。最初はそうした意見について、「ダメだよ、皆さん、これは知能じゃないよ」と。私たちはAI研究者として数年先を見据えなければならず、実際に私たちが研究しているものは数年先のものです。だから私たちは限界がどこであるかを知っていますし、意図を持って仕事をしてきました。仕事をすればするほど、どれほど深刻であるかを実感します。」

「AIの規模に関する問題は、繰り返しになりますが、2020年代に持っていたものを単純に拡張するだけでは、『人間レベルのAI』へは到達できないということです。これから発明すべき核心的なものが3～4つあります。一つは、システムを訓練させる能力です。私たちはそこでいくつかの初期結果を持っていますが、うまくいく公式を持っているとは思っていません。そして、それらのシステムを使って世界モデルを学習するのです。そのため、ジョエルは講演でそのことをほのめかしたのですが、私たちは議論する時間がありませんでした。それは私たちが開発すべき重要な部分です。」

-世界モデルですか？

「はい。世界モデルとは、世界の状態を認識し、周囲の環境を観察し、あなたが取るべき行動を想像できるようにするものです。物体に力を加えたをときのように、その行動の結果を予測することができます。ここを押せば、あそこを押した時と結果が違うことが予測できます。これは全体的な直感に関するものです。しかし、これは物理的な世界だけにとどまらず、周囲の人々への理解も含まれます。誰かと会話するとき、あなたはその人についての精神的なモデルを持っています。人々はこれを「心の理論」と呼んでいます - 彼らが聞いて興味深いと感じるであろうことを理解するための精神的なモデルです。したがって、特定の目標に到達するために一連の行動を計画できるシステムを欲するなら、そのような世界モデルが必要になるのです。そして、現在のAIシステムではそれができません。」