サム・アルトマンと炉端でチャット

Rescale は、スポンサーである AWS、Intel、Microsoft、Google Cloud とともに、 ANSYS、シーメンスとコンバージェント サイエンスが第 XNUMX 回イベントを開始 ビッグコンピューティング カンファレンスは11月12～XNUMX日にサンフランシスコで開催される。 ヘッドライナーは、OpenAI の CEO であり、Y Combinator の会長である Sam Altman 氏で、Rescale の COO である Shawn Hansen 氏と囲炉裏で談笑しました。

成績証明書（トランスクリプト）

ショーン：
皆さん、ようこそ。 本日は、サンフランシスコのダウンタウンにある美しい SFJazz で開催された第 XNUMX 回ビッグ コンピューティング カンファレンスにご参加いただきありがとうございます。 今日は多くのトピックについて話しますが、今日の全体的なテーマは、世界ではビッグデータが注目されていますが、今ではビッグ コンピューティングの出現が見られており、それがどのように変化しているかについて話します。世界。 ここに来ているのは、OpenAI CEO の Sam Altman です。 どうもありがとうございます。
サム、最近 Google での講演で参加者からビッグ データとオープンソースの機械学習アルゴリズムのどちらが価値があるのか​​と尋ねられた際に述べたコメントから始めましょう。 そしてあなたは次のように言ったと思います、「私は企業にどうやって大量のデータを取得するのか尋ねていました。」 さて、私は彼らに、どうすれば大量のコンピューティング能力を手に入れることができるのかを尋ねます。」
それが何を意味したかについて少し話してもらえますか？
サム：
したがって、データは依然として重要で価値があると私は確かに思っていますが、AI 研究の分野で私たちがもたらした最も目覚ましい進歩は、大規模なデータよりも大規模なコンピューティングに関するものであることがわかりました。 インターネット上には大量のデータが存在することがわかりました。 また、場合によっては、大量のコンピューティングを使用して大量のデータを生成できるため、この E は、大量のコンピューティングと大量のデータの間に MC の XNUMX 乗等価性が生じます。
つまり、昨年の Dota 2 での OpenAI の結果について考えてみると、私たちはデータをまったく持たずに世界最高のチームを破ったのです。 全体としては、エージェントが互いにセルフプレイし、環境を探索し、機能するものを試し、機能しないものを停止すること、そしてそれを行うための一種の優れた RL アルゴリズムでした。 また、必要なデータが非常に少なく、多くのシミュレーションを実行するために大量のコンピューティングが必要な場合もあります。
もちろん、多くの企業にとってデータを持つことは重要ですが、一般的な分野では、データはこれら XNUMX つのカテゴリの中で最も重要ではないのではないかと思います。
ショーン：
ビッグ コンピューティングの出現により出現すると思われる大きなチャンスについて少しお話しいただけますか? 人工知能、私たちはそれについて話しますが、おそらく他の機会があるかもしれません。
サム：
正直に言うと、私は信じられないほどの目隠しをしているので、他のすべてを合わせたものよりもそれを気にしています、そしておそらく他にたくさんの機会があるでしょう、しかしそれは私が16日約XNUMX時間考えているものなので、それらは頭に入ってきません。
ショーン：
それについてもう少し話しましょう。 OpenAI に投稿したマイルストーンがいくつかあります。 その2つはDota XNUMXの勝利でした。 XNUMX つ目は、ルービック キューブを扱う人間の器用さです。 そしてもう一つは、最近投稿されたこのモデルの最近の一種のリテラシーを学ぶことです。 OpenAI で起こっているこれらのエキサイティングなマイルストーンについて少し話してもらえますか?
サム：
はい、たくさんあります。 おそらく言語に焦点を当てるでしょう。それはあらゆるビジネスに最も当てはまると思うからです。 ここ数年のこの分野における最もエキサイティングな発展の XNUMX つは、自然言語がどれほど優れているか、つまり自然言語用の AI がどれほど優れているかだと思います。
今後数年間で、言語を実際に処理、理解、対話できるシステムが爆発的に普及すると思います。これは、人々が強力な AI を実際に実感する初めての方法になると思います。他の人と会話するのと同じように、システムと対話することができます。 実際に意味のある対話ができるようになります。 コンピューターは、ある種非常に構造化されていない大量のテキストを処理できるようになり、ユーザーはそのシステムと対話し、どのような方法であれ、どのような方法であれ、望むものを得ることができます。
ショーン：
日常的なものの複合的な効果について少し話していただけますか。AI には短期的な日常的な効果がある一方で、長期的には素晴らしい効果があるということ、つまり、スマート スピーカー システムやデジタル アシスタントに何かを供給するというこのアイデアについて話してもらえますか? 。 今日見ている私の母が理解できるかもしれない、自分の人生で複雑に感じているかもしれない、AI に関して何か起こっていると思いますか?
サム：
大きなものの XNUMX つは音声認識だと思います。 ほとんどの人は XNUMX 年前がどれほどひどかったかを覚えており、Siri などを使用している人は毎年少しずつ良くなっていることに気づいています。 実際、毎年、少なからず、かなり改善されており、今では、困難な環境であっても、基本的に混乱することはありません。あるいは、人間が理解しようとするときに混乱するよりも、かなり混乱することはありません。 だから、それは最近の記憶にあるので、多くの人に共鳴するものだと思います。
ショーン：
誰かがあなたの Web サイトや OpenAI に来て、あなたが実際に何をしているのかを理解しようとしているとき、私の母はそれが何なのか理解するのに苦労すると思いますが、少し話してもらえますか?あなたがしていることが、平均的な一般人にどのような影響を与えるか。
サム：
そうですね、私たちは非常に長い期間を見据えて仕事をしています。 人類の歴史の中で、これまでに農業革命、産業革命、コンピューター革命という XNUMX つの大きな技術革命があったと思います。 私たちは現在、AI 革命の初期段階にいると考えており、この革命はこれまでの XNUMX つの革命をすべて合わせたものよりも大きなものになると予想しています。 そのように考え、知性を理解することは、この世で物理的なことを成し遂げる能力以上に、人間を人間たらしめるものなので、これは非常に大きなことであり、さまざまな面で人生に影響を与えると思います。
他の多くの人と同様に、私も Xerox PARC の例から非常にインスピレーションを受けてきたと思います。彼らが作成したテクノロジーは、さまざまな点でコンピューター革命を可能にしました。 私の研究ヒーローの一人であるアラン・ケイは、これらの企業は決して十分な規模で考えていない、と言って私をよく叱責していました。 「ゼロックス PARC で私たちは創設しました」その数字は、彼の計算によると「30 兆ドルの価値」といったものだったと思います。 誰がそんなスケールで考えているんだ?』 そして私の願いは、私たちの仕事が他の企業に 300 兆ドルの価値をもたらすことです。また、私たち自身もその価値の一部を獲得したいと考えています。
しかし、私たちは、インテリジェンスがどのように機能するのか、そしてそれを人々がどのように利用できるようにすることができるのかという、この壮大な課題を本当に解明したいと考えています。
ショーン：
その革命についてもう少し詳しく話しましょう。 革命は怖いものかもしれません。 あなたはマイクロソフトの CTO との最近のチャットで、次の本について言及しました。 パンデモニウム、 そして、産業革命の人々がどのように引用され、機械が世界を征服し、私たち全員が死に、これらの問題がどのように起こるかについての直接の説明です。
しかし、あなたはそんな中でも非常に楽観的な発言をしてきました。
サム：
まあ、彼らは何百年も前にそう言っていましたが、私たちはまだここにいます。 私たちは皆まだとても忙しいです。 まだやるべきことが残っています。 今回は違うということと、これまでにもすべてが起こったこと、そしてまたすべてが起こったことの両方が真実だと思います。 これは違います。 一般的な知性は強力なものです。 また、産業革命の時代には、ビッグコンピューティングを扱うコンピュータープログラマーの仕事を想像するのが難しかったのと同じように、私たちがここに座って、この向こう側の仕事が何になるかを考えるのは難しいことだとも思います。人間の需要、欲望 — その創造性はかなり無限のようで、私たちは新しいことを見つけるだろうと思います。 それに反する賭けは常に間違いでした。
ショーン：
あなたが起きている革命についてもう少し詳しく話してください。 あなたは、AGI がいかに人々が話し、想像している途方もなく困難なものであるかについて、複数の話をします。
サム：
コンピューターがある意味人間よりも知能が高いとき、あるいは人間ができるほとんどの仕事をコンピューターができるとき、世界が決定的にどのようなものになるのかを考えるのは非常に難しいと思います。 したがって、私が自信を持って言える唯一の予測は、状況は大きく変わるということです。 そして、すべてを同じに保つつもりだと言う人は嘘をついていると思います。 しかし、変化は避けられませんが、未来が確実に異なるものであることを保証するために、私たちは真剣に取り組むことができます。
ショーン：
あなたは Microsoft との同じ演説で、今後 86 年間に登場するコンピューターがどれほど驚くべきものになるかについて語っています。 XNUMX や GPGPU のこと、さらには量子コンピューティングが今後 XNUMX 年間に実現するかどうかという永遠の疑問さえもテーブルから外した場合、来年以内に他に驚くべきことが何かありますか?
サム：
ですから、ムーアの法則が減速しているのは事実だと思います。 人々は、それを継続するために何をしようとしているかについて、さまざまなアイデアを持っています。 もしかしたらうまくいくかもしれないし、うまくいかないかもしれない。 しかし、AI にとって重要なのは、AI にとって特に重要なのは、最大のモデルをどれだけ大きくできるかということですが、そこに到達するには、多数のコンピューターを接続したり、光インターコネクトを接続したり、必要なものは何でも使用します。これらの大規模なモデルを一種のトレーニングできるようになります。 約8年間にわたり、年間約XNUMX倍のペースで増加している。 そしてXNUMX年くらいはこの状態が続くと思います。 したがって、この時点でも、私は自分にとって本当に重要なこの XNUMX つのことに焦点を絞っています。 おそらく、コンピューティングに関しては他にも多くのことが起こるでしょうが、問題は、ニューラル ネットワークをトレーニングするためのコンピューターがますます大きくなるかということです。答えは「はい」であり、それは非常にエキサイティングです。
ショーン：
「持てる者」と「持たざる者」の間には大きなギャップがあり、特にビッグコンピューティングの出現により、そのギャップはさらに拡大しています。 この無限のコンピューティングにアクセスできる人は、さらに少数に縮小しています。 スタートアップ企業がここに参加したいと考えていますが、彼らは本当にこれにアクセスできるのでしょうか、またそれが管理者にどのような影響を与えるのでしょうか?
サム：
そうですね、それは大きな問題だと思います。 最大のモデルをトレーニングできる OpenAI のような企業は少数存在するでしょうが、一度トレーニングされてしまえば、当然のことながら、実行コストはそれほど高くなく、それに近いものさえありません。大規模なモデルをトレーニングできる人たちと、トレーニングできない他の人たちとモデルを共有する方法を考え出します。それが、「持っている」と「持っていない」問題を解決する方法だと思います。
ショーン：
私の好きな作家がいますが、歴史の分岐点に立って、歴史上の大きな節目や出来事は、立っていると大きな違いを生むということをほのめかしているのです。 そのときは気づいていませんが、立ち止まってそれを見つめます。 多くの人があなたのような人に過去を振り返って将来を予測するよう求めますが、今から 20 年後を振り返った場合、そのような点で重要な点として特徴付けることができると思うものはありますか?
サム：
午前55時に会議室で疲れ果てた少人数のグループが45対XNUMXで決定を下し、それが歴史の結末に多大な影響を与えるような決定はごくまれにあると思いますが、それは非常にまれです。 ほとんどの場合、それは右に上がっていく曲線の周りをくねくねと進み、テクノロジーの未来が展開されます。少し間違ったり、少し正しくなったりしますが、最終的には進歩が続きます。 つまり、これらのいくつかの信じられないほど重要な決定に関して言えば、誰もが自分の好きなストーリーを持っているということです。 私が愛しているのは、攻撃を受けている可能性が高いと思ったときに核爆弾の発射ボタンを押さないことを決めたロシア軍将校ですが、それが機器のミスだったということです。そして、その決断は本当に一人の個人によるものでした。 、彼のトレーニングとポリシーはすべて、彼が発射のボタンを押すべきだったというものであり、それは世界が実際に逆方向に進んだ可能性のあるケースのようなものです。 そして、完全に正直に言うと、そのような決定は、テクノロジー企業が通常下す単一の決定よりも重要だと思います。
ショーン：
OpenAI について最も興味深い点の XNUMX つは、あなたがオンラインに投稿したミッションだと思います。具体的には、OpenAI を安全で人類にとって有益なものにすることについて話しています。 これらのヒンジポイントの多くは、誰かの道徳的な羅針盤や自分を導くものと結びついていることが多いと思います。 最近の上院議員、特に悪人や単なる不道徳な人物がたくさんいる世界で、道徳的原則、つまり宗教に基づいて投票する議員についてのニュースがたくさんあります。 潜在的にヒンジポイントになる可能性がある場所に人々が立つのをどのように支援しますか。
サム：
つまり、私たちは一連の原則を持っていると思います。 私たちはそれらが何であるかを憲章に書こうと努めており、国民がそれらに対する責任を追及することを望んでいます。 ただし、この憲章に同意できない人もいると思います。 賭け金がますます高くなるにつれて、どのような社会か、新しい社会契約がどのようなものであるか、このテクノロジーがどのように使用されるか、そして私たちがガバナンスと経済をどのように共有するかについて決定を下すのは、いかなる組織も、そしてもちろん個人でもありません。 今後数年かXNUMX年で私たちが移行することは、私たちが設置する必要がある諮問委員会、つまり世界のさまざまなグループを代表できる人々からなる諮問委員会によって、私たちの決定がますます影響を受けることになるだろうということです。今私たちが持っていない世界。 私たちが AGI のようなものに近づくにつれて、私たちの誰もその権利に値せず、自分たちがどのように生きていくかを独力で決定する責任を望んでいないのではないかと思います。
ショーン：
XNUMX 年前、あなたは世界で最も困難な問題のいくつかは人工知能によって最もよく解決できると述べ、その一例として気候変動を挙げたと思います。 まず AI を追求することで最もよく解決できると思われる難題の種類について少し話してもらえますか?
サム：
そうですね、たくさんあると思いますが、そうではないと私が考える類の問題について話したいと思います。なぜなら、テクノロジー業界が間違っていることの XNUMX つは、私自身もしばしばこの点で罪を犯していると思うからです。そのテクノロジーがすべての問題を解決します。 まず第一に、テクノロジーは多くの問題を引き起こすと思います。 私はそれが世界にとって全体的に良いことだと信じていますが、バランスシートがあり、そして第二に、公共政策、人々の将来に対する楽観主義、そして国などからの裏切りのようなものについて、大きな一連の問題があると思います。シリコンバレーのほとんどの人が「必要なのは、より良いテクノロジーが必要なだけです。AI が必要で、それは私たちが解決します」と言う、ある種のアメリカン ドリームが少し奪われてしまったのです。AI が助けてくれるでしょうし、より良いテクノロジーが助けてくれるでしょう。これらは政策、ガバナンス、リーダーシップの問題であり、業界がその解決方法について他の誰よりもよく知っていると言うのは間違いであると私は考えています。
ショーン：
私たちが注目すべきと思われる例はありますか?
サム：
非常に基本的なことの一つは、世論調査を信じるなら、現在の若者世代は、アメリカの歴史の中で、自分たちの生活が親より良くなると考えていない最初の世代である、ということです。 これは 240 年間機能してきましたが、現在は機能しません。34 年間からは機能しません。なぜ機能しないのかということから始めるのは素晴らしい質問だと思います。
ショーン：
人工知能はこれらの問題のいくつかにどのように役立つと思いますか? たとえば、これは未来予測のテーマに戻りますが、これは残念なことですが、Recode でのインタビューで、人類はいつか人間の知性を超える視覚的知性を構築するだろうとおっしゃっていました。 それがこの種の根本的な政策問題にどのような影響を与えていると思いますか?
サム：
そうですね、私が言ったこと、あるいは言いたかったことは、まず自分自身を破壊しなければ、最終的にはそうなることが保証されているということですが、それは可能です。 ご存知のように、世界は不安定な場所だと思います。 しかし、十分な時間があれば、生物学的知能は最終的には常にデジタル知能を生み出すはずであり、それは多くの点で優れている可能性が高いと私は考えています。 私たちがデジタル意識を生み出すかどうかについては議論の余地があると思いますが、十分な時間があれば、デジタルインテリジェンスが生まれるのは間違いありません。 そしてそれがすべてを大きく変えるだけだと思います。 人間は多くのことに非常に優れていると思いますが、コンピューターや AI も同様に多くのことに非常に優れていることが判明しました。 そして、私の将来に対する最も楽観的な希望は、人間と AI が融合したある種のハイブリッドであり、人間 AI が一緒になると、どちらか単独よりもはるかに能力が高くなるということです。
ショーン：
導入の障壁について少しお話しましょう。 オンラインでは、AI の冬が来ると思いますか、あるいは何が起こっているのかについて事前に質問する人もいます。 本質的に技術的なものだけではない、進歩を妨げる技術的な障壁について少しお話しいただけますか。
サム：
うん。 まあ、技術的な障壁は依然として大きいと思いますし、そうでないと言うのは間違いです。
私たちは指数関数的な進歩曲線を上下に波線で描きますが、数カ月、あるいは数年続く可能性のある低迷期には、人々が「AIの冬が来た、そしてご存知のように、上。 それはマーケティングや進歩などの研究を行っており、私の友人のようなものです。私はかつて、この非常に優れた不況予測者だと思っていましたが、その後、彼が過去 18 回の不景気のうち 18 件についても予測していることに気づきました。 そして、AIの進歩はついに終わったと言う人はたくさんいるだろうし、困難な時期もあるだろう。 荒野を歩いている時期もあるでしょう。 そして、ある時点で人々は正しくなるでしょう、しかし人々は今、それが機能しなくなるだろうと非常に必死になって言います、そしてそれは過去10年間ずっとそうであり、それはまさにこの容赦ない進歩の上昇エレベーターでした。 可能性はあります — 実際、私たちは最後まで進めるためのいくつかの大きなアイデアを見逃している可能性が高いと思います。 それらが何であるかについては私なりの考えがありますが、正直なところ、それらは推測であり、将来を予測するのは困難です。 確実に言えるのは、仕事はさらに前進するだろうということです。 それは指数関数的な曲線です。 才能ある人材が溢れているので、大学でコンピュータ サイエンスを勉強している本当に賢い XNUMX 歳と同じように、何に取り組みたいかを尋ねると、彼らはおそらく AI と答えるでしょう。 この分野への人材の流入は指数関数的ではないため、XNUMX つ合わせて XNUMX になります。 アルゴリズムの向上はかなり順調に進んでいます。 そのため、思ったよりもうまくいくこともあれば、思ったよりもうまくいかないこともあり、つまずきの暗い時期に遭遇することもあると思います。 しかし、何よりも最大の奇跡は、フルストップを学習できるアルゴリズムを手に入れたことです。本当に合法的に、私たちは学習できるアルゴリズムを手に入れており、より多くのコンピューティングで拡張し続けるようです。 私のキャリア全体を通して、中心的な教訓は、物事は自分が思っている以上にスケールアップしなさい、そして人々がこのような曲線を見て、ここで止まり、次の予測を求められるとき、ということでした。 XNUMX 年間の進歩を考えると、私のデフォルトの仮定は、少なくともしばらくはこの曲線が続くと信じることです。 そして、ほとんどの人のデフォルトの想定では、同じ指数関数的な上昇がさらに数カ月間続き、その後は完全に横ばいになると信じているようですが、これは一種の奇妙な枠組みであり、何が起こるか私にはわかりません。
ショーン：
メタラーニング、ディープラーニングを実行する機能と学習する機械についてもう少し詳しく話します。 最近、これはエキサイティングな開発だったということですが、それについてもう少し詳しく教えていただけますか。
サム：
もっと一般的に言えば、一般化された学習はさまざまな形で刺激的です。 ご存知のとおり、独自の問題を学習できるアルゴリズム、あるタスクについて多くのことを学び、それを別のタスクに適用する能力、これらの大きなモデルを事前にトレーニングし、それらを使用して他の問題を解決する能力を探求することができます。彼らの世界の知識とともに。 人間の知性は、既存の情報や思考を新しい問題に素早く適用できるというこの概念に非常に近いものだと思います。 そして実際、人間の学習速度は驚くべきものだと思います。 訓練には長い時間がかかります。かなり賢くなるにはおそらく 20 年ほどかかりますが、その後、新しいことを非常に早く学ぶことができ、その後、一度か数回教えられた新しい知識を応用して解決できるようになります。 XNUMX秒ほどで新たな問題が発生します。 AI でそれが起こり始めているという事実は、非常に注目すべきことだと思います。
ショーン：
私が最も感銘を受けたのは、Dota 2 の実験に必要な投資額を調べて、どの程度の計算能力がそのような問題であるかを確認できたことです。 この傾向は加速していると見ていますか、それともその規模に投資できる企業は少数になると見ていますか?
サム：
ご存知のとおり、私は計算料金があんなに安かった頃のことを懐かしく思い出しました。 それはずっと続くよ。
ショーン：
したがって、より大きな地政学的パートナーや政府がこのように投資できる余地が開かれると思います。
サム：
うーん、そうかも知れませんが、ご存知のように、コストを削減し、人々の影響力がますます高まることを恐れるテクノロジーの能力は驚くべきものだと思います。 そして、マンハッタン計画やアポロ計画など、過去の大規模な製鉄プロジェクトについて考えてみると、それらは国家によって行われなければならなかったので、莫大な資金が必要だったと思います。 そして、実際にはそれなしでできると思います。 確かに多額の資金が必要ですが、政府規模ではありません。
ショーン：
間違ったことを避けるという発言がありました。 2016年のニューヨークの有名な記事の中で、あなたは「国防総省とは絶対にやらないこともある」と述べていました。 それで、それが何を意味するのか話し合ってもらえますか？ つまり、人々が間違ったことをしているのではないかと心配している国民国家の主体が何人かいるということです。
サム：
さて、まず第一に、国防総省と協力してやるべきことはたくさんあると言いたいのですが、現在の雰囲気はシリコンバレーの一部に広がっていると思います。米軍をさらに憎む。」 ただただひどいスタンスです。 そして、もし私たちの国を助けてほしいと頼まれたら、私たちは誇りを持ってそうするだろう、というようなことはたくさんあります。 私たちがやらないと言いたいことはいくつかあります。ご存知のとおり、私たちは一般的な考えを持っていますが、機器に関する考えはその間のグレーゾーンにあり、ケースバイケースで決定する必要があります。 しかし、一般的に私たち、米国国民、西側社会、あなたが何と呼びたいにせよ、米国政府が世界において強力な勢力であり続ける方が、そうでないよりも良い状態にあると思います。 。
ショーン：
まったく別の環境で、あなたはかつて、投資やスタートアップ、成長全般について話していたすべての問題が成長によって覆い隠されるとおっしゃいました。 人工知能に適用できるバージョンはありますか?
サム：
もちろん。 つまり、これはスケールの良い点と悪い点のようなものです。 スケールアップは非常にうまく機能しますが、他の問題も覆い隠します。 企業では、それは明らかです。誰もが成長に興奮しているため、根深く根付いた文化的問題をある程度カバーできます。AI では、スケールが機能し続けるか、より効率的なアルゴリズムについての研究がそれほど行われていないためかもしれません。私たちはすべきです。
ショーン：
安全で有益であるという考えに立ち返ってください。 早期警戒システムについて考えるとき、私はスカイダイビングをしたことはありませんが、終わりに近づいていると、それが本当に近づいていることに気づくというグラウンドラッシュの概念があります。 また、講演の中で、AI 導入の時期はそれほど重要ではないという話もありました。 それは目の上の空白であり、物事の永遠の計画の中で、XNUMX年対XNUMX年です。
サム：
それはシリコンバレーで最も愚かな議論だと思います。 このタイトルをめぐっては多くの競争があり、私は今でもこのタイトルが勝つと考えています。
ショーン：
私たちにそのような早期警告システムはありますか?
サム：
つまり、たくさんあります。 システムが「あなたが質問 X をしたのは、本当に Y のことを言いたかったようですが、それは正確ですか?」と言うようなことをし始めると思います。 そしてほとんどの場合は正しい。 それは私にとって、物事を真剣に受け止め始める瞬間のように感じます。
ショーン：
もし状況がそうなった場合、現時点で何か初期の指標はありますか — OpenAI が何をしているかについて少し触れました。 他に、大きな転換点や成長だと思われる取り組みを行っている企業はありますか?
サム：
つまり、過去 12 か月間でこの分野全体で多くの素晴らしい結果が得られたと思いますが、「よし、これが決定的なものである」というものはありません。
ショーン：
少し話しましょう — OpenAI への最近の投資に関しては、たくさんのニュースがありました。 マイクロソフトの最近の大規模投資もその XNUMX つでした。 「それはどうやって使われるの？」と思う人もいるでしょう。 より多くのコンピューティング能力を購入することでしょうか? その投資がどのようなテーマであるかもっとわかりますか?
サム：
会社のデータと人材。
ショーン：
あなたが行った講演の中で、あなたが目にした最も重要な発明は株式会社について話したのと同じ Google アドレスだったと思います。
サム：
そうですね、私はそう思います—誰かが私に産業革命の最も重要な発明について尋ねました、そして私がそこにあると答えたのは、ご存知のように、子供の頃にそれを勉強していたら、私はまったく異なる答えを持っていたでしょうし、真剣に考えようとしたでしょう一生懸命考えて、それ以来世界に最も影響を与えた特定の発明を XNUMX つ選んでください。 大人になってそれを勉強して、おそらく特に私が選んだ、またはかつて選んだキャリアを考えると、これほど多くのことを可能にしたことがあったと思います。それは、英国政府が企業に第二次主権を与えることを決定したことです。彼らは法的なものを持っていて、そこでは多くの人々が連携でき、ある種の資本とそのために働く人々がいる可能性があり、一種の新しい法的構造ができました。 そしてそれはとても強力なアイデアです。 それまでは、基本的にはお互いを信頼できる小さなグループに限定されていましたが、突然、多くの人々と資本を結びつけることができる組織ができ、誰もが株価の上昇を望むインセンティブ構造を持ちました。全員のインセンティブが一致するところまで上がりました。 私は、インセンティブは素晴らしい力だと心から信じています。インセンティブを適切に得ることができる、あるいはインセンティブをより良くすることができるのであれば、それこそが取り組むべきことなのです。 それで、イギリス政府は、発明を思いつくだけでなく、それを素晴らしいものにして人々の手に届けるという点で、この信じられないほどのブームを可能にするたった一つのことを発明しました、そしてそれがどれほど価値があるかということはあまりにも過小評価されています。
ショーン：
エコシステムと、人々がネットワーク効果を調整するのを助けることについて少し話します。 同じようなことが今日、人工知能の世界で起こっていると思いますか。同じような規模の経済を推進できるように、これらの人々が連携することを望みますか?
サム：
私たちがそこでやっていることにはとても満足しています。 調整できたことにとても満足しています。 もっと多くのことがあれば良いと思いますが、良いスタートが切れました。
ショーン：
OpenAI で現在何が起こっているのかを知っている方のために、何が起こっていると思われるかについて少しお話してもいいでしょうか?
サム：
正直なところ、エキサイティングなサウンドを作る方法はありません。私たちは毎日会社に来て、コンピューターを叩いて、アルゴリズムのようなものを機能させようと試みますが、その後、私が愚かなバグだったことに気づき、全員がお互いに腹を立てます。 いいえ、それよりはもう少し良いです。 私たちは何がインテリジェンスを機能させるのかを発見するために全力を尽くしており、来年はアプリケーションをもう少し改善する方法については考えないよう努めていますが、ある種の長い歴史の中で、真に考えるマシンを作るには何が必要なのかを考えてみましょう。途中でいろいろなことをしますが、それだけです。
ショーン：
あなたは楽観的な声を持ちながらも、AI の出現に伴うリスクを懸念する分野がいくつかあり、セキュリティもその XNUMX つであると何度か言及していましたが、そう感じていると思います。それを「目」と呼んだと思いますが、水やりのリスク。 私たちが軽減したいと考えているリスクのいくつかについて、今後数年間で実際に対処する必要があると考えていることについて少し話していただけますか。
サム：
AI 具体的には、あるいはその他の種類の…
ショーン：
そうですね、具体的にはAIです。
サム：
A の応用例が XNUMX つあると思います。次の応用例は今後 XNUMX ～ XNUMX 年以内とは思いませんが、より長い期間で考えると、高度な AI がサイバーセキュリティにもたらす脅威はおそらく非常に大きなものになると思います。 それがなくてもサイバーセキュリティは難しいので、それを実現することは焦点を当てるべき大きな問題だと思います。
ショーン：
量子コンピューティングが同時に使用されると、物事が大きく混乱するだろうと聞いたことがあります。 かつてはほとんどの人が投資資本についてより広い視野を持っていたように、この数年間で何が起こっていると思いますか?
サム：
そうですね、人々は量子コンピューティングが暗号を破ることについて話すのが大好きで、それはあまり心配する必要のないことだと私は思います。 それに必要な論理量子ビットの数は十分に離れているので、いつそれらが近づいているかがわかると思います。また、耐量子暗号化に移行する時間は十分にあると思います。
ショーン：
ズームインできないでしょうか。今日この部屋には多くのスタートアップの創業者がいますので、この模倣イノベーションのアイデアについて少しズームインできないでしょうか。 あなたはこれまでの話の中でこのフレーズを少し使っていて、それを心配しています…
サム：
ところで、あなたは非常によく研究されています、私は非常に感銘を受けました
ショーン：
…人々は目の前のアイデアをコピーするだけで、それは真のイノベーションではないという模倣イノベーションについて少し心配しています。 人工知能の世界ではそのことを心配していますか、それともそれは問題にならないほど本当に画期的なことなのでしょうか?
サム：
つまり、それは基本的に人間の本質に深く組み込まれているようなものだと思います。 そして、どんな状況でも、90％、つまり90％後半では、人々の割合が超ミーム的になるだろうと思います。私の経験では、それを止めるのは難しいですが、それでも大丈夫です。残りのXNUMX％の人が世界を前進させるので、ほとんどの人は一種のミーム的になるでしょう。非常に漸進的/緻密であり、少数の人が真に独創的な思考者になるでしょう、それで必要なのはそれだけです – 私たちにとって幸運です。
ショーン：
あなたが開始する直前に、私たちはここでVCパネルを開催し、彼らが何に投資しているのか、そして人工知能として作成した単純なアルゴリズムに油を注ぐだけの人工知能のバズワードについて話し合いました。 私がスタートアップで AI をやっていると誰かが本当に言うには、それが真実であるためにはどのような基準に達する必要がありますか?
サム：
そうですよね、それは本当です。 私は表情を隠し続けることができないため、彼らは私をVCパネルに招待しなくなりました。 しかし、数年ごとに流行語のようなものが生まれます。これをソーシャルでやろう、ポッドキャストでやろう、これを暗号通貨でやろう、これを AI でやろう、そして基本的には、スタートアップヒットの最初の 1 文で流行語が 20 つ言えるまでに、それを無視しても問題ないと思います。 そして、たとえ彼らが明らかにそうしているのでない限り、少し疑うべきです。 つまり、当社が AI 主導の X であると主張しているスタートアップの数が、実際に AI 主導であるかどうかはわかりませんが、1 社に 50 社か XNUMX 社に XNUMX 社、そのような感じです。 そして、ここでの教訓は、スタートアップは自分自身を追い込みますが、うまくいくと思っていても、VC は往々にしてそれに陥るということです。 優れたVCはしっかりと取り組み、それに騙されることはありません。
ショーン：
GPT2について少し話しましょうか。 あなたはこれを公開しましたが、完全には公開せず、オープンなパブリックドメインに公開しました。
サム：
実際にやったのは、ある種の時差リリースを行っただけです
ショーン：
それは、最近の政治などで私たち全員が今関心を持っているトピックです。 それを公開した理由と、おそらくそれが何か他の兆候であるかどうかについて少し調べてください。
サム： 
そうですね、私たちがそのようなステージリリースをもっと行うことを期待するべきだと思います。 おそらく安全にリリースできると考えているテクノロジーを開発するが、規模が拡大するにつれて最終的には安全でなくなると考えられる場合、私たちは世界に注意してもらいたいと考えています。そして、世界は時間が経つにつれて慣れてきたと思います。フォトショップ画像、そして今では人々はそれらを信用してはいけないことを知っていますが、人々はまだほとんどの場合、テキストのプレスリリースニュースを信頼しています、そしてご存知のように、新しいことが起こると思うのは、私たちが完全にそう遠くないということです世界の指導者が言いたいことを何でも言うフェイクビデオ、人々はそれも信用する傾向があります。 そして、世界がどんな現実にも適応するには時間が必要だと思います。 そして、そのリリースをどのように処理するかについての私たちの目標の一部は、変化があり、それを乗り越えるつもりであると言うことでしたが、インターネットを読んでいる一般人、政策立案者であるあなたは、これを可能性として考える必要がありますそれが私たちの目標でした。 私の推測では、遠い将来、世界の指導者たちがアドレスを与えると、それに暗号で署名したのではないかと思います。 そして、私たちはそれに慣れてきました、すべてのビデオは修正できるか、あるいは彼らは自分のアカウントなどから微調整するだけですが、何らかの方法で検証が行われるため、世界がそれを適応させるには時間が必要だと思います。
ショーン：
あなたは以前の演説で、政治家が人生に対する短期的な経済的影響と、20～30年後に現れるであろう世界との間のバランスについて考えていることと、全く異なる問題であるこのXNUMXつのことのバランスをとろうとしていることについて言及しました。 私たちの世界の指導者たちは人工知能について十分に考えていると思いますか?また、有権者について考えるときに何を念頭に置いておくべきですか?
サム：
明らかにそうではありませんが、世界のリーダーが AI の専門家になる前に、違うことをしてほしいことのリストは非常に長いです。
ショーン： 
特に上げたいことはありますか？
サム：
これほど大勢の人の前ではありません。 いつもそれで困ってしまいます。
ショーン：
それは素晴らしいことです。 それでは、聴衆からのいくつかの質疑応答の時間があります。 その前に視聴者に言いたいことはありますか...
サム：
いや、本当に楽しかったです。 わかりました、すごいです。 どうもありがとう。
ショーン：
ご希望であれば、聴衆の皆さんに公開して、サムにいくつか質問してみましょう。 聞きたいことがあれば手を挙げてください。
サム： 
また、興味を持っていただければ、今日のビジネスに関連した AI についても喜んでお話します。
聴衆からの質問：
そのため、私はさまざまな帽子をかぶっており、その中の XNUMX つがフードテックスペースです。 最近の投資からも分かるように、Y-Combinator はフードテック分野への関心をますます高めているようですね? 私たちは、この[聞こえない]肉もそのXNUMXつであることにアドバイスし、投資しています。 細胞農業などのこれらの企業は、スケールアップの問題を解決しようとしています。 マイクロ流体力学実験、コンピューティング、サプライチェーンなどを組み合わせた、非常に多面的なものです。この炉端でのチャットの文脈で、オープン AI のようなものはどこにありますか。利用できるデータは限られているかもしれませんが、彼らはこれらを組み込もうとしています。彼らがどのように問題を解決しているか？
サム：
私はフードテックを詳しく観察したことがありません。 本当にそうなってほしいのですが、私は生涯ベジタリアンでした。 擬似肉を食べてみた。 私は肉の味があまり好きではないと決めており、個人的にはこの分野にあまり関与していません。
何が最大の問題なのか全く分かりません。 私はこれらの企業と多くの時間を過ごしたことはありませんが、このようなことが起こっていることを本当にうれしく思っています。 AI の適用方法についても、専門的な意見を提供できるわけではありません。 ごめん。
聴衆からの質問:
ありがとう、私の名前はアディソン・スネルです。 私は Intersect 360 Research に所属しています。 AI が人間よりも賢くなるとき、そしてそれを意識から切り離すときなどの概念について話していたのが気に入りました。 そのコンテキストのコンテンツに対するインテリジェンスを構成するものについての定義はありますか?
サム：
既存の知識に基づいて新しい概念を学習する能力に関するものと、それらをかなり早く学習する能力に関するものかもしれません。 ここでは適切な指標について話しますが、知能は学習能力と深く関係していると思います。学習できるアルゴリズムがあるので、そこに到達すると思います。
ショーン：
次の質問ありがとうございます
聴衆からの質問:
はい、こんにちは。AI と国際協力の点で疑問に思ったのですが、外部の AI 開発について、シリコンバレーは何にもっと注意を払うべきだと思いますか?また、世界規模でもっと協力すべきだと思いますか?技術面またはガバナンス面では AI。
サム：
したがって、現時点では非常に協力的であり、世界中の研究者が自分の研究を発表し、非常にオープンに協力していると思います。 これからますます困難になることに不安を感じています。 私は確かに、世界にとって最適な長期的成果は、国家間の軍備競争のようなものではなく、緊密な国際協力であると考えており、そうなることを願っていますが、それは私が感じている領域から大きく外れていると言えます。専門家なので自信を持って予測できるでしょう。 それは明らかに世界にとって長期的な利益であり、オープン AI の目標の XNUMX つは政策をその方向に推し進めることだと思います。 そして、これまでの経過を見て、少し安心しました。 私が思うに、学術界の本当に素晴らしい価値の XNUMX つは、学術界の欠点や欠点はすべてあるものの、アイデアを中心とした長期にわたるオープンな国際協力において、他のどの分野よりも優れた業績を上げてきたことだと思います。
聴衆からの質問:
こんにちは、私は最近この業界に参加しましたが、多様性に大きな問題があることに気づきました。
サム：
巨大、
聴講者: 
右？ そこで私は、この問題をどのように解決したいのか、またこの問題が特に AI にどのような影響を与えていると考えているのかについて、あなたの意見を聞きたいと思いました。
サム：
私たちが行ったことの XNUMX つは、OpenAI 学者と呼ばれるものを開始することです。これは、あらゆる背景から本当に才能のある人材を獲得する方法です。私たちは彼らを指導し、指導します。これにより、XNUMX 人あたり数人の割合を減らすことができます。それは私たち自身の能力の一種ですが、問題を解決するには明らかに十分ではありません。これらのものを構築する人々は、意図的な間違いによるものではなく、単にその仕組みから、自分自身の責任に多大な労力を費やしていると私は信じています世界観をこのシステムに組み込むため、より多様なインプットが必要になります。 それでもなお、AI 分野で博士号を取得する割合を見ると、多様性がないという点で信じられないほど驚くべきことなので、OpenAI Scholars のようなプログラムと人材のバージョンがもっと必要になると思います。この分野は、さまざまな人々を指導することに別の機会に取り組む必要があります。 また、AI 博士号取得者のパイプラインが追いつくのを待つのではなく、新しい人材をこの分野に引き入れる能力をどう変えるかを本当に理解する必要があります。これは何年もかかるプロセスです。 そうしないと、私たちが何をしようと、openAI や他の人が何をしようと、本当に良い代表やアドバイスを得るには、システムを構築した人々が常に膨大な量の情報を得る必要があることになると思います。実際に起こることに対する影響力の量であり、これもまた否定的な意図によるものではありません。 そして、私たちは次善の世界に行き着くでしょう。
サム： 
はい、最後の質問、アイデアです
聴衆からの質問:
やあ。 多様性に少し関連する簡単な質問ですが、これは実際にはさまざまな国によるデータとアプローチに関連しています。
そこで私の質問は、例えば現在、多くの監視を行っている中国をどう見るかというようなことに関係しています。 したがって、少なくとも AI 用の視覚データに関しては、米国が現在持っていると思われるデータよりもはるかに多くのデータを彼らは持っており、少なくとも報道機関がそれを公表しています。 長期的にはさまざまなアプローチとその将来についてどう思いますか?
サム：
私はこれについて本当に本当に心配していました。 先ほど話したように、私はデータ エッジよりもコンピューティング エッジが重要になるだろうと自分自身の考えを変えました。そうしないと、中国のような政府はより多くのデータに関して他の国よりも大きな優位性を持っているため、それが真実であることを私は確かに願っています。 。 私たちが望む社会は超高度な監視国家ではないと思いますが、少なくとも私が個人的に望んでいる社会ではありませんし、その代償としてデータが少なくなるだけです。 しかし、インターネットは巨大であり、大量のデータが必要な世界であっても、私たちはインターネットがどれほど巨大であるかを忘れています。 取れてエッジが緩和されると思います。
ショーン：
それでは、最後に XNUMX つ質問して、その日のテーマをまとめたいと思います。 あなたは私たちに過去数年間を振り返って素晴らしい視点をいくつか与えてくれました。 短期的な視野に目を向けると、今後 XNUMX ～ XNUMX 年で最もエキサイティングな発展が起こると考えられますが、今後 XNUMX ～ XNUMX 年でステージに立ったときに考える発展の点で最も期待していることは何ですか?何年も経って、「本当に素晴らしい瞬間でした」と言います。 今後数年間で最も期待していることは何ですか?
サム：
教師なし学習と、膨大な量のデータを見て基礎となる概念を理解する能力だと思います。 XNUMX 年という時間枠で考えると、本当に驚くべきことですし、素晴らしいことを成し遂げるでしょう。
ショーン： 
素晴らしい。 ありがとうございます。
サム：
ありがとう。 感謝します。