Sam Altman과의 노변담화

Rescale은 스폰서인 AWS, Intel, Microsoft, Google Cloud와 함께 ANSYS, 지멘스와 컨버전트 사이언스, 첫 행사 시작 빅 컴퓨트 11월 12~XNUMX일 샌프란시스코에서 컨퍼런스. 헤드라인은 OpenAI의 CEO이자 Y Combinator의 회장인 Sam Altman이었으며, 그는 Rescale의 COO인 Shawn Hansen과 노변담화를 나누었습니다.

성적 증명서

숀:
여러분, 환영합니다. 오늘 샌프란시스코 시내의 아름다운 SFJazz에서 열린 첫 번째 Big Compute 컨퍼런스에 참석해 주셔서 감사합니다. 오늘은 많은 주제에 대해 이야기할 예정인데, 오늘의 일반적인 주제는 세상이 빅 데이터를 보고 있다는 것입니다. 그러나 이제 우리는 빅 컴퓨팅의 출현을 보고 있으며 그것이 어떻게 변화하고 있는지에 대해 이야기하겠습니다. 세계. OpenAI CEO Sam Altman이 함께합니다. 매우 감사합니다.
Sam, 최근 Google 주소에서 한 참가자가 빅 데이터와 오픈 소스 기계 학습 알고리즘 중 무엇이 더 가치 있는지 물었을 때 귀하가 남긴 코멘트로 시작하겠습니다. 그리고 '저는 기업들에게 어떻게 많은 데이터를 얻을 수 있는지 물어보곤 했습니다.'라고 말씀하셨던 것 같습니다. 이제 나는 그들에게 어떻게 하면 많은 양의 컴퓨팅을 얻을 수 있는지 묻습니다.'
그게 무슨 뜻인지 조금 얘기해 주실 수 있나요?
샘 :
따라서 저는 확실히 데이터가 여전히 중요하고 가치 있다고 생각합니다. 하지만 AI 연구 분야에서 우리가 이룬 가장 인상적인 발전은 대규모 데이터보다는 대규모 컴퓨팅에 관한 것이라고 생각합니다. 인터넷에는 수많은 데이터가 존재하는 것으로 나타났습니다. 어떤 경우에는 이런 종류의 E가 많은 컴퓨팅과 많은 데이터 사이의 MC 제곱 등가와 같습니다. 왜냐하면 많은 컴퓨팅을 사용하여 많은 데이터를 생성할 수 있기 때문입니다.
따라서 작년 Dota 2에서 OpenAI의 결과 중 하나를 생각해 보면 우리는 아무런 데이터 없이 세계 최고의 팀을 이겼습니다. 모든 것은 에이전트가 서로 스스로 플레이하고, 환경을 탐색하고, 효과적인 것을 시도하고, 그렇지 않은 것을 중지하고, 이를 수행하기 위한 일종의 좋은 RL 알고리즘이었습니다. 그리고 데이터가 거의 필요하지 않고 많은 시뮬레이션을 실행하기 위해 많은 컴퓨팅이 필요한 다른 경우도 있습니다.
물론 많은 기업에서는 데이터를 보유하는 것이 중요하지만 일반적으로 해당 분야에서는 데이터가 이 세 가지 범주 중 가장 덜 중요할 것이라고 생각합니다.
숀:
빅 컴퓨팅의 출현으로 인해 나타나는 큰 기회에 대해 조금 말씀해 주시겠습니까? 인공 지능에 대해 이야기해 보겠습니다. 하지만 여러분이 볼 수 있는 다른 기회도 있을 것입니다.
샘 :
솔직히 말해서, 나는 다른 모든 것을 합친 것보다 그것에 더 관심을 가질 만큼 엄청난 눈가리개를 가지고 있고 아마도 다른 기회도 많이 있을 것입니다. 하지만 그것이 제가 하루에 16시간 동안 생각하는 것이라서 마음에 들어오지 않습니다.
숀:
그것에 대해 조금 더 이야기합시다. OpenAI에 게시하신 몇 가지 이정표가 있습니다. 그 중 하나가 Dota 2의 승리였습니다. 둘째, 루빅스 큐브를 이용한 인간의 손재주입니다. 그리고 다른 하나는 최근에 게시된 이 모델에 대한 최근 종류의 문해력을 학습하는 것이었습니다. OpenAI에서 일어나는 흥미로운 이정표에 대해 조금 이야기해 주시겠습니까?
샘 :
응, 너무 많아. 아마도 우리는 언어에 집중할 것입니다. 왜냐하면 그것이 모든 비즈니스에 가장 적합할 것이라고 생각하기 때문입니다. 지난 몇 년 동안 이 분야에서 가장 흥미로운 발전 중 하나는 자연어가 얼마나 좋아지고 있는지, 즉 자연어를 위한 AI가 얼마나 좋아지고 있는지였습니다.
저는 앞으로 몇 년 안에 언어를 실제로 처리하고, 이해하고, 상호 작용할 수 있는 시스템이 폭발적으로 증가할 것이라고 생각합니다. 그리고 이것이 사람들이 실제로 강력한 AI를 느끼는 첫 번째 방법이 될 것이라고 생각합니다. 다른 사람과 대화하는 것처럼 시스템과 상호 작용할 수 있습니다. 실제로 의미가 있는 대화를 할 수 있을 것입니다. 컴퓨터는 구조화되지 않은 엄청난 양의 텍스트를 처리할 수 있으며 사용자는 해당 시스템과 상호 작용할 수 있습니다. 원하는 방식과 방식에 관계없이 원하는 것을 얻을 수 있습니다.
숀:
일상적인 것의 복합적인 효과에 대해 조금 말씀해 주시겠어요? 우리는 단기적인 일상적인 효과를 얻었고 AI를 통해 장기적으로 환상적인 일을 할 수 있습니다. 스마트 스피커 시스템이나 디지털 보조 장치에 뭔가를 공급하는 아이디어입니다. . 오늘 보고 있는 우리 엄마가 이해할 수 있을 것, 그녀의 삶이 복잡하다고 느낄 수 있는 어떤 일이 AI에서 일어나는 것을 보시나요?
샘 :
가장 큰 것 중 하나는 음성 인식이라고 생각합니다. 대부분의 사람들은 XNUMX년 전 상황이 얼마나 나빴는지 기억하며, Siri 등을 사용하는 사람들은 매년 조금씩 나아지고 있다는 것을 알아차렸습니다. 실제로는 매년 조금도 아니고 훨씬 나아지고 있으며 이제는 어려운 환경에서도 기본적으로 엉망이 되지 않으며 인간이 이해하려고 할 때 엉망이 되는 것보다 훨씬 더 엉망이 되지 않습니다. 그래서 최근에 기억에 남는 작품이라 많은 분들의 공감을 불러일으키는 것 같아요.
숀:
누군가 귀하의 웹사이트인 OpenAI를 방문하여 귀하가 실제로 무엇을 하는지 이해하려고 하면 어머니는 그것이 무엇인지 이해하기 어려울 것입니다. 당신이 하고 있는 일이 평균적인 일상인에게 어떤 영향을 미치는지.
샘 :
음, 우리는 매우 긴 시간의 지평선에서 일합니다. 나는 인류 역사상 지금까지 농업 혁명, 산업 혁명, 컴퓨터 혁명이라는 세 가지 거대한 기술 혁명이 있었다고 생각합니다. 나는 우리가 지금 AI 혁명의 초기 단계에 있다고 생각하며, 그 혁명은 이전의 세 혁명을 모두 합친 것보다 더 클 것이라고 기대합니다. 그런 지능을 생각하고 이해하는 것은 실제로 인간을 세상에서 물리적인 일을 수행하는 능력보다 훨씬 더 뛰어나게 만드는 것입니다. 따라서 저는 이것이 엄청난 일이 될 것이며 다양한 방식으로 삶에 영향을 미칠 것이라고 생각합니다.
제 생각에 저는 다른 많은 사람들처럼 Xerox PARC의 예에서 많은 영감을 받았으며 그들이 만든 기술은 여러 면에서 컴퓨터 혁명을 가능하게 했습니다. 나의 연구 영웅 중 한 명인 Alan Kay는 이 회사들이 결코 충분히 크게 생각하지 않는다고 말하면서 나를 꾸짖곤 했습니다. '우리가 만든 Xerox PARC에서' 그 숫자는 그의 계산에 따르면 '30조 달러의 가치'와 같았습니다. 누가 그런 규모로 생각하고 있나요?' 그리고 저는 우리가 하는 일이 다른 회사에 300조 달러의 가치를 제공할 수 있기를 바라며, 우리 스스로도 그 가치 중 일부를 포착할 수 있기를 바랍니다.
하지만 우리는 지능이 어떻게 작동하는지, 그리고 그것을 어떻게 사람들에게 제공할 수 있는지에 대한 이 거대한 도전을 정말로 알아내고 싶습니다.
숀:
그 혁명에 대해 조금 더 이야기해 봅시다. 혁명은 무서울 수 있다. 최근 Microsoft CTO와의 채팅에서 다음과 같은 책에 대해 언급하셨습니다. 복마전, 그리고 산업 혁명 시대의 사람들이 어떻게 인용되었는지, 그리고 기계가 어떻게 세상을 장악하게 될 것인지, 그리고 우리 모두가 죽고 이러한 문제가 일어날 것인지에 대한 직접적인 설명을 했습니다.
하지만 당신은 그 모든 와중에도 매우 낙관적인 목소리를 내셨습니다.
샘 :
글쎄, 그들은 모두 수백년 전에도 우리는 여전히 여기에 있다고 말했습니다. 우리 모두는 여전히 매우 바쁩니다. 아직 해야 할 일이 남아 있습니다. 나는 이번이 다르다는 것과 모든 것이 이전에 일어났고 모든 것이 다시 일어났다는 것이 모두 사실이라고 생각합니다. 이것은 다를 것입니다. 일반 지능은 강력한 것입니다. 또한 산업 혁명 시대에는 대규모 컴퓨팅을 다루는 컴퓨터 프로그래머의 직업을 상상하기 힘든 만큼 우리가 여기 앉아서 반대편의 직업이 무엇일지 생각하는 것도 어렵다고 생각합니다. 인간의 요구, 욕망 — 창의성은 꽤 무한해 보이고 우리는 새로운 할 일을 찾을 것이라고 생각합니다. 그것에 반대하는 베팅은 항상 실수였습니다.
숀:
지금 일어나고 있는 혁명에 대해 좀 더 이야기해 보세요. 당신은 AGI가 사람들이 이야기하고 상상하는 얼마나 거대하고 어려운 일인지에 대해 여러 번 이야기했습니다.
샘 :
컴퓨터가 어떤 면에서 인간보다 더 지능적이거나 인간이 할 수 있는 대부분의 작업을 컴퓨터가 할 수 있을 때 세상이 결정적으로 어떤 모습일지 생각하기는 매우 어렵다고 생각합니다. 그래서 제가 자신있게 할 수 있는 유일한 예측은 상황이 매우 달라질 것이라는 것입니다. 그리고 우리가 모든 것을 동일하게 유지할 것이라고 말하는 사람은 거짓말을 하고 있다고 생각합니다. 하지만 변화는 피할 수 없지만 미래를 보장하기 위해 우리는 정말 열심히 노력할 수 있습니다. 비록 달라질 것이 보장되어 있지만, 달라지는 것이 더 낫다는 보장은 있습니다.
숀:
Microsoft와의 같은 주소에서 당신은 향후 86년 안에 우리가 보게 될 컴퓨터가 얼마나 놀라운 것인지에 대해 이야기했습니다. XNUMX과 GPGPU 문제를 제외하고, 양자 컴퓨팅이 향후 XNUMX년 내에 여기에 있을지 여부에 대한 해묵은 질문까지 제외한다면, 내년에 또 다른 놀라운 일이 있을 것으로 보십니까?
샘 :
그래서 무어의 법칙이 둔화되고 있는 것이 사실이라고 생각합니다. 사람들은 일을 계속하기 위해 무엇을 할 것인지에 대해 온갖 종류의 생각을 가지고 있습니다. 작동할 수도 있고 작동하지 않을 수도 있습니다. 그러나 AI에 중요한 버전은 특히 AI의 경우 가장 큰 모델을 얼마나 크게 만들 수 있는지입니다. 우리가 거기에 도달하더라도 여러 대의 컴퓨터를 연결하고 광학적 상호 연결을 연결하는 등 필요한 모든 것이 가능합니다. 이러한 대규모 모델을 훈련시킬 수 있습니다. 이는 약 8년 동안 매년 약 XNUMX배씩 성장해 왔습니다. 그리고 내 생각에는 이 상황이 약 XNUMX년 동안 계속될 것 같아요. 그래서 다시 이 시점에서 저는 제게 정말 중요한 한 가지에만 집중하고 있습니다. 아마도 컴퓨팅 분야에서 일어날 수 있는 일이 많이 있을 것입니다. 하지만 문제는 신경망을 훈련할 수 있는 컴퓨터가 점점 더 커질 것이라는 점입니다. 대답은 '그렇다'입니다. 정말 흥미롭습니다.
숀:
“가진 자”와 “가진 자” 사이에는 큰 격차가 있으며, 특히 대규모 컴퓨팅의 출현으로 그 격차가 점점 더 벌어지고 있습니다. 이 무한한 양의 컴퓨팅에 액세스할 수 있는 사람들은 더 적은 수의 사람들로 줄어들고 있습니다. 여기에 참여하기를 원하는 스타트업을 볼 때 이러한 추세에서 어떤 일이 일어나고 있다고 보십니까? 그러나 그들이 실제로 이에 대한 액세스 권한을 갖고 있으며 이것이 관리자에게 어떤 영향을 미칩니까?
샘 :
제 생각에는 그렇습니다. 그것은 큰 문제입니다. 가장 큰 모델을 교육할 수 있는 OpenAI와 같은 소수의 회사가 있을 것입니다. 하지만 일단 교육을 받고 나면 운영 비용이 많이 들지도 않고 문을 닫지도 않을 것입니다. 대형 모델을 훈련할 수 있는 사람들과 이를 훈련할 수 없는 다른 사람들과 이를 공유하는 방법을 알아냅니다. 이것이 바로 '갖고 있음'과 '없음' 문제를 해결하는 방법이라고 생각합니다.
숀:
제가 가장 좋아하는 작가는 경첩점에 서 있는 역사에 대해 이야기하고 역사의 주요 이정표와 사건이 서 있을 때 큰 변화를 가져온다는 것을 암시합니다. 당신은 그 당시에는 깨닫지 못하지만, 당신은 그것을 바라보며 뒤로 물러납니다. 많은 사람들이 당신 같은 사람들에게 과거를 되돌아보고 미래를 예측하라고 묻고 싶어합니다. 하지만 지금으로부터 20년 후를 되돌아본다면 그런 식으로 힌지 포인트로 특징지을 수 있는 것이 있다고 생각하시나요?
샘 :
새벽 55시에 회의실에서 피곤한 소수의 사람들이 45-XNUMX 통화를 하고 그것이 역사의 결과에 막대한 영향을 미치는 결정이 아주 드물다고 생각하지만 그런 경우는 극히 드뭅니다. 대부분의 경우, 위쪽과 오른쪽으로 올라가는 기술적인 미래가 펼쳐지는 곡선 주위를 구불구불하게 움직이고 있습니다. 아시다시피 약간 틀리기도 하고 약간 맞기도 하지만 결국에는 발전이 계속됩니다. 따라서 믿을 수 없을 정도로 결과적인 몇 가지 결정에 관해서는 모든 사람이 자신이 좋아하는 이야기를 가지고 있다는 의미입니다. 내가 좋아하는 사람은 핵폭탄 발사 버튼을 누르지 않기로 결정한 러시아 군 장교입니다. 핵폭탄이 공격을 받을 가능성이 있다고 생각했는데, 그것이 장비 오류로 판명되었습니다. , 그의 모든 훈련과 정책은 그가 출시 버튼을 눌러야 한다는 것입니다. 이는 세상이 실제로 다른 방향으로 갈 수 있었던 경우와 같습니다. 그리고 솔직히 말해서, 저는 그러한 결정이 하나의 경첩된 결정이라는 측면에서 볼 때 기술 회사가 일반적으로 내리는 모든 단일 결정보다 더 크다고 생각합니다.
숀:
OpenAI에 대해 가장 흥미로운 점 중 하나는 온라인에 게시한 사명이며, 특히 OpenAI를 인류에게 안전하고 유익하게 만드는 것에 대해 이야기한다는 것입니다. 나는 이러한 힌지 포인트 중 상당수가 종종 누군가의 도덕적 나침반과 당신을 안내하는 것과 연결되어 있다고 생각합니다. 최근 상원의원에 대한 뉴스가 많이 있습니다. 특히 나쁜 행위자가 많거나 심지어는 단순한 비도덕적 행위자가 있는 세상에서 도덕적 원칙과 종교에 따라 투표하는 사람에 대한 이야기가 많습니다. 잠재적으로 경첩점이 될 수 있는 장소에 사람들이 서도록 어떻게 도울 수 있습니까?
샘 :
제 생각에는 — 우리에게는 일련의 원칙이 있습니다. 우리는 그것이 무엇인지 헌장에 기록하려고 노력하며 대중이 우리에게 이에 대해 책임을 묻기를 바랍니다. 하지만 사람들은 헌장에 동의하지 않을 수 있다고 생각합니다. 이해관계가 점점 더 높아짐에 따라 어느 조직이나 어느 누구도 어떤 사회, 새로운 사회 계약의 모습, 이 기술이 어떻게 사용되는지, 거버넌스와 경제를 공유하는 방법에 대한 결정을 내려서는 안 됩니다. 앞으로 몇 년 또는 XNUMX년 안에 우리가 나아갈 방향은 점점 더 많은 결정이 우리가 설치해야 할 자문위원회, 즉 사회의 다양한 그룹을 대표할 수 있는 사람들의 영향을 받게 될 것이라는 점입니다. 지금 우리에게는 없는 세상. 우리가 AGI와 같은 느낌에 가까워질수록 우리 중 어느 누구도 그런 권리를 가질 자격이 없으며 우리가 어떻게 살아갈 것인지 혼자서 결정하는 책임을 원하지 않는다고 생각합니다.
숀:
XNUMX년 전, 당신은 세계에서 가장 어려운 문제 중 일부가 인공 지능으로 가장 잘 해결될 수 있다고 언급했는데, 기후 변화를 그 예로 꺼낸 것 같습니다. AI를 먼저 추구함으로써 가장 잘 해결될 수 있다고 생각하는 어려운 문제의 종류에 대해 조금 말씀해 주시겠습니까?
샘 :
글쎄요, 제 생각에는 많은 문제가 있다고 생각합니다. 하지만 제가 생각하기에 그렇지 않은 문제 종류에 대해 이야기하고 싶습니다. 왜냐하면 기술 산업이 잘못하고 있는 것 중 하나는 나 자신이 자주 범하는 잘못이라고 생각하기 때문입니다. 그 기술은 모든 문제를 해결합니다. 우선 기술도 문제를 많이 낳는 것 같아요. 저는 그것이 세상에 순 이익이라고 믿습니다. 하지만 대차대조표가 있습니다. 그리고 무엇보다도 공공 정책과 미래에 대한 사람들의 낙관주의, 그리고 국가에 의해 느끼는 배신감과 관련해 엄청난 문제들이 있다고 생각합니다. 실리콘 밸리의 대부분의 사람들이 "글쎄, 우리는 더 나은 기술이 필요합니다. 우리는 AI가 필요하고 우리는 그것을 해결할 것입니다"라고 말하는 아메리칸 드림은 다소 사라졌습니다. AI가 도움이 될 것이고 더 나은 기술이 도움이 될 것입니다. 저는 이것이 정책, 거버넌스, 리더십 문제라고 생각합니다. 업계에서 우리가 문제를 해결하는 방법에 대해 다른 누구보다 더 잘 알고 있다고 말하는 것은 실수입니다.
숀:
우리가 집중해야 한다고 생각하는 몇 가지 예가 있습니까?
샘 :
매우 기본적인 것 중 하나는 미국 역사상 자신의 삶이 부모보다 더 나을 것이라고 생각하지 않는 여론 조사를 믿는다면 현재 젊은 세대가 첫 번째 세대라는 것입니다. 그래서 이것은 240년 동안 효과가 있었지만 지금은 그렇지 않습니다. 34년부터 시작하면 왜 그렇지 않은지부터 시작하는 것이 좋은 질문이라고 생각합니다.
숀:
인공지능이 이러한 문제 중 일부를 어떻게 해결한다고 보시나요? 예를 들어 이것은 불행하게도 미래를 예측한다는 주제로 돌아가지만, 당신이 한 Recode 인터뷰에서 인류는 어느 시점에 인간 지능을 능가하는 시각 지능을 구축할 것이라고 말씀하셨습니다. 이것이 이러한 근본적인 정책 문제에 어떤 영향을 미친다고 생각하시나요?
샘 :
글쎄요, 제가 말한 것, 즉 제가 말하고자 했던 것은 우리가 먼저 우리 자신을 파괴하지 않는다면 결국 그렇게 할 것이라는 것이 보장된다는 것입니다. 그것은 가능합니다. 내 생각엔 세상은 불안정한 곳인 것 같아. 하지만 충분한 시간이 주어지면 생물학적 지능은 결국 여러 면에서 더 뛰어날 가능성이 있는 디지털 지능을 만들어내야 한다고 생각합니다. 우리가 디지털 의식을 창출할지 여부는 논쟁의 여지가 있지만 충분한 시간이 주어지면 디지털 지능은 확실합니다. 그리고 나는 그것이 모든 것을 매우 다르게 만든다고 생각합니다. 인간은 정말 많은 일에 능숙하다고 생각하지만, 컴퓨터와 AI도 많은 일에 능숙한 것으로 나타났습니다. 그리고 미래에 대한 나의 가장 낙관적인 희망은 인간과 AI가 일종의 하이브리드로 합쳐진 인간 AI가 그 자체보다 훨씬 더 능력이 있다는 것입니다.
숀:
입양 장벽에 대해 조금 이야기해 보겠습니다. AI 겨울이 다가오고 있는지 또는 현재 일어나고 있는 장벽이 무엇인지 미리 질문한 온라인 사람들이 있습니다. 본질적으로 기술적인 것만이 아닌 진보를 가로막는 기술적인 장벽에 대해 조금 말씀해 주실 수 있나요?
샘 :
응. 글쎄요, 기술적 장벽이 여전히 크다고 생각하는데, 그렇지 않다고 말하는 것은 실수입니다.
우리는 상승과 하락의 기하급수적 곡선을 따라 움직일 것이며 사람들이 AI 겨울이 왔다고 부르는 것과 같이 몇 달 또는 몇 년 동안 지속될 수 있는 하락의 순간이 있을 것입니다. 맨 위. 시장과 연구 진행 등 무엇이든 제가 친구가 경기 침체에 대한 매우 훌륭한 예측자라고 생각했던 것과 같습니다. 그러다가 그가 지난 두 번의 경기 침체 중 18번 정도를 예측했다는 것을 깨달았습니다. 그리고 마침내 AI의 발전은 끝났다고 말하는 사람들도 많을 것이고, 어려운 시기도 있을 것입니다. 우리가 광야를 걷는 기간이 있을 것입니다. 그리고 어떤 시점에서는 사람들이 옳을 것입니다. 그러나 사람들은 이제 그것이 작동을 멈출 것이라고 너무나 절박하게 말하고 있습니다. 그들은 지난 18년 동안 그랬고 그것은 단지 끊임없는 발전의 엘리베이터였습니다. 그것은 가능합니다. 사실, 저는 우리가 끝까지 갈 수 있는 몇 가지 큰 아이디어를 놓치고 있을 가능성이 높다고 말하고 싶습니다. 그리고 그것이 무엇인지에 대한 나만의 생각이 있지만 솔직히 그것은 추측이고 미래를 예측하는 것은 어렵습니다. 제가 확실히 말할 수 있는 것은 일이 훨씬 더 발전할 것이라는 점입니다. 그것은 지수 곡선입니다. 재능 있는 사람들이 넘쳐납니다. 대학에서 컴퓨터 과학을 공부하는 정말 똑똑한 10세 아이들처럼 어떤 일을 하고 싶은지 묻는다면 그들은 AI라고 답할 가능성이 매우 높습니다. 현장으로의 재능의 홍수는 기하급수적인 것이 아니므로 두 가지를 합친 것입니다. 알고리즘 이득은 계속해서 꽤 잘 진행되고 있습니다. 그래서 우리가 생각했던 것보다 더 잘될 일도 있고 생각보다 더 나쁜 일도 있을 것이며 우리는 걸림돌의 어두운 시기를 맞이하게 될 것이라고 생각합니다. 하지만 무엇보다도 가장 큰 기적은 완전하게 학습할 수 있는 알고리즘이 있다는 것입니다. 진정으로 합법적으로 학습할 수 있는 알고리즘이 있으며 더 많은 컴퓨팅을 통해 계속 확장되는 것 같습니다. 제 경력 전체에서 가장 중요한 교훈은 규모에 있어서는 여러분이 생각하는 것보다 더 크게 확장한다는 것입니다. 그리고 사람들이 이와 같은 곡선을 보고 여기에서 멈추고 다음을 예측하라는 요청을 받는다는 것입니다. XNUMX년 동안의 발전, 나의 기본 가정은 곡선이 적어도 한동안은 계속될 것이라고 믿는 것입니다. 그리고 대부분의 사람들의 기본 가정은 그것이 몇 달 동안 동일한 기하급수적으로 계속 진행될 것이라고 믿는 것 같습니다. 그리고 나서 완전히 평평해집니다. 이것은 일종의 이상한 프레임워크이며 저는 무슨 일이 일어날지 생각하지 않습니다.
숀:
메타 학습, 딥 러닝 수행 능력, 학습하는 기계에 대해 좀 더 이야기해 보세요. 최근에 이것이 흥미로운 발전이었다고 말씀하셨는데, 이에 대해 좀 더 공유해 주실 수 있나요?
샘 :
좀 더 일반적으로 말하면, 일반화된 학습은 다양한 형태로 흥미롭습니다. 아시다시피, 자신의 문제를 학습할 수 있는 알고리즘은 하나의 작업에 대해 많은 것을 배우고 이를 다른 작업에 적용하는 능력, 이러한 큰 모델을 사전 훈련한 다음 이를 사용하여 다른 문제를 해결하는 능력을 탐색할 수 있습니다. 세상에 대한 지식으로. 저는 인간의 지능이 기존 정보와 생각을 가져와서 새로운 문제에 빠르게 적용할 수 있다는 개념에 매우 가깝다고 생각합니다. 그리고 실제로 인간이 얼마나 빨리 학습할 수 있는지는 정말 놀랍습니다. 훈련하는 데는 오랜 시간이 걸립니다. 꽤 똑똑해지려면 20년 정도 걸릴 수도 있습니다. 하지만 그러면 새로운 것을 아주 빨리 배울 수 있고 해결하기 위해 한두 번 들은 새로운 지식을 적용할 수 있습니다. XNUMX초 안에 새로운 문제가 발생합니다. 그리고 우리가 AI를 통해 그런 일이 일어나는 것을 보기 시작했다는 사실은 상당히 놀라운 일이라고 생각합니다.
숀:
나는 Dota 2 실험에 필요한 투자 금액을 살펴보는 것만으로도 컴퓨팅 성능이 어느 정도 문제인지 확인할 수 있다는 점이 가장 인상 깊었습니다. 그 속도가 빨라지고 있다고 보십니까? 아니면 그 규모에 투자할 수 있는 힘을 가진 회사가 소수에 불과하다고 보십니까?
샘 :
아시다시피 저는 컴퓨팅 비용이 그렇게 저렴했던 시절에 대한 아쉬운 향수를 느꼈습니다. 계속 진행될 거예요.
숀:
그래서 저는 이것이 더 큰 지정학적 파트너인 정부가 이런 방식으로 투자할 수 있는 여지를 열어준다고 생각합니다.
샘 :
음, 아마도요. 하지만 비용을 낮추고 비용을 낮추며 사람들이 점점 더 많은 영향력을 갖게 하는 두려움을 주는 기술의 능력은 놀랍습니다. 그리고 제 생각엔 과거의 대규모 철공학 프로젝트, 맨해튼 프로젝트, 아폴로 프로젝트 등을 생각해보면 국가별로 수행해야 했던 프로젝트가 너무 많은 돈이 들었습니다. 그리고 저는 실제로 없이도 해낼 수 있다고 생각합니다. 우리는 많은 돈이 필요하지만 정부 규모는 아닙니다.
숀:
잘못된 일을 피하라는 발언이 있었습니다. 2016년 뉴욕의 유명한 기사에서 당신은 “우리가 국방부와 절대 하지 않을 일들”이라고 말했습니다. 그래서 궁금합니다. 그게 무슨 뜻인지 토론해 주실 수 있나요? 내 말은 사람들이 잘못된 일을 하는 것에 대해 걱정하는 국가 행위자가 있다는 뜻입니다.
샘 :
좋아요, 우선, 국방부와 함께 할 일이 많다는 점을 말씀드리고 싶습니다. 현재 실리콘 밸리 일부 지역의 분위기는 '우리는 미국을 싫어하고 우리는 미국을 싫어합니다'와 같습니다. 미군이 더 싫다”고 말했다. 정말 끔찍한 입장이군요. 그리고 우리나라를 도와달라는 요청을 받으면 자랑스럽게 그렇게 할 때도 많습니다. 우리가 하지 않을 것이라고 말하고 싶은 것들이 있고, 아시다시피 우리는 일반적인 생각을 가지고 있지만 기기에 관한 것들은 사례별로 결정을 내려야 하는 회색 영역에 있습니다. 그러나 나는 일반적으로 우리 미국 시민, 서구 사회, 뭐라고 부르든 간에 미국 정부가 그렇지 않은 것보다 세계에서 강력한 세력으로 남아 있는 것이 더 낫다고 생각하며 기꺼이 도와드리겠습니다. .
숀:
매우 다른 환경에서, 당신은 성장이 투자와 스타트업, 성장 전반에 관해 이야기했던 모든 문제를 가린다고 말한 적이 있습니다. 인공지능에 적용되는 버전이 있나요?
샘 :
확신하는. 그래서 이것은 규모의 좋은 점과 나쁜 점과 같습니다. 규모를 확장하는 것은 정말 효과적이지만 다른 문제도 해결합니다. 따라서 기업에서는 모두가 성장에 열광하기 때문에 뿌리깊은 문화적 문제를 어느 정도 커버할 수 있다는 것이 분명합니다. AI에서는 규모가 계속 작동하거나 더 효율적인 알고리즘에 대한 연구를 많이 하지 않기 때문에 그럴 수도 있습니다. 우리는해야합니다.
숀:
안전하고 유익하다는 생각으로 돌아가십시오. 조기 경보 시스템에 대해 생각해 보면, 때로는 스카이다이빙을 해본 적이 없지만 끝이 가까워지고 있고 그것이 정말 가까워지고 있다는 것을 깨닫게 되는 그라운드 러시 개념이 있을 때가 있습니다. 그리고 일부 강연에서 우리는 AI 채택 기간이 그다지 중요하지 않다는 점에 대해 이야기했습니다. 그것은 XNUMX년 대 XNUMX년의 영원한 계획에 있어서 눈에 띄지 않는 것입니다.
샘 :
나는 그것이 실리콘밸리에서 가장 멍청한 논쟁이라고 생각한다. 해당 타이틀을 놓고 경쟁이 치열하고 여전히 승리할 것이라고 생각합니다.
숀:
이러한 변화로 인해 그라운드 러시가 시작되는 것처럼 우리가 펄쩍 뛰게 될 것 같은 느낌이 드는 조기 경보 시스템이 있습니까?
샘 :
내 말은, 많이 있다는 것입니다. 시스템이 'X라는 질문을 했는데 정말로 Y를 의미한 것 같았는데 그게 정확합니까?'라고 말하는 것과 같은 작업을 시작할 수 있을 때라고 생각합니다. 그리고 대부분의 경우 옳습니다. 나에게는 그것이 일을 정말 진지하게 받아들이기 시작하는 순간처럼 느껴질 것입니다.
숀:
지금 당장 초기 지표가 보이시나요? OpenAI가 하는 일에 대해 조금 언급하셨는데요. 주요 변곡점이자 성장이라고 생각되는 일을 하고 있는 다른 회사가 있습니까?
샘 :
내 말은, 지난 12개월 동안 현장 전반에 걸쳐 훌륭한 결과가 많이 있었다고 생각하지만 '좋아, 이것이 결정적이다' 같은 것은 하나도 없습니다.
숀:
조금 이야기해 보세요. 최근 OpenAI에 대한 투자에 관한 많은 뉴스가 있었습니다. 최근 마이크로소프트가 대규모 투자를 한 것도 그 중 하나였습니다. 어떤 사람들은 '이게 어떻게 사용될까?'라고 생각합니다. 더 많은 컴퓨팅 성능을 구매함으로써? 우리가 그 투자를 보고 어떤 종류의 테마를 더 많이 볼 수 있습니까?
샘 :
회사 데이터와 사람.
숀:
당신이 한 강연이 있는데, 당신이 본 가장 중요한 발명에 대해 이야기한 바로 그 Google 주소인 것 같습니다.
샘 :
네, 제 생각에는 누군가 제게 산업 혁명의 가장 중요한 발명에 대해 물었고, 제가 말한 것은 어렸을 때 그것을 공부했다는 것입니다. 저는 매우 다른 대답을 했을 것이고 실제로 생각하려고 노력했을 것입니다. 그 이후로 세계에 가장 큰 영향을 미친 특정 발명품을 하나 선택해 보세요. 어른이 되어 공부하면서, 특히 제가 선택했거나 선택했던 직업을 고려할 때, 영국 정부가 기업에 XNUMX차 주권을 부여하기로 결정한 것이 바로 많은 것을 가능하게 한 것이 있다고 생각합니다. 그들은 많은 사람들이 정렬될 수 있는 법적 장치를 가질 수 있고 일종의 자본과 그것을 위해 일하는 사람들을 가질 수 있으며 일종의 새로운 법적 구조를 갖게 되었습니다. 그리고 그것은 매우 강력한 아이디어입니다. 그 전에는 기본적으로 서로를 신뢰할 수 있는 소규모 그룹으로 제한되어 있었는데 갑자기 많은 사람과 자본을 하나로 묶을 수 있는 단체가 생겼고 모두가 주가를 원하는 인센티브 구조를 갖게 되었습니다. 모든 사람의 인센티브가 일치하는 곳으로 올라가십시오. 저는 인센티브가 엄청난 힘이라고 믿습니다. 인센티브를 올바르게 얻거나 더 나은 인센티브를 만들 수 있다면 그것이 바로 여러분이 노력해야 할 일입니다. 그래서 영국 정부는 단순히 발명품을 내놓는 것뿐만 아니라 그것을 훌륭하게 만들어 사람들의 손에 쥐어주는 측면에서 이 놀라운 붐을 가능하게 하는 단 하나의 것을 발명했습니다. 그리고 그것이 얼마나 가치 있는지에 대해 너무나 과소평가되었습니다.
숀:
생태계에 관한 것이며 사람들이 네트워킹 효과를 조정하도록 돕는 것입니다. 오늘날 인공 지능 세계에서도 똑같은 일이 일어나고 있는 것을 보시나요? 이 사람들이 함께 협력하여 동일한 종류의 규모의 경제를 추진할 수 있기를 바라시나요?
샘 :
나는 우리가 그곳에서 하고 있는 일에 매우 만족합니다. 나는 우리가 조정할 수 있었던 것에 매우 만족합니다. 더 많은 것이 좋을 것이라고 생각하지만 시작은 좋습니다.
숀:
현재 OpenAI에서 무슨 일이 일어나고 있는지 알고 계신 분들을 위해 무슨 일이 일어나고 있는지 조금 이야기해볼까요?
샘 :
솔직히 말해서 우리가 매일 나타나서 컴퓨터를 두드리고 알고리즘이 작동하도록 하려고 노력하다가 내가 멍청한 버그였다는 것을 알게 되면서 우리는 모두 서로 화를 내는 것을 신나는 소리로 만들 수 있는 방법이 없습니다. 아니 그것보다 조금 더 나아요. 우리는 무엇이 지능을 작동하게 하는지 알아내기 위해 최선을 다하고 있으며, 내년에 애플리케이션을 조금 더 개선할 방법에 대해서는 생각하지 않고 오랜 역사를 통해 진정으로 생각하는 기계를 만드는 데 필요한 것이 무엇인지 생각하려고 노력하고 있습니다. 우리는 그 과정에서 온갖 일을 하지만 그게 전부입니다.
숀:
AI의 출현으로 인해 위험을 걱정하는 분야가 몇 군데 있다는 낙관적인 목소리를 갖고 계시지만 보안도 그 중 하나라고 몇 번 말씀하셨는데, 그렇게 생각하실 것 같은데, 눈이라고 하신 것 같아요. 급수 위험. 앞으로 몇 년 동안 실제로 해결해야 한다고 생각하지만 완화하기를 희망하는 몇 가지 위험에 대해 조금 말씀해 주시겠습니까?
샘 :
AI는 구체적으로 또는 다른 종류의…
숀:
네, 특히 AI입니다.
샘 :
저는 A의 한 가지 적용이 있다고 생각합니다. 향후 몇 년 안에 다음 적용은 생각하지 않지만 더 긴 기간에 고급 AI가 사이버 보안에 제기할 위협은 엄청날 가능성이 크다는 것입니다. 사이버 보안이 없어도 사이버 보안을 확보하는 것은 어렵기 때문에 집중해야 할 큰 문제라고 생각합니다.
숀:
저는 양자 컴퓨팅이 동시에 사용되어 사물을 크게 혼란에 빠뜨릴 것이라고 들었습니다. 대부분의 사람들이 투자 자본에 대해 더 넓은 시각을 갖고 있었던 것처럼 이번 몇 년 동안 무슨 일이 일어날 것으로 예상하십니까?
샘 :
네, 제 말은, 사람들은 양자 컴퓨팅이 암호화를 깨는 것에 대해 이야기하는 것을 좋아하고 제 생각엔 그건 별로 걱정할 일이 아닌 것 같아요. 이를 수행하는 데 필요한 논리적 큐비트의 수는 가까워지면 알 수 있을 만큼 충분히 멀다고 생각하며, 양자 저항 암호화로 전환할 시간도 충분하다고 생각합니다.
숀:
확대할 수 있을지 궁금합니다. 오늘 이 방에 스타트업 창업자들이 많이 있는데, 모방적 혁신이라는 아이디어를 조금 확대할 수 있을지 궁금합니다. 당신은 걱정했던 이전 대화에서 이 표현을 조금 사용했습니다.
샘 :
그런데 당신은 매우 잘 연구하고 있습니다. 나는 매우 감명받았습니다.
숀:
...당신은 사람들이 그들 앞에 있는 아이디어를 단지 복사하는 모방 혁신에 대해 조금 걱정하는데 그것은 진정한 혁신이 아닙니다. 인공지능 세계에서는 그런 부분을 걱정하시나요? 아니면 문제가 되지 않을 만큼 정말 획기적인 것인가요?
샘 :
내 말은, 그것은 기본적으로 인간의 본성에 깊이 뿌리박혀 있는 것과 같다고 생각합니다. 그리고 내 생각에 어떤 상황에서든 90% - 상위 90%의 사람들은 매우 밈적일 것이고 내 경험상 멈추기는 어렵지만 괜찮습니다. 왜냐하면 나머지 XNUMX%의 사람들이 세상을 발전시키기 때문입니다. 그래서 대부분의 사람들은 일종의 매우 점진적이고 꼼꼼하며 소수의 사람들이 정말로 독창적인 사상가가 될 것이며 그게 전부입니다. 우리에게는 행운입니다.
숀:
시작하기 직전에 여기에 VC 패널이 있었는데, 그곳에서 그들이 투자하는 것에 대해 이야기하고 인공 지능으로 만든 간단한 알고리즘에 기름을 바르는 인공 지능의 유행어에 대해 이야기했습니다. 누군가가 내가 스타트업에서 AI를 하고 있다고 진심으로 말하려면 어떤 기준을 충족해야 합니까?
샘 :
사실이에요. 표정을 숨길 수 없기 때문에 더 이상 VC 패널에 초대하지 않습니다. 하지만 몇 년에 한 번씩 유행어 같은 것이 나오죠. 우리는 이것을 소셜, 팟캐스트, 암호화폐로 할 것입니다. AI로 할 것입니다. 내 생각에 스타트업 히트곡이 포함된 처음 두 문장에서 유행어 세 개를 말할 때쯤이면 무시해도 괜찮을 것 같습니다. 그리고 심지어 그들이 분명히 하고 있지 않다면 약간 회의적이어야 합니다. 따라서 스타트업의 수는 우리가 AI 중심 X라고 말하고 실제로는 AI 중심이라고 말합니다. 1명 중 20명 또는 1명 중 50명 정도입니다. 여기서 얻을 수 있는 교훈은 스타트업이 스스로를 밀어붙인다는 것입니다. 어떤 방식으로든 성공할 것이라고 생각하고, VC는 종종 이에 속는다는 것입니다. 좋은 VC는 파고들고 그것에 빠지지 않습니다.
숀:
GPT2에 대해 조금 이야기해 볼까요? 당신은 이것을 공개했지만 완전히 공개하지는 않았습니다.
샘 :
실제로 우리는 일종의 시차를 두고 릴리스를 했습니다.
숀:
최근 정치 등을 통해 지금 우리 모두가 관심을 갖고 있는 주제입니다. 당신은 그것을 공개한 이유와 아마도 그것이 다른 신호를 미리 알리는 이유에 대해 조금 살펴봅니다.
샘 : 
음, 우리가 그런 무대 공개를 더 많이 하길 기대해야 할 것 같아요. 우리가 출시하기에 안전할 것이라고 생각하지만 규모가 커짐에 따라 결국 안전하지 않게 될 것이라고 생각하는 기술을 개발할 때, 우리는 세계가 미리 알아차리기를 바라고 있으며 내 생각에 세계는 일정 기간 동안 익숙해진 것 같습니다. 시간이 흐르면서 포토샵 이미지, 그리고 이제 사람들은 그것을 믿지 않는다는 것을 알지만 사람들은 여전히 ​​대부분의 경우 텍스트 보도 자료 뉴스를 신뢰합니다. 그리고 제가 생각하기에 새로운 일이 일어날 것이라고 생각하는 것은 우리가 완전히 당신이 원하는 것은 무엇이든 말하는 세계 지도자들의 가짜 비디오, 사람들은 그것을 신뢰하는 경향이 있습니다. 그리고 세상은 어떤 현실에도 적응할 시간이 필요하다고 생각합니다. 그리고 우리가 그 릴리스를 처리하는 방법에 대한 우리 목표의 일부는 변화가 있다고 말하는 것이었습니다. 우리는 그것을 극복할 것입니다. 그러나 여러분은 이것을 가능성으로 생각해야 합니다. 여러분은 인터넷을 읽는 일반 사람들, 정책 입안자입니다. , 뭐든간에, 그것이 우리가 그렇게 한 방법의 목표였습니다. 내 추측으로는 먼 미래에 세계 지도자들이 주소를 제공하면 암호로 서명할 것입니다. 그리고 우리는 모든 비디오를 고칠 수 있다는 사실에 익숙해졌습니다. 또는 그들은 자신의 계정 등을 통해서만 조정할 수 있지만 어떻게든 검증이 있을 것이며 전 세계가 이를 적응할 시간이 필요하다고 생각합니다.
숀:
당신은 이전 연설에서 삶에 대한 단기적인 경제적 영향과 20~30년 후에 나타날 세계에 대한 단기적인 경제적 영향을 생각하는 정치인과 매우 다른 두 가지 문제인 이 두 가지의 균형을 맞추려고 노력하는 것 사이의 균형에 대해 언급했습니다. 우리 세계 지도자들이 인공 지능에 대해 충분히 생각하고 있으며 구성원에 대해 생각할 때 무엇을 염두에 두어야 한다고 생각하십니까?
샘 :
내 말은 분명히 그렇지 않다는 뜻이지만, 세계 지도자들이 AI 전문가가 되기 전에 다르게 했으면 하는 일의 목록은 꽤 길다.
숀: 
특별히 키우고 싶은 것이 있나요?
샘 :
이렇게 많은 사람들 앞에서는 아니죠. 나는 그것 때문에 늘 고민에 빠진다.
숀:
훌륭해요. 그럼, 청중으로부터 몇 가지 질의응답 시간을 갖겠습니다. 그 전에 관객들에게 하고 싶은 말이 있다면…
샘 :
아니 정말 재미있었어요. 알았어, 대단해. 매우 감사합니다.
숀:
원한다면 샘에게 몇 가지 질문을 해볼 수 있도록 청중석에 공개하겠습니다. 묻고 싶은 질문이 있으면 손을 들어주세요.
샘 : 
또한 사람들이 관심을 갖고 있다면 오늘날 비즈니스와 더 관련성이 높은 AI에 대해 이야기하게 되어 기쁩니다.
청중의 질문:
그래서 저는 다양한 모자와 푸드테크 공간 중 하나를 착용합니다. 최근 투자에서 알 수 있듯이 Y-Combinator가 푸드테크 분야에 점점 더 관심을 갖고 있는 것 같나요? 우리는 이 [청취 가능한] 고기가 그 중 하나가 되도록 조언하고 투자합니다. 세포 농업 분야의 기업들은 규모 확대 문제를 해결하려고 노력하고 있습니다. 미세유체역학 실험, 계산, 공급망 등이 결합된 매우 다각적인 기술입니다. 이 노변담화의 맥락에서 사용 가능한 데이터가 제한되어 있지만 이를 통합하려고 하는 Open AI와 같은 것을 어디에서 볼 수 있습니까? 그들이 문제를 어떻게 해결하고 있는지에 대해 알아볼까요?
샘 :
나는 식품 기술을 면밀히 따르지 않았습니다. 저는 정말 그런 일이 일어나기를 바라지만 저는 평생 채식주의자로 살아왔습니다. 가짜고기를 먹어보았습니다. 나는 고기 맛을 정말 좋아하지 않고 개인적으로 그 공간에 크게 관여하지 않기로 결정했습니다.
가장 큰 문제가 무엇인지 모르겠습니다. 나는 회사와 많은 시간을 보내지 않았지만 그런 일이 일어나서 정말 기쁩니다. AI를 적용하는 방법에 대해 제안할 전문가 의견도 없습니다. 죄송합니다.
청중의 질문:
감사합니다. 제 이름은 애디슨 스넬입니다. 저는 Intersect 360 연구에 참여하고 있습니다. AI가 인간보다 더 지능적이 되는 개념에 대해 이야기하고 그것을 의식과 분리했다는 점이 마음에 듭니다. 해당 맥락의 콘텐츠에 대한 지능을 구성하는 요소에 대한 정의가 있습니까?
샘 :
기존 지식을 바탕으로 새로운 개념을 학습하는 능력, 그리고 어쩌면 상당히 빠르게 학습할 수 있는 능력에 관한 것입니다. 여기서는 올바른 지표에 대해 이야기하지만 지능은 학습 능력과 깊은 관련이 있다고 생각합니다. 그래서 학습할 수 있는 알고리즘이 있기 때문에 우리가 거기에 도달할 것이라고 생각합니다.
숀:
다음 질문 감사합니다
청중의 질문:
네, 안녕하세요. AI와 국제 협력 측면에서 궁금합니다. 실리콘 밸리가 외부 AI 개발 측면에서 더 많은 관심을 기울여야 한다고 생각하시나요? 그리고 전 세계적으로 우리가 어떻게 더 협력해야 한다고 생각하시나요? 기술 또는 거버넌스 측면 AI.
샘 :
그래서 지금 당장은 꽤 협력적이며 전 세계의 연구자들이 자신의 연구 결과를 발표하고 공개적으로 협력하고 있다고 생각합니다. 훨씬 더 어려워지는 길에 있어서 긴장됩니다. 나는 확실히 세계를 위한 최적의 장기적 결과는 긴밀한 국제적 협력이며 국가 간 군비 경쟁이 아니라고 생각합니다. 그런 일이 일어나길 바라지만 제가 생각하는 범위를 훨씬 벗어난다고 말하고 싶습니다. 전문가이기 때문에 자신있게 예측할 수 있습니다. 저는 이것이 분명히 세계를 위한 최고의 장기적 이익이라고 생각하며 개방형 AI에 대한 우리의 목표 중 하나는 정책을 그 방향으로 추진하는 것입니다. 그리고 나는 그것이 지금까지 어떻게 진행되었는지에 대해 다소 격려를 받았습니다. 학계의 정말 큰 가치 중 하나는 학계의 모든 결점에도 불구하고 아이디어를 중심으로 장기적으로 개방적인 국제 협력을 하는 데 있어서 다른 어떤 부문보다 더 나은 성과를 냈다는 것입니다.
청중의 질문:
안녕하세요. 저는 최근 이 업계에 합류했는데, 다양성 문제가 크다는 것을 깨달았습니다.
샘 :
거대한,
청중: 
오른쪽? 그래서 저는 이 문제를 어떻게 해결하고 싶은지에 대한 귀하의 의견이 무엇인지, 그리고 그것이 특히 AI에 어떤 영향을 미친다고 생각하는지 알고 싶었습니다.
샘 :
우리가 한 일 중 하나는 OpenAI 학자라고 부르는 일을 시작하는 것입니다. 이는 어떤 배경에서든 정말로 재능 있는 사람들을 노출시키고, 멘토링하고, 가르치며, 한 소수의 사람들이 비율을 맞추는 데 도움이 됩니다. 그것은 우리 자신의 능력이지만 분명히 문제를 해결하기에는 충분하지 않으며 의도적인 잘못이 아니라 작동 방식만으로 이러한 것을 만드는 사람들이 엄청난 양의 자신을 자신의 힘으로 투자한다고 믿습니다. 세상에 대한 관점을 이 시스템에 반영하므로 더 다양한 입력이 필요합니다. 그러나 AI 분야의 박사 학위 졸업률을 살펴보면, 다양성이 없다는 측면에서 믿을 수 없을 만큼 놀랍습니다. 따라서 앞으로 일어날 일은 훨씬 더 많은 버전의 OpenAI Scholars와 같은 프로그램과 관련 인력이 필요하다는 것입니다. 현장에서는 다양한 사람들을 멘토링하는 데 다른 시간을 할애해야 합니다. 또한 우리는 수년이 걸리는 AI 박사 파이프라인이 따라잡을 때까지 기다리기보다는 새로운 사람들을 현장에 투입하는 능력을 어떻게 변화시킬 수 있는지 실제로 알아내야 합니다. 내 생각에 우리가 그렇게 하지 않으면, 우리가 무엇을 하든, openAI나 다른 사람들이 무엇을 하든, 정말 좋은 표현과 조언을 얻을 수 있게 될 것입니다. 시스템을 구축한 사람들은 항상 엄청난 돈을 벌게 됩니다. 부정적인 의도를 통해서가 아니라 실제로 일어나는 일에 대한 영향력의 양입니다. 그래서 우리는 차선책의 세계에 이르게 될 것입니다.
샘 : 
좋아요 마지막으로 아이디어에 대한 질문을 드려요
청중의 질문:
안녕하세요. 다양성과 다소 관련이 있는 간단한 질문이지만 실제로는 여러 국가의 데이터 및 접근 방식과 관련이 있습니다.
그래서 제 질문은 예를 들어 현재 많은 감시를 하고 있는 중국을 어떻게 보는지에 관한 것입니다. 따라서 적어도 AI에 대한 시각적 데이터 측면에서 그들은 현재 미국이 갖고 있는 것보다 훨씬 더 많은 것을 가지고 있습니다. 적어도 그것이 언론이 발표하는 것입니다. 장기적으로 볼 때 다양한 접근 방식과 이에 대한 미래에 대해 어떻게 생각하시나요?
샘 :
나는 이것에 대해 정말로 걱정하곤했습니다. 앞서 이야기했듯이 저는 이것이 데이터 엣지보다는 컴퓨팅 엣지에 더 가깝다고 생각하는 방향으로 생각을 바꿨습니다. 저는 확실히 그것이 사실이길 바랍니다. 그렇지 않으면 중국과 같은 정부가 다른 누구보다 더 많은 데이터 측면에서 엄청난 우위를 점할 수 있기 때문입니다. . 저는 우리가 원하는 사회가 초고도 감시 국가라고 생각하지 않습니다. 최소한 제가 개인적으로 원하는 사회는 아니며 그 대가로 데이터가 적을 뿐입니다. 그러나 인터넷은 거대합니다. 우리는 많은 데이터가 필요한 세상에서도 인터넷이 얼마나 거대한지 잊어버립니다. 나는 우리가 그것을 얻을 수 있고 가장자리가 완화된다고 생각합니다.
숀:
그래서 오늘의 주제를 마무리하는 마지막 질문 하나를 드리겠습니다. 지난 몇 년 동안 우리에게 몇 가지 훌륭한 관점을 제시해 주셨습니다. 가까운 미래의 지평선, 즉 향후 XNUMX~XNUMX년 동안 가장 흥미로운 발전이 일어날 것이라고 생각한다면, 다음 XNUMX~XNUMX년 동안 우리가 무대에 섰을 때 발전 측면에서 가장 바라는 것이 무엇이라고 생각하시나요? 몇 년 동안 "정말 놀라운 순간이었습니다"라고 말했습니다. 향후 몇 년 동안 가장 바라는 것은 무엇입니까?
샘 :
비지도 학습과 엄청난 양의 데이터를 보고 기본 개념을 이해하는 능력이 필요하다고 생각합니다. 그것은 XNUMX년이라는 기간 안에 우리를 정말로 놀라게 할 것이고 놀라운 일을 할 것입니다.
숀: 
엄청난. 정말 감사합니다.
샘 :
감사합니다. 감사합니다.