샘 알트만(Open Ai)의 최신 블로그 글(The Gentle Singularity)요약 및 번역 공개

샘 알트만(Open Ai)의 최신 블로그 글(The Gentle Singularity)요약 및 번역 공개

"샘 알트만의 최신 블로그 글 'The Gentle Singularity'에서 AI 초지능의 미래를 탐험하세요. 2025년 AI 에이전트, 2027년 로봇 등장, 그리고 풍부한 지능과 에너지 시대가 인류에게 가져올 혁명적 변화를 예측합니다. AI 발전이 삶의 질을 어떻게 향상시키고 사회를 변화시킬지 알아보세요. 안전하고 분산된 AI의 미래 비전을 제시합니다“

요약 정리 내용

샘 알트만은 블로그 게시물 "The Gentle Singularity"에서 AI 기술의 급진적인 발전과 인류의 미래에 대한 낙관적인 비전을 제시합니다. 그는 GPT-4와 같은 시스템이 이미 인간보다 똑똑하고 생산성을 크게 증폭시킨다는 점을 강조하며, AI가 과학 발전과 삶의 질 향상에 지대한 영향을 미칠 것이라고 예측합니다.

알트만은 2025년 인지 작업을 수행하는 AI 에이전트, 2026년 새로운 통찰력을 찾아내는 시스템, 2027년 실제 작업을 수행하는 로봇의 등장을 예상하며 AI 발전의 중요한 이정표들을 제시합니다. 그는 AI를 통해 지능과 에너지가 풍부해지면서 인간 발전의 근본적인 제약이 사라질 것이라고 주장합니다.

이러한 변화가 특정 직업군을 사라지게 하는 등의 어려운 측면도 있겠지만, 사회는 빠르게 적응하고 새로운 정책 아이디어를 수용하며 전례 없는 번영을 이룰 것이라고 전망합니다. 또한 AI 연구 자체의 속도가 가속화되어 기술 발전이 더욱 빨라질 것이며, 로봇이 로봇을 만들고 데이터 센터 생산이 자동화되면 지능의 비용이 전기 비용 수준으로 수렴될 것이라고 예측합니다.

알트만은 안전 문제 해결과 초지능의 광범위한 분배가 중요하다고 강조하며, AI 시스템이 인류의 집단적 의지에 부합하도록 '정렬'하는 것이 핵심 과제임을 언급합니다.

그는 OpenAI를 포함한 AI 산업이 세상을 위한 '뇌'를 구축하고 있으며, 앞으로 좋은 아이디어를 가진 사람들이 중요한 역할을 하게 될 것이라고 말하며, 측정할 수 없을 만큼 저렴한 지능의 시대가 곧 도래할 것이라는 강력한 믿음을 표합니다.

전체 내용 번역본

The Gentle Singularity (온화한 특이점)

 

우리는 사건의 지평선을 넘어섰습니다. 이륙이 시작되었습니다. 인류는 디지털 초지능을 구축하는 데 근접해 있으며, 적어도 지금까지는 예상했던 것보다 훨씬 덜 기이하게 느껴집니다.

로봇들이 아직 길거리를 활보하지도 않고, 우리 대부분이 하루 종일 AI와 대화하는 것도 아닙니다. 사람들은 여전히 질병으로 죽고, 우리는 아직 우주로 쉽게 갈 수 없으며, 우주에 대해 이해하지 못하는 것이 많습니다.

그럼에도 불구하고, 우리는 최근 여러 면에서 사람보다 똑똑하고 사용하는 사람들의 생산성을 크게 증폭시킬 수 있는 시스템을 구축했습니다. 가장 어려웠던 부분은 지나갔습니다. GPT-4 및 o3와 같은 시스템에 도달하게 한 과학적 통찰은 어렵게 얻었지만, 우리를 매우 먼 곳까지 데려갈 것입니다.

AI는 여러 면에서 세상에 기여하겠지만, AI가 더 빠른 과학 발전과 생산성 증가를 이끌어냄으로써 삶의 질에 가져올 이득은 엄청날 것입니다. 미래는 현재보다 훨씬 더 나아질 수 있습니다. 과학 발전은 전반적인 발전의 가장 큰 동인입니다. 우리가 얼마나 더 많은 것을 가질 수 있을지 생각하는 것은 매우 흥미진진합니다.

어떤 큰 의미에서, ChatGPT는 이미 역사상 존재했던 어떤 인간보다 더 강력합니다. 수억 명의 사람들이 매일 점점 더 중요한 작업을 위해 ChatGPT에 의존하고 있습니다. 작은 새로운 기능은 엄청나게 긍정적인 영향을 미칠 수 있으며, 수억 명의 사람들에게 곱해진 작은 오작동은 큰 부정적인 영향을 초래할 수 있습니다.

2025년에는 실제 인지 작업을 수행할 수 있는 에이전트가 등장했습니다. 컴퓨터 코드를 작성하는 것은 결코 이전과 같지 않을 것입니다. 2026년에는 새로운 통찰력을 찾아낼 수 있는 시스템이 등장할 가능성이 높습니다. 2027년에는 실제 세계에서 작업을 수행할 수 있는 로봇이 등장할 수 있습니다.

더 많은 사람들이 소프트웨어와 예술을 창조할 수 있게 될 것입니다. 하지만 세상은 둘 다 훨씬 더 많이 원하고 있으며, 전문가들은 새로운 도구를 받아들이는 한 여전히 초보자보다 훨씬 나을 것입니다. 일반적으로, 한 사람이 2020년보다 2030년에 훨씬 더 많은 것을 할 수 있다는 능력은 놀라운 변화가 될 것이며, 많은 사람들이 그 혜택을 누릴 방법을 찾을 것입니다.

 

가장 중요한 면에서 2030년대는 크게 다르지 않을 수 있습니다. 사람들은 여전히 가족을 사랑하고, 창의력을 표현하고, 게임을 하고, 호수에서 수영할 것입니다.

그러나 여전히 매우 중요한 면에서 2030년대는 이전의 어떤 시기와도 크게 다를 것입니다. 우리는 인간 수준의 지능을 얼마나 뛰어넘을 수 있을지 모르지만, 곧 알게 될 것입니다.

 

2030년대에는 지능과 에너지, 즉 아이디어와 아이디어를 실현할 수 있는 능력이 엄청나게 풍부해질 것입니다. 이 두 가지는 오랫동안 인간 발전의 근본적인 제약 요인이었습니다. 풍부한 지능과 에너지(그리고 훌륭한 거버넌스)가 있다면 이론적으로는 다른 어떤 것도 가질 수 있습니다.

이미 우리는 놀라운 디지털 지능과 함께 살고 있으며, 처음의 충격 이후 대부분은 꽤 익숙해졌습니다. AI가 아름답게 쓰인 단락을 생성하는 것에 놀라워하다가 언제 아름답게 쓰인 소설을 생성할 수 있을지 궁금해하거나, 생명을 살리는 의료 진단을 내리는 것에 놀라워하다가 언제 치료법을 개발할 수 있을지 궁금해하거나, 작은 컴퓨터 프로그램을 만드는 것에 놀라워하다가 언제 완전히 새로운 회사를 만들 수 있을지 궁금해합니다. 이것이 특이점이 진행되는 방식입니다. 경이로움은 일상이 되고, 그리고는 필수적인 것이 됩니다.

우리는 이미 과학자들로부터 AI 이전보다 두세 배 더 생산적이라는 이야기를 듣고 있습니다. 고급 AI는 여러 가지 이유로 흥미롭지만, 아마도 가장 중요한 것은 우리가 AI를 사용하여 더 빠른 AI 연구를 할 수 있다는 사실일 것입니다. 우리는 새로운 컴퓨팅 기판, 더 나은 알고리즘, 그리고 그 외 무엇이든 발견할 수 있을 것입니다. 10년치 연구를 1년 또는 한 달 안에 할 수 있다면, 발전 속도는 분명히 상당히 다를 것입니다.

지금부터 우리가 이미 구축한 도구는 추가적인 과학적 통찰력을 찾는 데 도움이 될 것이며, 더 나은 AI 시스템을 만드는 데 도움이 될 것입니다. 물론 이것이 AI 시스템이 자신의 코드를 완전히 자율적으로 업데이트하는 것과 같은 것은 아니지만, 그럼에도 불구하고 이것은 재귀적 자기 개선의 유충 버전입니다.

다른 자기 강화 루프들도 작동하고 있습니다. 경제적 가치 창출은 점점 더 강력해지는 AI 시스템을 실행하기 위한 복합적인 인프라 구축의 선순환을 시작했습니다. 그리고 다른 로봇을 만들 수 있는 로봇(그리고 어떤 의미에서는 다른 데이터 센터를 만들 수 있는 데이터 센터)도 그리 멀지 않았습니다.

만약 우리가 처음 백만 대의 휴머노이드 로봇을 구식 방식으로 만들어야 하지만, 그 다음 그 로봇들이 광물 채굴 및 정제, 트럭 운전, 공장 운영 등 전체 공급망을 운영하여 더 많은 로봇을 만들고, 그 로봇들이 더 많은 칩 제조 시설, 데이터 센터 등을 만들 수 있다면, 발전 속도는 분명히 상당히 다를 것입니다.

데이터 센터 생산이 자동화됨에 따라, 지능의 비용은 결국 전기 비용에 가깝게 수렴되어야 합니다. (사람들은 종종 ChatGPT 쿼리가 얼마나 많은 에너지를 사용하는지 궁금해합니다. 평균 쿼리는 약 0.34와트시를 사용하며, 이는 오븐이 1초 조금 넘게 사용하거나 고효율 전구 2분 정도 사용할 때의 양입니다. 또한 약 0.000085갤런의 물, 즉 티스푼의 약 15분의 1을 사용합니다.)

기술 발전 속도는 계속 가속화될 것이며, 사람들은 거의 모든 것에 적응할 수 있을 것입니다. 모든 직업군이 사라지는 것과 같은 매우 어려운 부분도 있겠지만, 다른 한편으로는 세상이 너무나 빠르게 부유해져서 이전에 결코 할 수 없었던 새로운 정책 아이디어를 진지하게 고려할 수 있을 것입니다. 우리는 아마도 새로운 사회 계약을 한꺼번에 채택하지는 않겠지만, 수십 년 후에 되돌아보면 점진적인 변화가 큰 무언가가 되었을 것입니다.

역사가 어떤 지침을 제공한다면, 우리는 새로운 할 일과 새로운 원하는 것을 찾아내고 새로운 도구를 빠르게 흡수할 것입니다 (산업 혁명 이후의 직업 변화가 좋은 최근 예입니다). 기대치는 높아지겠지만, 능력도 똑같이 빠르게 높아질 것이며, 우리 모두는 더 좋은 것을 얻게 될 것입니다. 우리는 서로를 위해 계속해서 더 멋진 것들을 만들 것입니다. 사람들은 AI에 비해 오랫동안 중요하고 흥미로운 장점을 가지고 있습니다. 우리는 다른 사람들과 그들의 생각과 행동에 관심을 갖도록 타고났으며, 기계에는 그다지 관심이 없습니다.

천 년 전의 자급자족 농부는 우리 중 많은 사람들이 하는 일을 보면서 가짜 직업을 가졌다고 말하고, 충분한 음식과 상상할 수 없는 사치를 누리므로 단지 자신을 즐겁게 하기 위해 게임을 하는 것이라고 생각했을 것입니다. 저는 우리가 천 년 후의 직업을 보면서 그것이 매우 가짜 직업이라고 생각하기를 바라며, 그 일을 하는 사람들에게는 엄청나게 중요하고 만족스러울 것이라고 확신합니다.

새로운 경이로움이 달성되는 속도는 엄청날 것입니다. 2035년까지 우리가 무엇을 발견할지 오늘날 상상하기조차 어렵습니다. 아마도 우리는 한 해에는 고에너지 물리학을 해결하고 다음 해에는 우주 식민지화를 시작하거나, 한 해에는 주요 재료 과학 혁신을 이루고 다음 해에는 진정한 고대역폭 뇌-컴퓨터 인터페이스를 개발할 수도 있을 것입니다. 많은 사람들은 이전과 거의 같은 방식으로 삶을 살아가겠지만, 적어도 일부 사람들은 "플러그인"하기로 결정할 것입니다.

미래를 내다보면, 이것은 이해하기 어려울 수 있습니다. 하지만 아마도 그것을 살아가는 것은 인상적이지만 감당할 수 있게 느껴질 것입니다. 상대론적 관점에서 특이점은 조금씩 일어나고, 융합은 천천히 일어납니다. 우리는 기하급수적인 기술 발전의 긴 호를 오르고 있습니다. 항상 앞으로 보면 수직으로 보이고 뒤로 보면 평평하게 보이지만, 하나의 부드러운 곡선입니다. (2020년을 되돌아보고, 2025년까지 AGI에 가까운 것이 생긴다는 것이 어떻게 들렸을지, 그리고 지난 5년이 실제로 어땠는지를 생각해 보십시오.)

엄청난 장점과 함께 직면해야 할 심각한 도전 과제들이 있습니다. 우리는 기술적으로나 사회적으로 안전 문제를 해결해야 하지만, 경제적 함의를 고려할 때 초지능에 대한 접근을 광범위하게 분배하는 것이 매우 중요합니다. 가장 좋은 방법은 다음과 같을 수 있습니다.

정렬 문제 해결: 즉, 장기적으로 우리가 집단적으로 진정으로 원하는 방향으로 AI 시스템이 학습하고 행동하도록 강력하게 보장하는 것입니다. (소셜 미디어 피드는 오정렬된 AI의 예시입니다. 그것을 구동하는 알고리즘은 사용자가 계속 스크롤하게 만드는 데 놀라울 정도로 뛰어나고 단기적인 선호도를 명확히 이해하지만, 사용자의 장기적인 선호도를 무시하는 뇌의 무언가를 악용하여 그렇게 합니다.)

그 다음, 초지능을 저렴하고 널리 이용 가능하며, 특정 개인, 회사 또는 국가에 너무 집중되지 않도록 하는 데 집중합니다. 사회는 회복력이 강하고, 창의적이며, 빠르게 적응합니다. 우리가 사람들의 집단적인 의지와 지혜를 활용할 수 있다면, 비록 많은 실수를 하고 몇 가지 일이 정말 잘못되더라도, 우리는 빠르게 배우고 적응하여 이 기술을 사용하여 최대의 이점과 최소의 단점을 얻을 수 있을 것입니다. 사회가 결정해야 할 광범위한 범위 내에서 사용자에게 많은 자유를 주는 것이 매우 중요해 보입니다. 세상이 이러한 광범위한 범위와 집단적 정렬을 정의하는 방법에 대한 대화를 빨리 시작할수록 더 좋습니다.

우리(OpenAI뿐만 아니라 전체 산업)는 세상을 위한 뇌를 구축하고 있습니다. 그것은 매우 개인화되고 모든 사람이 사용하기 쉬울 것입니다. 우리는 좋은 아이디어에 의해 제한될 것입니다. 오랫동안 스타트업 업계의 기술자들은 "아이디어맨"을 비웃었습니다. 아이디어를 가지고 팀을 찾던 사람들이었습니다. 이제는 그들이 빛을 볼 날이 온 것 같습니다.

OpenAI는 지금 여러 가지 역할을 하고 있지만, 무엇보다도 우리는 초지능 연구 회사입니다. 우리 앞에는 많은 일이 있지만, 우리 앞의 길은 이제 대부분 밝혀졌고, 어두운 부분은 빠르게 사라지고 있습니다. 우리가 하는 일을 할 수 있어서 엄청나게 감사합니다.

측정할 수 없을 만큼 저렴한 지능은 충분히 손이 닿는 곳에 있습니다. 이런 말을 하는 것이 미친 소리처럼 들릴 수 있지만, 2020년에 오늘날 우리가 있는 곳에 도달할 것이라고 말했더라면, 아마도 2030년에 대한 우리의 현재 예측보다 더 미친 소리처럼 들렸을 것입니다.

우리가 초지능을 통해 순조롭고, 기하급수적으로, 그리고 무사히 확장되기를 바랍니다.

원문링크 바로가기

👉👉원문 바로 가기

함께 읽어보면 좋은 포스팅

[나는 어떻게 나를 느끼는가?] 1화, 인간은 왜 ‘느낀다’고 말할까? – 의식의 불가해성과 퀄리

1인 크리에이터를 위한 AI 콘텐츠 자동화 설계도: 시작 가이드 <AI 도구를 활용한 콘텐츠 자동화

글로벌 확장 필수! 다국어 자막 제작 루틴 공개 《AI 도구를 활용한 콘텐츠 자동화 시리즈 5화》