[MIT Technolgy Reviews - OpenAI] The messy, secretive reality behind OpenAI’s bid to save the world (1부)
ARTIFICIAL INTELLIGENCE
The messy, secretive reality behind OpenAI’s bid to save the world(1/5)
The AI moonshot was founded in the spirit of transparency. This is the inside story of how competitive pressure eroded that idealism.
By Karen Hao
February 17, 2020
- MIT Technolgy Reviews에 2020년 2월 17일, AI분야 기자 Karen Hao이 작성한 기사를 DeepL로 번역 후, “포괄적 요약”하고, “저의 의견”을 추가하여 작성한 내용
- 아주 긴 기사를 나름 5부로 나누어 OpenAI에 대해서 공부할 겸 정리해보았음
- 2022년 ChatGPT로 일반인들(나 포함)에게 알려지기 까지, 2019년 2020년 초에 OpenAI가 어떤 기업이였는지 알 수 있는 자료
- 만약 저작권에 문제가 있다면 바로 알려주세요!!
2015년 설립 당시 OpenAI 설립을 주도했던 사람들은, AI 개발과 실행에 드는 천문학적 소요 비용때문에 결국, 소수에게 AI관련 권력이 집중되는 경향을 예측하고, OpenAI가 비영리기관이라는 컨셉으로 업계에게 이목을 집중시켜 유명한 AI 개발 경쟁사들와는 다른 출발한 것은 결국, 실리콘밸리 사람들의 대단한 예측력과 사업추진력을 가지고 있었다는 것을 느낌
그리고 startup 기업이 설립 초창기에 세웠던 목표와 비전을 지켜나가기 위해서 어떤 갈등이 있고, 어떻게 그러한 갈등들을 해쳐나가는지도 느껴질 수 있음 ChatGPT라는 상품으로 결국 일반인들까지 알려진 OpenAI에 2020년까지 어떻게 성장했는지 알 수 있는 중요한 기사임
특히, 2023년 11월 샘 올트먼의 해고와 복귀의 일렬의 사건과 관련하여, 사람들의 말로 표현된 사실들과 더불어, 이 기사를 통해 알게된 OpenAI의 보이지 않는 사실들을 파악한다면 더 사건이 일어난 배경을 더 이해하게 되었다.
근데, 과연 우리나라는 OpenAI와 같은 기업들 기대할 수 있을까? 가장 중요한 인력확보부터 그리고 투자 유치 등등 우리나라도 세계적인 경쟁력을 가진 기업들과 국가(정부)가 역할을 분담하여, AI에 대한 선택과 집중할 분야를 선정하여 투자할 필요가 있을 듯하다. 분명히 AI산업에서 우리가 들어갈 수 있는 틈새가 있을 것이며, 우리가 잘 하는 부분도 있을 것이기 때문이다. 아니면 다양한 기업과 국가들 사이에서 기술력이 아니라 관계력을 발휘할 수도…
OpenAI 개략 소개
매년 OpenAI의 직원들은 인공 일반 인공지능(AGI)이 언제쯤 도래할 것이라고 생각하는지 투표 절반은 15년 이내에 실현될 것으로 예상
OpenAI는 설립 4년이라는 짧은 기간 동안 세계 최고의 AI 연구소 중 하나 지속적으로 헤드라인을 장식하는 연구를 수행하며 명성을 쌓았고, 엘론 머스크와 전설적인 투자자 샘 앨트먼이 설립자 중 한 명으로 꼽히는 등 실리콘 밸리에서 많은 사랑을 받고 있음
회사의 목표는 인간 정신의 학습 및 추론 능력을 갖춘 기계인 AGI를 최초로 개발하되, 이 기술을 안전하게 개발하고 그 혜택을 전 세계에 골고루 분배하는 것
이는 기술 개발이 저항이 가장 적은 경로를 따르도록 내버려두면 AGI가 쉽게 혼란에 빠질 수 있다는 것을 의미
이제 우리는 알고리즘이 편향되고 취약하며, 엄청난 남용과 기만을 저지를 수 있고, 알고리즘을 개발하고 실행하는 데 드는 비용 때문에 소수의 손에 권력이 집중되는 경향
이러한 상황에서 OpenAI는 부유한 기업들이 지배하는 이 분야에서 비영리 단체로 설립되었고, 첫 번째 발표 내용은 “주주가 아닌 모든 사람을 위한 가치를 창출”
직원들의 급여가 결정될 정도로 중요한 이 헌장에는 OpenAI의 “일차적 신탁 의무는 인류에 대한 것”이라고 선언
AGI를 안전하게 달성하는 것은 매우 중요하기 때문에, 다른 조직이 AGI를 먼저 달성하는 데 가까워지면 OpenAI는 경쟁을 중단하고 대신 협력할 것이라는 것은 투자자와 언론에 잘 먹혔고, 7월에 Microsoft가 10억 달러를 투자
하지만 3일 동안 OpenAI의 사무실에서 전현직 직원, 협력자, 친구, 이 분야의 다른 전문가들과 진행한 인터뷰를 진행한 결과, 회사가 공개적으로 지지하는 것과 비공개적으로 운영되는 방식 사이에는 불일치가 존재
시간이 지남에 따른 치열한 경쟁과 더 많은 자금 조달 압박 때문에 투명성, 개방성, 협업이라는 창립 이념이 약화
AI와 OpenAI의 등장
1950년 영국의 저명한 수학자이자 컴퓨터 과학자였던 앨런 튜링은 “기계도 생각할 수 있을까?”라는 지금은 유명한 도발적인 질문으로 논문을 시작, 6년 후, 이 아이디어에 매료된 과학자들이 다트머스 대학에 모여 이 학문을 공식화하기 시작
AGI이 항상 모호한 상태로 남아 있음. 어떤 모습일지, 최소한 어떤 일을 해야 하는지 아무도 설명할 수 없음.
예를 들어, 일반 지능이 한 가지 종류만 있다는 것은 분명하지 않으며, 인간 지능은 그 하위 집합에 불과할 수 있음, 또한 AGI가 어떤 용도로 사용될 수 있는지에 대한 의견도 다양
그러나 이러한 고급 기능을 개발하는 데는 수십 년, 심지어는 수 세기가 걸릴 수도 있다는 것이 이 분야의 공통된 의견이며, 많은 사람들은 이러한 목표를 지나치게 열성적으로 추구할 경우 역효과가 나타날 수 있다고 우려
1970년대에 이어 80년대 말과 90년대 초에도 이 분야는 과대 약속과 과소 제공을 반복
이러한 배경에서 2015년 12월 11일, OpenAI는 세상에 화려하게 등장 오픈AI가 공개적으로 AGI를 추구한다고 선언한 것이 아니며, 딥마인드가 처음 선언하고, 5년 전 2014년에 구글에 인수
하지만 OpenAI는 머스크, 알트만, 페이팔의 공동 창업자 피터 틸을 비롯한 개인 투자자들이 10억 달러를 투자해 벤처를 시작할 정도로 충격적임
스타들이 대거 참여한 투자자 명단은 미디어의 열광을 불러일으켰고, 인상적인 초기 직원 명단도 화제가 되었습니다: 결제 회사인 Stripe에서 기술을 담당했던 그렉 브록먼이 최고기술책임자로, AI의 선구자 제프리 힌튼에게 수학한 일리아 수츠케버가 연구 책임자로, 그리고 일류 대학을 갓 졸업했거나 다른 회사에서 영입한 7명의 연구원이 핵심 기술팀을 구성(지난 2월(2019년), 머스크는 회사의 방향성에 대한 의견 불일치로 테슬라를 떠나겠다고 발표. 한 달 후, 알트먼은 스타트업 액셀러레이터인 Y 컴비네이터의 사장직에서 물러나 OpenAI의 CEO가 됨)
하지만 무엇보다도 OpenAI가 비영리 단체라는 점을 밝혔음. 즉 “자신의 이익보다 모두를 위한 좋은 결과를 우선시할 수 있는 선도적인 연구 기관을 보유하는 것이 중요할 것”, “연구자들은 논문, 블로그 게시물, 코드 등 연구 결과를 발표하도록 강력히 장려할 것이며, 특허가 있다면 전 세계와 공유할 것”이라고 밝히면서, 딥마인드와 같은 다른 연구소가 상업적 이해관계에 얽매여 인류를 위해 봉사할 수 없다는 의미는 분명. 그들이 문을 닫는 동안 OpenAI는 문을 열었음
점점 더 사유화되고 단기적인 재정적 이익에 집중하는 연구 환경에서 OpenAI는 가장 큰 문제를 해결하는 데 필요한 자금을 조달할 수 있는 새로운 방법을 제시