Sengho Bae

I am an amazing person.

4 분 소요

ARTIFICIAL INTELLIGENCE

The messy, secretive reality behind OpenAI’s bid to save the world(5/5)

The AI moonshot was founded in the spirit of transparency. This is the inside story of how competitive pressure eroded that idealism.

By Karen Hao
February 17, 2020
  • MIT Technolgy Reviews에 2020년 2월 17일, AI분야 기자 Karen Hao이 작성한 기사를 DeepL로 번역 후, “포괄적 요약”하고, “저의 의견”을 추가하여 작성한 내용
  • 아주 긴 기사를 나름 5부로 나누어 OpenAI에 대해서 공부할 겸 정리해보았음
  • 2022년 ChatGPT로 일반인들(나 포함)에게 알려지기 까지, 2019년 2020년 초에 OpenAI가 어떤 기업이였는지 알 수 있는 자료
  • 만약 저작권에 문제가 있다면 바로 알려주세요!!

왜 OpenAI는 Open이 아닌가 : 다른 누구보다 먼저 AGI에 도달하려는 전략적 선택때문인가?

지난 여름(2019년), 수익 제한 모델로 전환하고 Microsoft로부터 10억 달러를 투자받은 후 몇 주 동안 경영진은 직원들에게 이러한 업데이트가 OpenAI의 연구 접근 방식을 기능적으로 변화시키지 않을 것이라고 확신했습니다. Microsoft는 연구소의 가치와 잘 맞아떨어지며, 상업화 노력은 먼 훗날의 일이고 근본적인 질문의 추구는 여전히 연구 활동의 핵심으로 남을 것이라는 것이었습니다.

한동안은 이러한 확신이 사실인 것처럼 보였고 프로젝트는 그대로 진행되었습니다. 많은 직원들은 Microsoft가 어떤 약속을 했는지, 있다면 어떤 약속을 했는지조차 알지 못했습니다.

하지만 최근 몇 달 동안 상업화에 대한 압박이 심해졌고, 돈을 버는 연구를 만들어야 한다는 필요성이 더 이상 먼 미래의 일처럼 느껴지지 않았습니다. 2020년 연구소의 비전을 직원들과 비공개로 공유하면서 알트먼이 전한 메시지는 분명했습니다. 연구를 하려면 돈을 벌어야지, 그 반대가 되어서는 안 된다는 것이었습니다.

부유한 자선 기부자가 부족하기 때문에 어쩔 수 없이 감수해야 하는 어렵지만 필수적인 절충안이라고 경영진은 말합니다. 반면, 시애틀에 본사를 둔 비영리 단체인 AI2는 야심차게 기초 AI 연구를 발전시키고 있으며, 마이크로소프트 공동 창업자로 잘 알려진 억만장자 고 폴 앨런이 남긴 자립형(적어도 당분간은) 자금 풀에서 자금을 지원받습니다.

하지만 사실 OpenAI는 부자가 아니기 때문이기도 하지만, 다른 누구보다 먼저 AGI에 도달하려는 전략적 선택을 했기 때문에 이러한 상충 관계에 직면해 있습니다. 이러한 압박으로 인해 원래 의도와는 점점 더 멀어지는 결정을 내릴 수밖에 없습니다. 자금과 인재를 유치하기 위해 서둘러 과대광고에 의존하고, 우위를 점하기 위해 연구를 보호하며, AGI에 이르는 유일한 방법이라고 생각해서가 아니라 가장 빠를 것 같다는 이유로 계산량이 많은 전략을 추구합니다.

하지만 OpenAI는 여전히 인류를 위해 진심으로 노력하는 사람들로 가득 찬 인재와 최첨단 연구의 보루입니다. 다시 말해, 여전히 가장 중요한 요소들을 갖추고 있으며, 아직 변화할 수 있는 시간이 남아 있습니다.

전직 원격 학자였던 로즈와의 인터뷰가 끝날 무렵, 저는 이 프로필에서 빼놓지 말아야 할 OpenAI에 대한 한 가지를 물었습니다. “제 생각에는 문제가 있는 것 같아요.” 로즈가 머뭇거리며 말을 시작합니다. “그 중 몇 가지는 OpenAI가 직면한 환경에서 비롯된 것이고, 어떤 사람들은 끌어들이는 경향이 있고 어떤 사람들은 배제하는 경향이 있습니다.”

“하지만 제게는 그들이 뭔가 조금은 제대로 하고 있는 것 같습니다.”라고 그녀는 말합니다. “그곳에 있는 사람들이 진지하게 노력하고 있다는 느낌을 받았습니다.”

업데이트: OpenAI에서 그렉 브록먼이 AI를 개발할 때 “처음부터 윤리를 넣는 것은 불가능하다고 생각한다”고 말한 것은 처음부터 윤리적 문제를 해결할 수 없다는 뜻이 아니라 처음부터 윤리적 문제를 다룰 수 없다는 뜻이라는 점을 명확히 해달라는 요청에 따라 이 이야기를 일부 수정했습니다. 또한 하버드를 중퇴한 후 1년을 기다리지 않고 바로 MIT로 편입한 것도 마찬가지입니다. 또한 그는 “농장에서”가 아니라 “취미 농장에서” 자랐습니다. 브록먼은 이 구분이 중요하다고 생각합니다.

또한, OpenAI가 실제로 “비영리 단체의 지위를 내려놓긴 했지만” 여전히 비영리 단체의 일부인 이사회가 이를 감독하고 있으며, 연구 논문을 대신하는 것이 아니라 회사 블로그 게시물 형태로 연구를 발표하고 있다는 점을 명확히 했습니다. 또한 외부 연구자의 논문 발표 날짜와 피터 에커슬리(현재가 아닌 전, 최근 퇴사한 파트너십 온 AI의 연구 책임자)의 소속도 정정했습니다.

참고 : OpenAI(from Wikipedia)

The organization was founded in December 2015 by Ilya Sutskever, Greg Brockman, Trevor Blackwell, Vicki Cheung, Andrej Karpathy, Durk Kingma, Jessica Livingston, John Schulman, Pamela Vagata, and Wojciech Zaremba, with Sam Altman and Elon Musk serving as the initial board members.1 2 3 Microsoft provided OpenAI Global LLC with a $1 billion investment in 2019 and a $10 billion investment in 2023,4 5 with a significant portion of the investment in the form of compute resources on Microsoft’s Azure cloud service.6

On November 17, 2023, the board removed Altman as CEO, while Brockman was removed as chairman and then resigned as president. Four days later, both returned after negotiations with the board, and most of the board members resigned. The new initial board included former Salesforce co-CEO Bret Taylor as chairman.7

  1. “Sam Altman on His Plan to Keep A.I. Out of the Hands of the “Bad Guys””. Vanity Fair. 2015. Archived from the original on February 3, 2023. Retrieved January 23, 2023. ↩

  2. “Introducing OpenAI”. OpenAI. December 12, 2015. Archived from the original on August 8, 2017. Retrieved January 27, 2023. ↩

  3. “OpenAI, the company behind ChatGPT: What all it does, how it started and more”. The Times of India. January 25, 2023. Archived from the original on February 3, 2023. Retrieved January 28, 2023. ↩

  4. Browne, Ryan (January 10, 2023). “Microsoft reportedly plans to invest $10 billion in creator of buzzy A.I. tool ChatGPT”. CNBC. Archived from the original on February 3, 2023. Retrieved January 27, 2023. ↩

  5. Lardinois, Frederic (March 14, 2023). “Microsoft’s new Bing was using GPT-4 all along”. TechCrunch. Archived from the original on March 15, 2023. Retrieved March 30, 2023. ↩

  6. “OpenAI has received just a fraction of Microsoft’s $10 billion investment”. Semafor. November 18, 2023. Retrieved November 27, 2023. ↩

  7. “OpenAI brings Sam Altman back as CEO less than a week after he was fired by board”. CNBC. November 22, 2023. –> ↩

참고