챗GPT를 운용하는데 하루에 드는 비용이 얼마인지 알아보기

챗GPT를 운용함에 있어 하루에 사용되는 비용이 얼마인지를 알아보겠습니다.AI 기술의 발전으로 최근에 대세가 된 만큼 많이 궁금해 하실 것 같습니다.

ChatGPT 로고 출저

1. 챗 GPT를 운용하면서 생성 과정

생성형 AI '챗 GPT'가 처음 공개된 날이 2022년 11월 30일 이였습니다.훗날 어떻게 기억될지 아직 알 수 없지만,전대미문의 새로운 숫자로 확실한 IT의 역사를 남기고 있는 것은 분명한 것 같습니다.특별한 광고도 없이 출시된 이 서비스는 불과 1주일 만에 사용자 100만 명,2달 만에 1억 명을 넘어섰습니다.사실상 인터넷 시대 이후 가장 빠르게 성장을 했습니다.

 

생성형 AI는 더는 텍스트에 머물지 않습니다.영상,이미지,음성을 만들어 주는 AI 서비스가 잇달아 등장했던 일이 불과 6개월 사이에 일어났습니다.어쩌면 인류 IT 역사의 새로운 챕터가 시작되고 있는 시점인 것 같습니다.

2. 파격적인 "쩐의 전쟁"과 시스템 운영의 비용

챗 GPT는 여행,교육,금융,세무 등 다양한 앱과 업무에 빠르게 연결하고 있습니다.상당수는'핫한 유행'에 묻어가려는 무리수지만,결과적으로 챗 GPT를 사용할 수 있는 경로는 다양해지고 있습니다.그렇다면 전 세계인의 질문에 답하는 챗 GPT 시스템 운영의 비용은 얼마나 될까요?

컨설팅 기업 세미애널리시스에 따르면,HGX A100 서버 3,600여 대,총 2만 8,900여 개 GPU 등 '하루에' 약 70만 달러,우리 돈으로 9억 3,000만 원이라고 합니다.단,이는 하드웨어의 비용이라고 합니다.네트워크와 인력,시스템 고도화 등을 고려하면 실제 비용은 훨씬 더 크다고 합니다. 끝말잇기나 하는 만만한 서비스 같아도 사실상은 '돈의 전쟁터'라고 합니다.
실제로 챗 GPT는 태생부터 금수저였습니다.AI 기업 레티튜드는 GPT-3 모델 학습에 3,110억 테라플롭이 필요했을 것으로 추측하고 있습니다.현존하는 최강 슈퍼컴퓨터인 미국의 프런티어가 110만 테라플롭이므로 과정부터 천문학적 비용이 들어갔음을 알 수 있습니다.

Unsplash+ Choong Deng Xiang-출저

만약 많은 이들이 말하는 것처럼 구글 검색을 챗 GPT로 대체하면 어떻게 될까요?A100 HGX 서버 51만 대에 네트워크까지 포함해 장비 비용만 1,000억 달러,134조 원의 비용이 발생합니다.구글의 1년 순익보다도 많습니다.세미애널리시스는 이를 '파격적'이라고 표현을 합니다.결국 챗 GPT는'파격적인 돈의 전쟁터'라고 합니다.그래서 마이크로소프트가 AI 전용 칩을 개발하는 이유라고 합니다.

 

3. 생산성을 높이는 초안을 작성하는 시간

챗 GPT가 이렇게 인기를 끈 가장 큰 이유는 생산성을 높여줄 것이라는 기대 때문입니다.그렇다면 챗 GPT가 어떻게 업무 생산성을 높여주는 것일까요?

MIT 경제학 박사과정생 2명이 흥미로운 실험을 통해 이 까다로운 문제의 해답을 제시했습니다.대졸자 444명을 두 그룹으로 나눈 후 이메일,짧은 보고서,분석 계획서 등을 작성하게 했습니다.한 그룹에겐 문서 편집기를,다른 한 그룹엔 챗 GPT를 사용하도록 했으며,각 그룹이 내놓은 결과물의 품질을 평가했습니다.그 결과 챗 GPT를 사용한 그룹은 작업 시간이 30분에서 17분으로 줄어들었으며,문서의 품질은 7점 만점 중 4점에서 4.7점으로 상승했습니다.

이 실험의 가장 흥미로운 것인 문서 작성 시간을 분석해 보면,보통 브레인스토밍에 25%초안 작성에 50%편집에 25%를 사용을 합니다.이중 챗 GPT가 활약하는 부분이 초안 작성입니다. 논문에 따르면,챗GPT를 통해 초안 작성 시간이 1/3로 줄어들었습니다.챗 GPT가 생산성을 높이는 결정적인 이유라고 합니다.브레인 스토밍 시간도 절반으로 줄었고,편집 시간은 기존과 큰 차이가 없었습니다.정리를 하자면 브레인 스토밍,초안 작성 시간을 크게 줄이고,편집 작업에 집중해서 생산성과 품질이 높아졌습니다.실험 참가자는 월급의 0.5%까지 챗 GPT 구독료로 낼 의향이 있다고 했습니다.

IT 뉴스-출저

 

4. 악용을 하거나 또는 유출을 하거나

챗 GPT의 잠재력과 유용성에 이목이 쏠리고 있는 가운데 부작용이나 혹은 악용에 대한 우려도 커지고 있습니다.예를 들어 현재 챗 GPT에 피싱 이메일을 써달라고 한다면 윤리에 어긋난다며 답을 주지 않습니다.하지만 간접적인 방법은 얼마든지 할 수 있다고 합니다.이미 써놓은 피싱 이메일을 입력하고 비슷한 글을 써달라고 하면 챗 GPT는 다양한 버전의 피싱 이메일을 순식간에 만든다고 합니다.기업 실무자의 걱정은 더욱더 큽니다.소프트웨어 기업 블랙베리가 영국 내 IT 의사결정권자 500명을 설문 조사한 결과,절반에 가까운 48%가 챗 GPT를 악용한 대규모 사이버 공격이 향후 12개월 이내에 현실화할 것이라고 답을 했습니다.

기업이 절대 피하고 싶은 상황은 또 있었습니다.바로 챗 GPT와의 대화 내용이 다른 사람에게 유출이 되는 것이었습니다.실제로 지난 3월 대화 제목이 다른 사용자에 노출되는 결함이 확인되었습니다.만약 주주총회를 앞두고 실적 보고서,신사업 자료 등 민감한 정보를 챗 GPT에 입력해 텍스트를 정리하도록 했는데,다른 사람이 챗 GPT를 통해 이 정보를 입수한다면 안좋은 영향이 될 것입니다.리서치 기업 사이버헤이븐에 따르면,직원이 챗 GPT에 붙여넣는 내용 중 11%가 민감한 정보라고 합니다.영국 국립 사이버보안센터 등은 챗 GPT에 입력한 내용을 다른 사용자 혹은 챗 GPT 운영업체가 들여다볼 수 있어서 많이 염려하고 있습니다.

 

5.마이크로소프트의 오픈AI 투자에 대한 현재의 반응

①챗 GPT 열풍의 최대의 혜택이 되는 회사는 마이크로소프트

존재감 없던 검색엔진'빙'에 챗 GPT를 통합하자,한 달 만에 일일 활성 사용자가 1억 명을 돌파했습니다.마이크로소프트는 기세를 몰아 생산성 앱 오피스부터 게임기 엑스박스까지 거의 모든 제품에 챗 GPT 기술을 통합한다는 구상이라고 합니다.

물론 마이크로소프트는 이렇게 할 자격이 있습니다.챗 GPT를 개발한 오픈AI에 일찍부터 거대한 돈을 투자했기 때문입니다.2019년 10억 달러(약 1조 3,371억 원)를 투자했고,올해 초에는 1만 명 해고 계획을 발표한 와중에도 100억 달러(13조 3,711억 원)를 추가로 내놓았습니다.적용 제품과 투자 규모를 고려하면 사실상 '올인'을 했습니다.

마이크로소프트-출저

②사실 마이크로소프트에 이번은 두 번째 '올인'입니다.

첫 번째는 10년 전에 클라우드였습니다. 새로 CEO로 취임한 사티아 나델라는 IaaS,Paas 등 클라우드 사업을 강화한 것은 물론,윈도우와 오피스 등 전통적인 캐시카우 사업에 클라우드,즉 구독제 방식을 도입했습니다.그렇게 불법복제 문제를 해결하고,예측 가능한 거대 매출원을 갖게 되었습니다.'본진'을 튼튼히 한 마이크로소프트는 클라우드 시장'원정'에 본격적으로 나설 수 있었으며 10년이 지난 지금 챗 GPT가 마이크로소프트의 새 혁신 엔진이 될지는 아직은 미지수입니다.그러나'기술 선두 주자'로 입지를 확보한 것만 해도 꽤 좋은 출발인 것 같습니다.

9억 원에 1억 명,100억 달러 등 챗 GPT를 둘러싼 숫자는 그 자체만으로도 압도적입니다.
사실 더 놀라운 것은 챗 GPT가 업무에 파고드는 속도입니다.'AI 환각' 등 규명해야 할 숙제가 많음에도 너무 쉽게 기업 환경에 입성하고 있습니다.특히 기업이 군침을 흘리는 것은 챗 GPT로 초급 개발자를 대체하는 구상입니다.능숙한 중급 개발자가 챗 GPT를 이용하면 초급 개발자 없이 일할 수 있고 막대한 인건비가 절감이 됩니다.어쩌면 당장의 비용 절감에 '홀려' 감당할 수 없는 기술적 부채를 쌓고 있는 것 아닐지 모르겠습니다.

AI의 발전으로 아직은 시작 단계이지만 좋은 점과 안 좋은 점을 잘 파악을 해서 안 좋은 점에 대해 개선 할 부분과 없어져야 할 부분이 있어야 되고,좋은 영향들을 잘 받아 들일수 있기를 바랍니다.