Google과 Microsoft, Next로 AI 하드웨어 배틀 시작

작성자: 아감 샤

2023년 2월 20일

Microsoft와 Google은 검색 엔진을 통해 사람들에게 AI를 제공함으로써 컴퓨팅의 대대적인 변화를 주도하고 있으며, 성공의 척도 중 하나는 애플리케이션을 지원하는 하드웨어 및 데이터 센터 인프라로 귀결될 수 있습니다.

지난 주, 마이크로소프트와 구글은 추론하고 예측하며 사용자 질문에 대한 보다 포괄적인 답변을 제공할 수 있는 차세대 AI 기반 검색 엔진을 발표했습니다. ChatGPT가 자세한 답변을 제공하거나 에세이를 편집하는 것과 마찬가지로 검색 엔진은 복잡한 쿼리에 대한 완전한 답변을 생성할 수 있습니다.

마이크로소프트는 텍스트 쿼리에 응답하기 위해 빙(Bing)에 AI를 넣었고, 구글은 텍스트, 이미지, 비디오 검색 도구에 AI를 넣을 계획을 공유했다. 발표는 지난주 연속으로 이루어졌습니다.

두 회사는 강력한 하드웨어 인프라 없이는 검색 엔진에 AI를 적용하는 것이 불가능하다는 점을 인정했습니다. 두 회사는 AI 컴퓨팅을 구동하는 실제 하드웨어에 대한 세부 정보를 공유하지 않았습니다.

수년 동안 Microsoft와 Google은 지난주의 AI 검색 엔진과 같은 황금 시간대 발표를 위해 설계된 AI 하드웨어를 육성해 왔습니다.

두 회사는 매우 다른 AI 컴퓨팅 인프라를 보유하고 있으며 응답 속도와 결과의 정확성은 검색 엔진의 생존 가능성에 대한 엄격한 테스트가 될 것입니다.

구글의 바드(Bard)는 클라우드 서비스에서 TPU(텐서 처리 장치) 칩을 탑재하고 있는데, 이는 구글의 계획에 정통한 소식통에 의해 확인됐다. 마이크로소프트는 GPU에서 실행될 가능성이 높은 Azure의 AI 슈퍼컴퓨터가 밀리초 단위 또는 검색 대기 시간 속도로 결과를 제공할 수 있다고 밝혔습니다.

이는 Google의 TPU와 GPU가 시장을 지배하는 AI 시장 리더인 Nvidia 사이의 AI 컴퓨팅 분야에서 매우 공개적인 전투를 시작합니다.

Dena는 "팀들은 전 세계적으로 기계와 데이터 센터에 전력을 공급하고 구축하는 작업을 하고 있었습니다. 우리는 복잡한 분산 리소스 세트를 신중하게 조정하고 구성했습니다. 우리는 로드 밸런싱, 성능 최적화 및 확장을 지원하도록 설계된 새로운 플랫폼을 구축했습니다."라고 Dena는 말했습니다. 출시 행사에 참석한 Microsoft의 Bing 제품 리더인 Saunders.

Microsoft는 OpenAI ChatGPT의 고급 버전을 사용하고 있습니다. Microsoft 이벤트에서 OpenAI CEO인 Sam Altman은 매일 100억 건의 검색어가 발생한다고 추정했습니다.

Microsoft가 AI를 통해 Bing을 향한 길은 자사가 세계에서 가장 빠른 5대 슈퍼컴퓨터 중 하나라고 주장하는 AI 슈퍼컴퓨터의 컴퓨팅 용량을 확보하는 것에서 시작되었습니다. 컴퓨터가 Top500 순위에 포함되어 있지 않습니다.

"우리는 AI 슈퍼컴퓨터를 참고했지만 그 작업에는 수년이 걸렸고 스택의 모든 계층에 가져올 수 있는 규모, 속도, 비용 유형을 구축하는 데 많은 투자가 필요했습니다. 제 생각에는 마이크로소프트의 수석 부사장이자 최고 재무 책임자인 에이미 후드(Amy Hood)는 지난주 투자자들과의 통화에서 “우리가 운영하는 규모는 상당히 차별화됐다”고 말했다.

후드는 슈퍼컴퓨터 계층의 AI 컴퓨팅 비용은 사용 규모와 최적화가 구현됨에 따라 시간이 지남에 따라 계속해서 낮아질 것이라고 말했습니다.

Hood는 "검색 거래당 비용은 규모가 커짐에 따라 낮아지는 경향이 있습니다. 물론 우리는 이를 수행할 수 있는 매우 강력한 플랫폼으로 시작하고 있다고 생각합니다."라고 말했습니다.

컴퓨팅 비용은 일반적으로 더 많은 GPU가 구현될수록 증가하며, 냉각 비용 및 기타 지원 인프라 비용도 추가됩니다. 그러나 기업은 일반적으로 수익을 컴퓨팅 비용과 연결합니다.

마이크로소프트의 AI 슈퍼컴퓨터는 오픈AI(OpenAI)와 협력해 구축됐으며 CPU 코어 28만5000개, GPU 1만개를 탑재했다. 지난 11월 Nvidia는 수만 개의 A100 및 H100 GPU를 Azure 인프라에 배치하는 계약을 체결했습니다.

Statcounter에 따르면 Microsoft의 Bing 검색 점유율은 1월에 93%의 시장 점유율을 기록한 Google 검색에 근접하지 않습니다.

인공지능은 근본적으로 추론과 예측 능력을 기반으로 하는 다른 컴퓨팅 스타일인 반면, 기존 컴퓨팅은 논리적 계산을 중심으로 진행됩니다. AI는 행렬 곱셈을 수행할 수 있는 하드웨어에서 수행되는 반면, 기존 컴퓨팅은 데이터 직렬 처리에 탁월한 CPU를 중심으로 이루어졌습니다.