[AI 도구] 구글 클라우드 버텍스 AI(Vertex AI) 업데이트 대거 발표!

안녕~!

이노리예요🙃

 

출처_ Google, Logowik

 

구글 클라우드가 자사의 기업용 AI 플랫폼 버텍스 AI(Vertex AI)의 모델과

엔터프라이즈 기능 업데이트를 대거 발표했다는 소식을 듣고 이노리가 왔슴돠~

 

버텍스 AI

 

구글 클라우드의 Vertex AI는 머신러닝(ML) 솔루션을 구축, 배포하는데 필요한

포괄적인 도구와 서비스 모음을 제공하는 플랫폼입니다.

Vertex AI는 데이터 과학자와 ML 엔지니어가 속도를 내고 배포할 수 있도록 지원하며,

여러 단계를 거치고 통합한다고 합니다.

반응형

버텍스 AI의 기능

 

1. 모델 조정

2. 증강

3. 커스터마이징

4. 확장성

5. 신뢰성

6. 보안

 

위 기능들을 AI가 제공하는 혁신적인 기능을 바탕으로 강력한 AI 에이전트(AI agent)를 더 빠르게 구축할 예정이라고 해요.

버텍스 AI의 옵션 제공

 

• AutoML을 사용하면 코드를 작성하거나 데이터 분할을 준비하지 않고도 테이블 형식, 이미지, 텍스트 또는 동영상 데이터를 학습시킬 수 있습니다.
• 커스텀 학습을 사용하면 선호하는 ML 프레임워크 사용, 자체 학습 코드 작성, 초매개변수 조정 옵션 선택 등 학습 프로세스를 완벽하게 제어할 수 있습니다.
• Model Garden을 사용하면 Vertex AI를 검색, 테스트, 맞춤설정 및 배포하고 오픈소스(OSS) 모델 및 애셋을 선택할 수 있습니다.
• 생성형 AI는 여러 모달(텍스트, 코드, 이미지, 음성)에 대한 Google의 대규모 생성형 AI 모델에 대한 액세스를 제공합니다. 필요에 맞게 Google의 LLM을 조정한 후 AI 기반 애플리케이션에서 사용하도록 배포할 수 있습니다.

 

출처_ blog.google

 

시장을 선도하는 비용 효율성과 저지연 갖춘 제미나이 1.5 플래시 구글 클라우드는

지난 5월 프리뷰 버전으로 선보였던 제미나이 1.5 플래시(Gemini 1.5 Flash)를 공식 출시했는데요!

 

제미나이 1.5 플래시는 짧은 지연 시간과 가격 경쟁력, 100만 토큰 컨텍스트 윈도우(context window)를 결합해

리테일 기업의 채팅 에이전트부터 문서 처리, 전체 데이터를 통합 분석할 수 있는 리서치 에이전트에 이르기까지

대규모 사례에 광범위하게 사용될 수 있다고 합니다.

출처_ 블록미디어

 

특히 제미나이 1.5 플래시는 성능, 지연 시간, 비용 효율성 면에서 GPT-3.5 터보(GPT-3.5 Turbo)를 비롯한 동급 모델 대비 강력한 이점을 제공하며 많은 고객의 선택을 받고 있다고 합니다.

 

제미나이 1.5 플래시는 GPT-3.5 터보 대비 60배가량 더 긴 100만 개의 토큰 컨텍스트 윈도우를 제공하며, 1만 자 입력 기준 평균 40% 더 빠른 속도를 자랑함과 동시에 3만 2천 자 이상 입력 시 컨텍스트 캐싱(context caching) 기능으로

GPT-3.5 터보 대비 입력 비용을 최대 4배 절감시켜 준다고 해요!

출처_ 테크레시피

 

구글 클라우드는 버텍스 AI에서 제공되는 엄선된 자사 모델과 오픈 모델, 타사 모델 제품군을 통해

고객에게 선택권과 혁신을 지원하는 데도 최선을 다하고 있다고 하는데요.

 

최근에는 앤트로픽(Anthropic)이 새롭게 출시한 클로드 3.5 소넷(Claude 3.5 Sonnet)을 버텍스 AI에 추가해

고객이 구글 클라우드 환경에서 클로드 3.5 소넷으로 테스트를 진행하거나 운영 환경에 배포할 수 있다고 합니다.

출처_ AI 타임스

 

올 하반기에는 미스트랄(Mistral)과의 파트너십 또한 한층 강화하며 미스트랄 스몰(Mistral Small), 미스트랄 라지(Mistral Large), 미스트랄 코드스트랄(Mistral Codestral)을 버텍스 AI의 모델 가든(Model Garden)에서 제공할 예정이라고 하니 기대가 됩니다!