Utilizando Gemini: ¿a través de Vertex AI o mediante Google/generative-ai?

Resuelto Omar Saade asked hace 54 años • 0 respuestas

Estoy en el proceso de desarrollar una aplicación de chatbot y estoy explorando opciones para integrar Gemini, un modelo de lenguaje grande (LLM).

Estoy considerando si utilizar Vertex AI (@google-cloud/vertexai) para la integración o incorporar directamente Gemini (@google/generative-ai)

google-cloud/vertexai:

https://cloud.google.com/vertex-ai/docs/generative-ai/start/quickstarts/quickstart-multimodal

google/generativo-ai:

https://ai.google.dev/tutorials/node_quickstart .

Dado que Gemini es un LLM y Vertex AI es una plataforma, busco información sobre qué enfoque podría ser más adecuado para mi proyecto. Cualquier recomendación o consideración será muy apreciada.

Omar Saade avatar Jan 01 '70 08:01 Omar Saade
Aceptado

Gemini es un modelo de lenguaje grande como usted especificó. Puede usarlo (a través de llamadas API) llamando a las API de Google AI o a las API de Vertex AI.

Si es relativamente nuevo en Gemini y desea explorar la función y crear algún prototipo para su aplicación de chatbot, las API de IA de Google (con Google AI Studio) son una forma rápida de comenzar. Mientras su aplicación e idea maduran y le gustaría aprovechar más herramientas MLOps que agilizan el uso, la implementación y el monitoreo de modelos, puede pasar a Google Cloud Vertex AI, que proporciona API de Gemini junto con muchas otras funciones. Básicamente, para ayudarte a producir tu aplicación.

Dependiendo de los requisitos de su aplicación y las etapas de su desarrollo, puede elegir la ruta:

  • Comience con Google AI Studio y migre la aplicación Gemini a Vertex AI
  • Crea prototipos y construye con Vertex AI si ya tienes GCP establecido.

Preste atención a las diferencias entre Google AI y Vertex AI al tomar una decisión.

Gang Chen avatar Feb 16 '2024 15:02 Gang Chen