Utilizando Gemini: ¿a través de Vertex AI o mediante Google/generative-ai?
Estoy en el proceso de desarrollar una aplicación de chatbot y estoy explorando opciones para integrar Gemini, un modelo de lenguaje grande (LLM).
Estoy considerando si utilizar Vertex AI (@google-cloud/vertexai) para la integración o incorporar directamente Gemini (@google/generative-ai)
google-cloud/vertexai:
https://cloud.google.com/vertex-ai/docs/generative-ai/start/quickstarts/quickstart-multimodal
google/generativo-ai:
https://ai.google.dev/tutorials/node_quickstart .
Dado que Gemini es un LLM y Vertex AI es una plataforma, busco información sobre qué enfoque podría ser más adecuado para mi proyecto. Cualquier recomendación o consideración será muy apreciada.
Gemini es un modelo de lenguaje grande como usted especificó. Puede usarlo (a través de llamadas API) llamando a las API de Google AI o a las API de Vertex AI.
Si es relativamente nuevo en Gemini y desea explorar la función y crear algún prototipo para su aplicación de chatbot, las API de IA de Google (con Google AI Studio) son una forma rápida de comenzar. Mientras su aplicación e idea maduran y le gustaría aprovechar más herramientas MLOps que agilizan el uso, la implementación y el monitoreo de modelos, puede pasar a Google Cloud Vertex AI, que proporciona API de Gemini junto con muchas otras funciones. Básicamente, para ayudarte a producir tu aplicación.
Dependiendo de los requisitos de su aplicación y las etapas de su desarrollo, puede elegir la ruta:
- Comience con Google AI Studio y migre la aplicación Gemini a Vertex AI
- Crea prototipos y construye con Vertex AI si ya tienes GCP establecido.
Preste atención a las diferencias entre Google AI y Vertex AI al tomar una decisión.