IA et IA Générative sur Google Cloud: les annonces de Next 2023
L’IA et particulièrement l’IA Générative a été au centre de tous les échanges de cette édition Google Cloud Next 2023. Il est encore plus aisé d’accéder à des infrastructures performantes pour entrainer à très grande échelle des modèles très larges. Parmi les annonces marquantes je retiens notamment:
- Le renforcement du partenariat avec NVIDIA et l’arrivée des VMs A3 basées sur les GPUs NVIDIA H100, supportés également dans GKE.
- De belles évolutions au niveau des TPUs avec l’arrivée d’une nouvelle génération de TPU v5e, leur disponibilité dans GKE, le multislice, l’inférence sur TPU
- Vertex AI sur Google Distributed Cloud Hosted offre de nombreux modèles pré-entrainés ainsi que Workbench
Côté plateforme, Vertex AI devient une véritable plateforme pour l’IA générative, avec de belles nouveautés autours des modèles fondation, en particulier:
- L’ajout de 3 nouveaux modèles fondation first party
- Codey (text-to-code) accompagne les développeurs avec la complétion de code, génération de code et la capacité de chatter pour accompagner le développement
- Imagen (text-to-image) pour générer des images personnalisables et supportant le watermarking digital
- Chirp (speech-to-text) pour mieux engager les clients dans leur langue native
- Update de PALM 2 qui supporte maintenant 38 langues et jusqu’à 32k tokens
- L’ajout de modèles third-party open source comme Llama 2 ou Claude 2. Il y a maintenant plus de 100 LLM dans Model Garden !
Très intéressant également la possibilité de gérer facilement, parfois sans coder, des cas d’usages courants comme les chatbots ou des moteurs de recherche personnalisés avec Vertex AI Search and Conversation intégrant entre autres le Grounding, les citations et des contrôles d’accès niveau entreprise.
Les workflows ML, notamment ceux centrés sur Gen AI, sont facilités avec API Vertex AI Embeddings et le RLHF, Colab Entreprise et de Ray sur Vertex AI
Retrouvez l’ensemble des 161 nouveautés annoncées à Google Cloud Next 2023 ici
