OpenAI a un concurrent majeur dont le nom commence par la lettre « G ». Cependant, nous ne parlons pas de Google. Une nouvelle société nommée Groq vient de faire son apparition avec son puissant modèle d’IA. Bien que cette société soit nouvelle aux yeux du public, elle présente certainement certains aspects notables qui en font une force avec laquelle il faut compter.
Cette entreprise est nouvelle pour la plupart des gens, mais elle existe en réalité depuis près de huit ans. La société a été fondée en 2016, la même année que la création d’OpenAI. Depuis sa création, elle a travaillé dur pour développer son modèle afin de faire avancer la technologie de l’IA. Maintenant que l’IA générative existe depuis plus d’un an, il est temps qu’elle lance ses puces.
Groq est le nouveau modèle d’IA sur la scène, et il est puissant
Il existe aujourd’hui une multitude d’outils d’IA, mais il n’existe pas beaucoup de modèles d’IA. Google a ses modèles d’IA avec OpenAI, X Corp d’Elon Musk, Anthropic AI, Amazon, Apple et Meta. De nombreux outils d’IA sont alimentés par ces modèles.
Le modèle le plus récent sur la scène s’appelle Groq et provient d’une société du même nom. La société est devenue un succès du jour au lendemain lorsqu’elle a publié une démonstration rapide de la rapidité fulgurante de son modèle. Une vidéo publiée par Matt Schumer, PDG d’OtherSide AI, a montré le modèle Groq générant plusieurs paragraphes de texte en l’espace d’une seconde. C’est quelque chose qui prendrait environ 10 à 20 secondes à ChatGPT pour être généré.
La société affirme que Groq peut générer jusqu’à 500 jetons par seconde. Pour mettre cela en perspective, GPT 3.5 peut générer environ 40 jetons par seconde, selon le rapport. C’est 12,5 fois plus rapide.
côte à côte Groq vs GPT-3.5, une expérience utilisateur complètement différente, un changement de jeu pour les produits nécessitant une faible latence pic.twitter.com/sADBrMKXqm
-Dina Yerlan (@dina_yrl) 19 février 2024
Groq pourrait bouleverser le marché des GPU
L’une des caractéristiques les plus remarquables de Groq réside dans les puces spéciales qu’il utilise pour entraîner son modèle d’IA. Toutes les grandes sociétés d’IA utilisent de puissants GPU pour entraîner leurs modèles. C’est l’une des raisons pour lesquelles Nvidia n’est pas l’une des entreprises les plus valorisées au monde. Cependant, Groq n’utilise pas de GPU. Au lieu de cela, la société utilise ses propres puces personnalisées appelées LPU. Cela signifie Unité de Traitement du Langage.
La société a développé ces puces, il semble donc qu’elles soient largement conçues autour de l’IA. Nous ne savons pas exactement combien de ces puces l’entreprise utilise, mais si Groq est capable de surpasser ChatGPT en termes de vitesse, alors l’entreprise doit en utiliser une bonne quantité.
Si vous souhaitez utiliser Groq, vous pouvez vous rendre sur le site officiel de Groq pour l’essayer. Comme avec n’importe quel chatbot IA, vous devrez faire attention aux informations qu’il produit.
