Tout le monde dans l'industrie de l'IA connaît la relation symbiotique entre Microsoft et OpenAI. Le premier utilise les modèles d’IA du second pour alimenter sa suite d’outils d’IA. Cela ne veut pas dire que Microsoft ne dispose pas de ses propres modèles d’IA. Selon le rapport, Microsoft travaille sur un nouveau LLM nommé MIA-1, destiné à rivaliser avec les meilleurs modèles du marché.
Microsoft, tout comme Google, est une entreprise de très grande envergure. À ce titre, les deux sociétés ont introduit plusieurs modèles linguistiques à des fins différentes. Par exemple, le modèle Gemma de Google est suffisamment petit pour tenir sur un ordinateur. De plus, le modèle Phi-3 de Microsoft est également un peu plus petit et très spécialisé.
Microsoft pourrait travailler sur un grand LLM nommé MIA-1
Microsoft dispose déjà d'une tonne de puissance à portée de main avec les modèles OpenAI. Cependant, Microsoft est un grand garçon ; il peut créer son propre LLM. L'entreprise cherche à créer un modèle suffisamment grand pour rivaliser avec les meilleurs modèles du marché.
Baptisé MIA-1, ce modèle aurait potentiellement jusqu'à 500 milliards de paramètres. A titre de comparaison, le Phi-3 Mini possède 3,8 milliards de paramètres. Cela va donc être à une échelle beaucoup plus grande.
Nous n'en savons pas beaucoup plus sur les capacités de ce modèle. Cependant, nous savons que Microsoft a fait appel à l’un des esprits les plus brillants de l’IA pour diriger le développement. La société a demandé à Mustafa Suleyman de superviser le développement de MIA-1. Suleyman est l'un des co-fondateurs de Google Deepmind et il est un ancien PDG d'Inflection, une startup d'IA.
Microsoft a développé de grands serveurs avec une tonne de GPU Nvidia pour aider à construire ce modèle. Nous ne savons pas combien, mais nous savons que c'est un montant important. À l’heure actuelle, les informations sur MIA-1 sont encore rares. Nous ne savons pas si l'entreprise envisage de l'utiliser en remplacement des modèles OpenAI. Si oui, qu’adviendra-t-il de leur partenariat ? Nous devrons simplement le découvrir au fur et à mesure que cette histoire se déroule.
