Comme vous le savez peut-être, l'IA est une activité coûteuse. Il faut des sommes astronomiques pour sécuriser les GPU, développer des outils et les entretenir. L'un des coûts les plus importants est la formation des modèles d'IA qui alimentent notre monde de l'IA. Selon le PDG d'Anthropic AI, la formation des modèles d'IA devient de plus en plus coûteuse.
Toute personne souhaitant développer sa propre startup d'IA devra accepter le fait qu'il lui faudra des millions, voire des milliards, pour démarrer. En effet, développer un modèle d'IA n'est pas une mince affaire.
Lors d'un récent épisode du podcast In Good Company, le PDG d'Anthropic AI, Dario Amodei, a évoqué certains des coûts associés à l'IA. Au cours du podcast, il a mentionné qu'il avait fallu 100 millions de dollars rien que pour former le modèle GPT-4o. Ce n'est qu'un seul modèle. Cela ne devrait pas surprendre, car OpenAI a dépensé 520 millions de dollars l'année dernière.
La formation des modèles d’IA devient de plus en plus coûteuse
À moins que vous n’ayez pas fait d’épicerie ou essayé d’acheter quoi que ce soit au cours des deux dernières années, vous savez que les prix augmentent ! Eh bien, la formation des modèles d’IA n’est pas très différente. À l’heure actuelle, des entreprises comme Google, OpenAI, Anthropic, Perplexity, Meta, xAI, etc. investissent de l’argent dans la formation de leurs derniers et meilleurs modèles. Bien que nous ne sachions pas combien d’argent chaque entreprise dépense, nous pouvons supposer qu’elles paient dans l’ordre de plusieurs centaines de millions de dollars.
Amodei a déclaré lors du podcast que des modèles dont la formation coûte 1 milliard de dollars sont en cours d'élaboration. Selon lui, cela ne devrait pas prendre plus de quelques années. Il a même évoqué des modèles dont la formation coûte 10 milliards, voire 100 milliards de dollars.Actuellement, 100 millions. Il y a des modèles en formation aujourd'hui qui sont plutôt de l'ordre d'un milliard… Je pense que si nous passons à dix ou cent milliards, et je pense que cela se produira en 2025, 2026, peut-être 2027, » il a dit, « nous pourrons obtenir des modèles qui seront meilleurs que la plupart des humains dans la plupart des domaines.”
Qu'est-ce que cela signifie pour l'IA en général ? Cela pourrait signifier l'IA générale. À l'heure actuelle, les entreprises se battent pour atteindre l'AGI (intelligence artificielle générale). Il s'agit d'une IA plus intelligente qu'un être humain à tous égards. La plupart des experts du secteur pensent que nous serons en mesure d'atteindre l'AGI au cours de la prochaine décennie. Lorsque cela se produira, nous ne pouvons qu'imaginer combien d'argent il faudra pour la former et la maintenir.
