Open AI, l’une des sociétés leader dans le domaine de l’IA générative, est aujourd’hui confrontée à un vent contraire. Pendant que cette saga se poursuit, la société Anthropic a apporté quelques améliorations à son concurrent ChatGPT. L’entreprise a dévoilé Claude 2.1, la prochaine génération par rapport à Claude 2.0. Cette mise à jour apparemment itérative apporte des améliorations massives au chatbot IA, selon un nouveau rapport. Cela pourrait être l’occasion pour l’entreprise de dépasser OpenAI alors qu’elle se remet sur pied.
Si vous êtes curieux de savoir ce qui se passe chez OpenAI, vous pouvez lire à ce sujet ainsi que notre éditorial, OpenAI Situation : Que se passe-t-il. Il montre une chronologie du drame qui se déroule actuellement dans l’entreprise.
Anthropic vient de dévoiler Claude 2.1, et il apporte des améliorations massives
Un sujet majeur dans les chatbots IA est le nombre de tokens pouvant être traités. Un jeton est un extrait de mot que le chatbot peut analyser et comprendre. Chaque fois que vous tapez dans une zone de texte de chatbot, vous utilisez quelques-uns des jetons que le chatbot peut comprendre.
Les chatbots, tout comme les êtres humains, ne peuvent traiter qu’une certaine quantité d’informations à la fois. Selon l’entreprise, Claude 2.1 peut désormais comprendre jusqu’à 200 000 tokens. Cela équivaut à environ 150 000 mots. Donc, si vous le souhaitez, vous pouvez coller un roman entier (enfin, un court roman) dans Claude, et vous pouvez poser une question basée sur chaque élément d’information présent dans ce roman.
C’est extrêmement pratique si vous en avez besoin pour analyser des documents longs et compliqués. Très probablement, vos requêtes ne contiendront généralement pas 150 000 mots. Cependant, l’important est d’en avoir la possibilité.
Claude 2.1 améliore non seulement les informations que vous saisissez, mais il améliore également les informations qui en sortent. Les hallucinations sont un problème majeur pour les chatbots IA. Lorsqu’un chatbot hallucine, il vous donne une mauvaise réponse en créant des informations apparemment sorties de nulle part.
Eh bien, Claude 2.1, selon l’entreprise, réduit de moitié le nombre d’hallucinations par rapport à Claude 2.0. Comme pour tout chatbot, il est toujours recommandé de revérifier les informations générées. Claude 2.1 est deux fois plus susceptible de vous dire qu’il ne connaît pas de réponse plutôt que de simplement en halluciner une. Parallèlement à cela, le chatbot est capable de fournir des réponses 30 % plus précises.
Anthropic avertit les utilisateurs que les requêtes plus longues et plus complexes nécessiteront plus de temps de traitement de la part du chatbot. Avec l’augmentation du nombre de jetons, les utilisateurs sont susceptibles d’utiliser des requêtes beaucoup plus longues. Le chatbot peut prendre plusieurs minutes pour traiter une seule réponse. Ainsi, si vous téléchargez un document de dossier entier et demandez à Claude de l’analyser, n’actualisez pas la page si le traitement est toujours en cours après quelques minutes.
De nouveaux outils de développement arrivent également sur Claude.
Si vous utilisez ce chatbot pour des raisons plus solides, l’entreprise dispose de quelques outils utiles qui vous aideront à répondre à vos besoins de développeur. Pour commencer, une nouvelle console Workbench est disponible pour les développeurs. Selon l’entreprise, cela leur permettra de peaufiner leurs invites dans une « expérience de style terrain de jeu et d’accéder à de nouveaux paramètres de modèle pour optimiser le comportement ».
Une autre fonctionnalité est appelée Utilisation de l’outil et permet à Claude « de s’intégrer aux processus, produits et API existants des utilisateurs ». Il pourra utiliser des services et des outils provenant d’autres sources pour créer une expérience utile complète. Ces outils sont en version bêta, vous devez donc vous attendre à des bugs et à une instabilité avec ces fonctionnalités. Cependant, c’est tout simplement normal. Dans tous les cas, il est toujours recommandé de donner à l’entreprise les commentaires appropriés pour l’aider à améliorer cela.
