L'IA générative fait beaucoup parler d'elle de nos jours, mais elle suscite également beaucoup de craintes. En effet, elle est susceptible de causer des dommages majeurs si elle tombe entre de mauvaises mains. Selon un nouveau rapport, l'IA d'OpenAI ne devrait vous inquiéter que modérément. GPT-4o présente un risque moyen.
OpenAI, soutenu par Microsoft, a récemment fait parler de lui en raison de sa nouvelle équipe de sécurité. Auparavant, l'équipe était composée de membres extérieurs à l'entreprise, ce qui est la meilleure solution. De cette façon, les gens peuvent évaluer les protocoles de sécurité avec un esprit impartial. Cependant, la nouvelle équipe de sécurité est composée de membres de l'entreprise. Il est un peu difficile de faire confiance aux opinions des personnes liées à l'entreprise.
Le GPT-4o présente un risque moyen
OpenAI vient de publier la fiche système de GPT-4o. Il s'agit en fait d'un bulletin d'information rempli d'informations sur la manière dont l'entreprise assure la sécurité de son modèle. Il décrit les mesures de sécurité et les risques.
Selon la carte, GPT-4o a obtenu un score de risque moyen. Ce n'est pas aussi grave qu'il y paraît. La sécurité du modèle a été évaluée dans quatre domaines : la persuasion, la cybersécurité, les menaces biologiques et l'autonomie du modèle. Le modèle a reçu un score de risque faible sur les trois derniers. Quant à la persuasion, le modèle a obtenu un score moyen. Étant donné que le score global est défini par le score le plus élevé de n'importe quel domaine, le modèle a un score global moyen.
Qu'est-ce que cela signifie ? Il y a des moments où ce modèle peut produire un texte plus convaincant que le texte écrit par un humain. C'est effrayant, car les gens peuvent utiliser le texte écrit par ChatGPT pour tromper les masses à leurs propres fins. C'est donc un problème que l'entreprise va devoir résoudre.
Pouvons-nous faire confiance à cela ?
La question ici est de savoir si nous pouvons ou non faire confiance à cette évaluation. Encore une fois, elle a été principalement donnée par une équipe interne. Peu importe à quel point l'entreprise revendique sa responsabilité, nous ne pouvons pas ignorer ce fait. Peu importe la qualité d'un étudiant, vous serez un peu sceptique s'il note lui-même son test de mathématiques.
