Nous sommes arrivés à un point où nous ne pouvons plus vraiment faire confiance aux entreprises d’IA, mais nous devons reconnaître le mérite des entreprises qui font des efforts. Si OpenAI a certainement ses secrets, la start-up spécialisée dans l’IA fait au moins des efforts pour gagner la confiance du public. Selon un nouveau rapport, OpenAI s’est engagé à donner à l’AI Safety Institute un accès anticipé à son dernier modèle.
Différents pays développent des divisions dédiées à l'analyse de l'IA et à l'atténuation des dangers potentiels. Aux États-Unis, l'une d'entre elles s'appelle AI Safety Institute. Il s'agit d'une division chargée de s'assurer que l'IA ne cause aucun préjudice aux personnes. C'est une division relativement nouvelle, qui est bien placée pour devenir une entité pivot dans le secteur de l'IA à l'avenir.
OpenAI donnera à l'Institut américain de sécurité de l'IA un accès anticipé à son dernier modèle
OpenAI donnera à l'AI Safety Institute un accès anticipé à son dernier modèle de base. C'est un grand pas en avant. L'une des principales choses que tous les organismes gouvernementaux souhaitent est que les entreprises d'IA soient transparentes avec elles et les informent de ce sur quoi elles travaillent. Il est tout à fait possible qu'une entreprise lance un produit qui cause des dommages réels. Parfois, il peut être difficile, voire impossible, de revenir en arrière.
Dans un article publié par le PDG d'OpenAI, Sam Altman, nous apprenons que l'entreprise lui donne accès à son dernier modèle de base. Cependant, l'article ne mentionne pas de quel modèle il s'agit, nous ne savons donc pas s'il s'agit d'un accès anticipé à un modèle révolutionnaire ou à un modèle destiné à des applications plus petites.
De plus, le post mentionne qu'il ne s'agit que du prochain modèle. Nous ne savons pas si la société va fournir un accès anticipé aux futurs modèles. Dans tous les cas, c'est toujours une grande étape à franchir.
L'entreprise prend d'autres mesures
Dans son message, Altman a également déclaré que l'entreprise allait consacrer 20 % de ses ressources informatiques à ses efforts de sécurité dans l'ensemble de l'entreprise. C'est une bonne nouvelle à entendre car il y a eu récemment des drames autour des efforts de sécurité de l'entreprise. Il a été rapporté que l'entreprise détournait des ressources de son équipe de sécurité. Cependant, OpenAI a ensuite développé une nouvelle équipe en interne.
