L'entrée de Deepseek dans le segment de l'intelligence artificielle n'a pas été sans controverse. Cela est normal étant donné que nous parlons d'une entreprise axée sur l'IA dont la simple disponibilité a fait baisser les grandes entreprises technologiques comme Nvidia à Wall Street. L'une des préoccupations concerne le chatbot qui «bloque» potentiellement les réponses aux problèmes épineux concernant la Chine. Eh bien, une nouvelle étude confirme que Deepseek IA fait, en fait, censure ses réponses à la plupart de ces invites.
La popularité croissante de Deepseek et sa relation directe avec Pékin mettent des experts et les autorités américains en alerte. Les États-Unis ont déjà pris de graves mesures contre Tiktok pour, entre autres, des manipulations potentielles dans les algorithmes de recommandation qui pourraient être utilisés pour influencer les jeunes. Les autorités craignent désormais un niveau de contrôle ou de censure similaire dans les résultats de Deepseek.
Deepseek AI censure 85% des questions liées aux «sujets sensibles» pour la Chine
Apparemment, des sujets épineux pour le gouvernement chinois, tels que les manifestations sociales, le massacre de la place Tiananmen, le statut de Taiwan, ou la similitude de Xi Jinping à Winnie l'Ourson que beaucoup prétendent voir, ne peut pas être discuté par le chatbot Deepseek. Actuellement, le service est disponible à la fois sur le site Web de l'entreprise et en tant qu'applications Android / iOS. En fait, le week-end dernier a vu Deepseek devenir l'application gratuite la plus téléchargée sur l'App Store d'Apple, dépassant Chatgpt.
La startup de cybersécurité AI PromptFoo a expérimenté le modèle R1 de Deepseek. Si vous ne le savez pas, R1 est un modèle qui se concentre sur le «raisonnement», ce qui le rend idéal pour les tâches complexes. Il cherche à rivaliser directement avec le modèle Openai O1, dont l'approche est similaire. Interfoo lui a posé 1 360 questions concernant ce qu'elle appelle des «problèmes sensibles» pour le gouvernement chinois. Les résultats ont montré que Deepseek a refusé de répondre à 85% du temps.
Interfoo a également découvert que le modèle Deepseek est vulnérable aux jailbreaks. Cela pourrait être une mesure prise par le gouvernement chinois pour manipuler les résultats s'ils en ont besoin. Les chercheurs ont même noté un «ton nationaliste exagéré«Lorsque vous parlez de Chine.
Auparavant, les experts et les responsables américains ont mis en garde contre la confidentialité potentielle des utilisateurs et les risques de sécurité nationale liés à Deepseek. Maintenant, il semble clair que la Chine peut interférer avec les résultats de la plate-forme AI.
