Le monde de l'intelligence artificielle est rarement ennuyeux. Un développement récent impliquant Openai et le New York Times le prouve. Openai, le créateur de Chatgpt, est actuellement enfermé dans une lutte juridique qui pourrait avoir des implications importantes pour la confidentialité des utilisateurs et comment les entreprises d'IA gèrent nos données. Au cœur de tout cela se trouve une ordonnance du tribunal exigeant que la société enregistre indéfiniment les journaux de chaque conversation de chatppt.
Openai Appeals Court Ordonnance Forcer la société à enregistrer les journaux de chat ChatGpt
La trame de fond commence en décembre 2023. Cette année-là, le New York Times a déposé une plainte pour violation du droit d'auteur contre Openai et Microsoft. Le journal allègue qu'Openai a illégalement utilisé des millions de ses articles protégés par le droit d'auteur pour former ses modèles d'IA. Surtout, le Times affirme que le chatbot de l'IA régurgite parfois des morceaux verbatim de leur contenu ou même «hallucine» des articles qui leur sont attribués. Cette pratique aurait sapé les affaires du point de vente, selon le procès.
Pour suivre ces violations présumées, le tribunal a émis une ordonnance de balayage: OpenAI doit enregistrer indéfiniment tous les journaux de chat utilisateur de ChatGPT et le contenu du client API. Le raisonnement du juge? Pour empêcher toute suppression potentielle de preuves.
Raisons données par Openai
Cette décision n'a pas bien baissé avec Openai, ce qui fait maintenant appel à la décision. Leurs arguments contre la rétention des données indéfinis sont solides et multiples.
Premièrement, Openai soutient que cette commande est une violation majeure de la confidentialité des utilisateurs. Ils soutiennent que les forcer à stocker indéfiniment de grandes quantités de données de chat personnelles et potentiellement sensibles en conflit directement avec leurs engagements de confidentialité envers les utilisateurs. Le PDG d'OpenAI a déclaré publiquement que cette décision «compromet la confidentialité des utilisateurs et établit un mauvais précédent«Pour l'industrie. Sam Altman souligne que l'ordre est«trop large»Et manque de garanties suffisantes pour protéger les informations des utilisateurs contre une utilisation abusive potentielle.
Deuxièmement, la société met en évidence le fardeau technique et logistique disproportionné que cet ordre imposerait. Imaginez le volume des données impliquées dans chaque conversation Chatgpt dans le monde, stockée pour toujours. OpenAI affirme que la gestion et le stockage de ces ensembles de données massifs seraient un défi important. La tâche Titanic pourrait éloigner les ressources cruciales de leurs principaux efforts de recherche et développement. Ils ont même proposé une approche d'échantillonnage aléatoire de la préservation des données, mais le New York Times l'a jugé peu pratique.
Un procès «sans fondement», réclame l'entreprise
En outre, Openai considère le procès lui-même comme «sans fondement». L'entreprise considère la demande de préservation des données comme «de balayage et inutile», basée uniquement sur la spéculation. Ils soutiennent que la rétention indéfinie des données va à l'encontre des normes standard de l'industrie. La mesure potentielle va également à l'encontre des propres politiques d'Openai qui impliquent généralement la suppression automatique des données de chat dans une certaine période (par exemple, 30 jours pour les chats supprimés). Il convient de noter que cette commande s'applique aux utilisateurs de consommateurs (gratuits, plus, pro, équipe) et des utilisateurs d'API (sans accords spécifiques «zéro rétention de données»). La décision exclut les clients de ChatGpt Enterprise et Edu.
Ce cas met en lumière les complexités évolutives de l'IA, du droit d'auteur et de la confidentialité des utilisateurs à l'ère numérique. L'appel d'Openai souligne leur engagement à contester ce qu'ils considèrent comme une excession excessive qui pourrait avoir un impact sur les attentes fondamentales de la confidentialité des utilisateurs de l'IA partout. Nous garderons les yeux ouverts pour de nouveaux développements pertinents qui surviennent dans cette affaire.
