C’est la prochaine frontière de la technologie ; c’est la plus grande étape humaine depuis Internet. Nous parlons d’IA (intelligence artificielle). L’IA existe depuis longtemps, toujours à mille pas de ce que nous voyons dans les films, mais elle a fait un énorme pas en avant avec l’introduction de l’IA générative. C’est une technologie incroyable, nous ne pouvons pas être en désaccord avec cela, mais elle n’est pas parfaite. L’IA présente de gros problèmes, et les plus importants en font une menace ou l’empêchent de devenir véritablement la prochaine plus grande réussite humaine.
Cela ne devrait pas surprendre; Qu’est-ce qu’une technologie majeure sans ses problèmes ? Le problème avec l’IA, en particulier l’IA générative, c’est qu’elle présente un énorme potentiel. Il y a beaucoup de potentiel pour le bien, mais il y a aussi du potentiel pour le mal. Ces problèmes mettent en évidence le potentiel de mal pour les individus inquiets parmi nous.
Maintenant, cet article s’applique à l’IA en général, mais l’accent sera mis sur l’IA générative. C’est la technologie qui, d’une certaine manière, a matérialisé les craintes persistantes que nous avions depuis des années – la catastrophe de SkyNet. Eh bien, il y a quelques années à peine, l’idée de quelque chose comme ChatGPT ressemblait à quelque chose que l’on verrait dans une série Star Trek ou un film MCU. Maintenant, c’est ici ; pas de fumée et de miroirs hollywoodiens.
Hallucinations
Cet article mettra en lumière certains des problèmes éthiques liés à l’IA, mais nous commencerons par un problème technique. La plupart du temps, lorsque vous utilisez l’IA, vos réponses seront basées sur une sorte de contenu existant. Le LLM puisera dans les informations déjà stockées en son sein. Si ChatGPT vous indique à quelle distance la Terre se trouve du soleil, il a dû apprendre cette information quelque part.
Cependant, il y aura des moments où le chatbot vous donnera une réponse créée à partir de rien. Imaginez si ChatGPT vous disait que la Terre est à 100 miles du soleil. Fondamentalement, cela a inventé ou halluciné cette réponse. Il s’agit d’un problème technologique majeur, et la plupart des gens ne réalisent pas à quel point cela pourrait être important. Bien sûr, un chatbot vous donnant une mauvaise réponse lors d’un devoir scolaire est gênant, mais réfléchissez à la raison pour laquelle les gens souhaitent utiliser l’IA dans un avenir proche.
Les entreprises souhaitent utiliser l’IA pour parcourir et résumer les documents des patients dans les hôpitaux, pour n’en nommer qu’un. Vous pouvez voir à quel point cela pourrait être un désastre. Les gens prévoient d’utiliser l’IA dans certaines applications commerciales et de santé cruciales. Vous avez besoin que les informations présentées soient exactes à 100 %.
Phénomène
Les hallucinations ne sont pas tant un problème qu’un phénomène. Ce problème n’affecte pas seulement ChatGPT ; cela affecte presque tous les principaux chatbots. Nous savons comment Bard de Google a halluciné le télescope James Webb lors de son dévoilement.
Nous ne parlons donc pas seulement du faux pas d’une entreprise, nous parlons de ce qui semble être un événement naturel dans l’IA générative. Les hallucinations sont l’un des plus gros problèmes de l’IA, et cela va être une épine dans le pied de l’IA pendant un certain temps.
L’impact sur le secteur de l’éducation
Dès l’instant où nous avons découvert que les chatbots pouvaient générer des dissertations, le cœur de chaque éducateur a fait un battement. Les chatbots comme Google, ChatGPT et la plupart des autres chatbots basés sur ChatGPT ont la capacité de rédiger un essai académique de niveau universitaire en quelques secondes. Les heures de recherche et d’écriture sont réduites au temps nécessaire pour prendre une gorgée de café.
Comme vous pouvez l’imaginer, de nombreux étudiants ont largement utilisé cette technologie pour suivre leurs cours. Ce qui aggrave les choses, c’est que ChatGPT est sorti alors que les étudiants étaient plongés dans leurs cours. Les enseignants ne pouvaient donc apporter aucun changement à leurs programmes. Nous pouvons parier que des centaines d’étudiants ont pu passer rapidement leurs examens finaux avec l’aide du professeur ChatGPT.
Bien entendu, cela pose un problème majeur au secteur de l’éducation. Non seulement les étudiants sont capables de tricher dans certains cours, mais les professeurs, les commissions scolaires et d’autres entités sont en désarroi et tentent de trouver comment gérer cette situation. Certains professeurs ont essayé d’utiliser des détecteurs de contenu IA, mais l’IA générative a progressé au point de devenir inefficace. La seule façon de savoir si un étudiant a rédigé sa dissertation est soit de le surprendre en flagrant délit, soit de le briser lors d’un interrogatoire sévère.
À mesure que l’IA générative devient plus intelligente et plus accessible, nous constatons qu’une grande partie de la jeune génération devient de plus en plus dépendante de la technologie. Nous devrons voir comment cela affectera le secteur de l’éducation dans les années à venir.
L’impact sur les créateurs
Les artistes, compositeurs et écrivains ont le droit d’avoir peur de l’IA générative. Lorsque DALL-E est sorti pour la première fois sur les étagères, les artistes ont un peu frissonné. Bien sûr, à cette époque, les images de l’IA étaient des cauchemars étranges et désordonnés que personne ne pouvait prendre au sérieux (oh, ces mains débiles !). Cependant, la technologie s’est améliorée et il est désormais difficile de faire la distinction entre ce qui est généré par l’IA ou créé par un humain.
Cela vaut également pour d’autres formes d’art. Il y a une chanson mettant en vedette The Weekend et Drake qui a été considérée pour un Emmy ; c’est généré par l’IA. Il existe une tonne de livres captivants et informatifs sur la boutique Amazon Kindle ; ils sont générés par l’IA. Il existe des vidéos avec d’excellentes voix off ; comme vous pouvez le deviner, ce sont des voix générées par l’IA.
À mesure que cette technologie s’améliore, les individus talentueux et expérimentés auront du mal à trouver du travail pour leur métier. « Pourquoi payer 200 $ à un artiste alors que je peux simplement le générer gratuitement dans DALL-E ? » « Pourquoi payer un compositeur alors que je peux simplement générer quelques pistes pour mon jeu vidéo ? »
C’est cette mentalité qui siphonnera l’argent et les emplois des mains des créateurs. Cela n’affectera pas encore les professionnels du secteur. Ne vous inquiétez pas, légende de la composition musicale Danny Elfman, la prochaine grande production hollywoodienne ne vous laissera pas passer pour l’IA. Cependant, les tâches de niveau inférieur qui seraient assurées par des créateurs de niveau inférieur seront confiées à l’IA. On ne sait pas quel effet cela aura sur les jeunes créateurs émergents qui tentent de faire carrière.
Le manque de réglementation
Assurez-vous d’avoir votre chapeau de 6 shooters et de 10 gallons, car c’est le Far West là-bas ! À l’heure actuelle, il n’existe aucune réglementation solide pour la technologie de l’IA. Les organismes gouvernementaux tentent toujours de déterminer si la récupération de données pour former des LLM est considérée comme une violation du droit d’auteur.
Un artiste peut-il poursuivre si quelqu’un utilise son image ? Eh bien, l’IA a été formée à l’aide de contenu accessible au public. Les chatbots sont formés à l’aide de publications sur les réseaux sociaux. Les créateurs des publications ont-ils droit à leurs publications ? Ils ne les ont pas protégés par copyright, donc ils devraient être un jeu gratuit… n’est-ce pas ? Une œuvre générée par l’IA peut-elle être nominée pour un prix ? Les livres générés par l’IA devraient-ils être interdits, même si les informations qu’ils contiennent sont exactes ?
C’est le type de questions auxquelles de nombreux organismes gouvernementaux tentent de répondre. Au moment de la rédaction de cet article, l’engouement pour l’IA générative existe depuis environ 10 mois. Cela peut paraître long, mais nous parlons d’organisations gouvernementales et de législateurs. Il faut énormément de temps à nos parents politiques pour réfléchir à tous les détails et élaborer des réglementations ; 10 mois, ce n’est pas suffisant.
Des méga-entreprises avides
L’un des plus gros problèmes de l’IA concerne les personnes qui la développent. Rien n’empêche les grandes entreprises de pousser trop loin leur technologie d’IA. Ne nous faisons pas d’illusions : lorsque les grandes entreprises technologiques parlent d’apporter des innovations en matière d’IA dans le but d’aider le monde, la plupart du temps, c’est un masque qui cache leurs véritables motivations. Il ne s’agit pas d’une course pour rendre l’humanité meilleure, mais d’une volonté de rendre les investisseurs heureux.
L’IA n’est qu’un autre champ de bataille industriel, et ces entreprises se battent pour garder une longueur d’avance et protéger leurs profits. Si l’IA de Meta fait mieux sur le marché, cela représente des dizaines de milliards de dollars perdus pour Google, OpenAI, Microsoft, etc. Si l’IA de Google fait mieux, cela signifie la même chose pour les autres entreprises. Rien n’empêche donc les entreprises de pousser l’IA trop loin dans le but de protéger leurs bénéfices, au risque de nuire à l’utilisateur final.
Escrocs, voleurs et autres sales types
L’IA est un outil comme un marteau ; cela peut aider à construire des structures étonnantes… mais cela peut aussi tuer. Tout dépend de la personne qui le manie. Il y a ceux qui utilisent l’IA pour des raisons constructives ou simplement pour le plaisir, mais il y a ceux qui l’utilisent pour leurs plans sournois.
À l’heure actuelle, sur Internet, il existe une tonne de sites Web créés entièrement ou partiellement à l’aide de l’IA. Ce sont des fermes de contenu qui crachent des articles générés par l’IA afin de récolter des revenus publicitaires. Il existe des escroqueries sur Internet qui utilisent des textes publicitaires créés avec l’IA et des images créées par l’IA. Les chatbots peuvent générer du code ; rien n’empêche les gens de l’utiliser pour générer des logiciels malveillants nuisibles.
Il existe une flotte de salauds qui ne souhaitent utiliser l’IA que pour leur propre gain ou pour propager le mal. Ils existaient avant l’explosion de l’IA, bien sûr, mais l’IA leur a simplement donné un énorme gain de puissance. Malheureusement, ils font d’Internet un endroit beaucoup plus dangereux.
Les plus gros problèmes de l’IA sont son frein
Il y a encore un long chemin à parcourir en matière de sécurité de l’IA. Si l’IA veut nous faire avancer comme le prétendent les entreprises, alors nous devons trouver une solution à ces problèmes. Cependant, certains de ces problèmes ne dépendent pas des sociétés d’IA ; certains d’entre eux dépendent des personnes qui utilisent la technologie de l’IA. Seul le temps nous dira jusqu’où l’IA peut nous mener face à ces problèmes.
