L’IA générative est encore relativement nouvelle par rapport à la plupart des technologies qui font fonctionner notre monde. Ses effets potentiels à grande échelle restent donc une énigme. C’est pourquoi nous ne le voulons pas autour d’un organisme gouvernemental majeur… Quoi qu’il en soit, OpenAI vient de signer un contrat avec un organisme gouvernemental majeur. Selon des sources, OpenAI a signé un contrat avec le département américain de la Défense (DOD).
Le contrat OpenAI DOD n’est pas aussi effrayant qu’il y paraît
Cependant, vous pouvez arrêter de chercher « Comment construire un bunker nucléaire » sur Google. Le gouvernement ne confie pas à ChatGPT la responsabilité de l’armée nationale ou des gros missiles. Il sera utilisé pour des raisons de cybersécurité. Nous ne savons pas exactement quel logiciel le DOD va utiliser. Nous ne savons pas s’il utilisera GPT-4 ou si OpenAI va développer un modèle spécialisé pour ces utilisations.
Quoi qu’il en soit, le contrat doit contribuer à renforcer la cybersécurité du pays. OpenAI prêtera ses logiciels pour aider à développer des outils de cybersécurité open source. Donc pas de missiles, heureusement. De plus, cette technologie sera utilisée pour participer au DARPA AI Cyber Challenge. Il s’agit d’un concours permanent destiné aux informaticiens, aux chercheurs en IA, aux développeurs, etc. pour aider à développer des outils de cybersécurité puissants et à corriger les vulnérabilités critiques. Avec les puissants outils d’IA d’OpenAI, nous sommes sûrs que ce sera un concurrent redoutable.
Faut-il s’inquiéter ?
Eh bien, nous n’en sommes qu’au tout début de l’implication d’AI dans les affaires gouvernementales, cela reste donc à voir. Le gouvernement n’utilise ces outils que pour développer des outils de cybersécurité, il ne sera donc en charge de rien. Toutes les décisions importantes seront prises par des êtres humains.
Cependant, le problème est que la technologie de l’IA n’est pas encore fiable à 100 %. Il y a toujours un risque d’hallucinations IA. Même si les entreprises tentent de réduire ce phénomène, celui-ci continue de se produire. Ce n’est pas aussi grave s’il hallucine en générant une recette ou un rapport de livre, mais c’est terrible si la cybersécurité du pays est en jeu. C’est quelque chose que nous devrons attendre pour voir.
