Ses déclarations faisaient partie d'une émission spéciale d'Oprah Winfrey, journaliste américaine, où étaient également invités l'influenceur technologique Marques Brownlee et le directeur du FBI, Christopher Wray, qui ont parlé des dangers les plus immédiats de l'IA, comme la manipulation de l'information et les deepfakes.
Que dit Sam Altman sur le danger de l'IA
Sam Altman, PDG d'OpenAI, a offert une vision ambivalente sur le potentiel de l'IA. Le dirigeant a décrit les avancées réalisées par les systèmes d'intelligence artificielle, y compris des modèles comme ChatGPT et le nouvellement lancé o1, arguant que ces systèmes n'ont pas seulement pour fonction de prédire des séquences de données, mais d'apprendre les concepts au sein de l'information avec laquelle ils sont formés.
“Nous montrons au système mille mots dans une séquence et nous lui demandons de prédire ce qui vient ensuite. Le système apprend à prédire, et dans ce processus, il apprend les concepts sous-jacents”, a affirmé Altman.
Malgré ce que certains considèrent comme une surestimation des capacités de l'IA, l'entrepreneur a insisté sur la nécessité d'implémenter des tests de sécurité et des régulations pour éviter que l'IA ne devienne une menace pour la société. Il a comparé la régulation de l'intelligence artificielle aux tests de sécurité stricts de l'industrie aéronautique ou pharmaceutique.
“Une des premières choses que nous devons faire — et cela se produit déjà — est que le gouvernement commence à réaliser des tests de sécurité sur ces systèmes, comme nous le faisons avec les avions ou les nouveaux médicaments”, a-t-il déclaré.
Altman a également reconnu la responsabilité croissante qui incombe à son entreprise et à lui-même en tant que leader du développement de l'IA. Lorsque Oprah lui a demandé directement pourquoi les gens devraient lui faire confiance, le PDG d'OpenAI a esquivé la question, indiquant que la confiance est quelque chose que sa société essaiera de gagner avec le temps.
Cette réponse a été soulignée par Winfrey lorsqu'elle a mentionné un titre qui le qualifiait de “l'homme le plus puissant et dangereux du monde”. Altman a nié cette description, mais a accepté qu'il ressent une grande responsabilité de guider le développement de l'IA dans une direction positive pour l'humanité.
Que dit Bill Gates sur l'avenir de l'IA dans la médecine et l'éducation
Pour sa part, Bill Gates a offert une vision plus optimiste concernant l'impact de l'IA, en particulier dans le domaine de la médecine et de l'éducation. Le cofondateur de Microsoft s'est montré confiant quant à ce que l'intelligence artificielle pourrait être un outil puissant pour améliorer l'interaction entre médecins et patients.
“L'IA est comme une troisième personne assise à (un rendez-vous médical), faisant une transcription et suggérant une ordonnance”, a expliqué. Selon sa vision, la technologie permettra aux médecins de se concentrer davantage sur les soins aux patients plutôt que sur les tâches administratives.
En ce qui concerne l'éducation, il a souligné le potentiel de l'IA en tant que tuteur personnel. Il a imaginé un avenir où l'IA est toujours disponible et capable de s'adapter aux niveaux de connaissance de chaque élève, aidant à personnaliser le processus d'apprentissage.
Cependant, certaines écoles ont été prudentes quant à l'utilisation de l'IA en classe. L'été dernier, de nombreuses institutions ont interdit ChatGPT en raison de préoccupations concernant le plagiat et la désinformation, bien que certaines aient assoupli leurs restrictions après avoir vu la valeur potentielle de l'IA dans certains contextes éducatifs.
Deepfakes et désinformation : un danger à résoudre bientôt
L'émission a également abordé les risques les plus immédiats de l'IA, tels que les deepfakes. Marques Brownlee a montré des exemples de la façon dont le générateur de vidéos avec IA d'OpenAI, Sora, s'est considérablement amélioré en quelques mois. Ces avancées ont été inquiétantes pour Oprah, qui a qualifié les vidéos de “réellement réalistes”.
Cela a ouvert la porte à une conversation avec le directeur du FBI, Christopher Wray, qui a relaté sa propre expérience de visionner un deepfake dans lequel il apparaissait en train de dire des choses qu'il n'avait jamais dites.
Wray a averti des utilisations criminelles de cette technologie, en particulier l'augmentation de la sextorsion, un crime qui a connu une augmentation de 178 % entre 2022 et 2023, en partie en raison des outils d'IA. Selon le directeur du FBI, “les acteurs malveillants” utilisent également l'IA pour propager de la désinformation avant les élections présidentielles de 2024 aux États-Unis, soulignant l'urgence de traiter ces défis de manière collective.