Geoffrey Hinton, largement reconnu comme le « Parrain de l’IA », a récemment reçu le prix Nobel pour ses contributions à l’intelligence artificielle, notamment dans le développement des réseaux neuronaux artificiels.
Lors de son discours de remerciement, Hinton a exprimé sa fierté pour l’un de ses anciens étudiants, Ilya Sutskever, qui a joué un rôle important dans le licenciement de Sam Altman. Pourquoi? Des éléments de réponses
« J’ai eu la chance d’avoir de nombreux étudiants très intelligents – bien plus intelligents que moi – qui ont réellement fait fonctionner les choses », a déclaré Geoffrey Hinton. « Ils ont ensuite fait de grandes choses. Je suis particulièrement fier du fait que l’un de mes étudiants ait renvoyé Sam Altman. »
Pourquoi le Parrain de l’IA déteste le PDG d’OpenAI, Sam Altman ?
Les inquiétudes de Hinton découlent de son profond engagement en faveur du développement éthique de l’IA. Il estime que sous la direction d’Altman, OpenAI est passée de sa mission initiale de garantir la sécurité de l’intelligence artificielle générale (IAG) à une approche davantage axée sur le profit. Ce changement inquiète Hinton, qui met en garde depuis longtemps contre les dangers potentiels que l’IA représente pour la société. Il soutient que se concentrer sur les profits peut compromettre la sécurité et l’éthique, qui sont essentielles pour un développement responsable de l’IA.
Hinton, qui a contribué à ouvrir la voie à la recherche sur l’intelligence artificielle en démontrant la puissance des réseaux neuronaux, est particulièrement alarmé par les capacités croissantes des systèmes d’intelligence artificielle. Au départ, il pensait que l’intelligence artificielle ne pourrait jamais égaler l’intelligence humaine en matière de compréhension du langage, mais il a depuis changé d’avis.
Il craint désormais que l’intelligence artificielle puisse surpasser l’intelligence humaine dans certains domaines, ce qui le dérange. Hinton s’inquiète également du risque que la désinformation générée par l’intelligence artificielle inonde Internet, rendant difficile pour les gens de faire la distinction entre les faits et la fiction.
La concurrence entre les géants de la technologie, une menace pour l’IA
Hinton prévient également que la concurrence entre les géants de la technologie comme Google et Microsoft pourrait conduire à une dangereuse course aux armements mondiaux en matière d’IA. Contrairement aux armes nucléaires, qui sont fortement réglementées, la recherche sur l’IA peut se dérouler à huis clos, ce qui la rend plus difficile à contrôler. Il estime que la collaboration entre les meilleurs scientifiques est essentielle pour développer des stratégies de gestion de l’IA en toute sécurité. En attendant, Hinton soutient que le développement de l’IA devrait être suspendu pour éviter des conséquences imprévues.
