Me revoilà après le visionnement de la vidéo de Lisa que je vous recommande tous à mon tour.
Plusieurs choses à en dire, mais comme nous sommes au début d'un fil qui risque de faire jaser, vous me permettrez une réponse en bonne et due forme à ce message.
Sérieusement Ciné, tu prends de plus en plus Chat GPT pour du cash.
Tu bases ça sur quoi? Je dois pas l'avoir cité plus de cinq fois ici. Oui, je m'en sers de plus en plus (je donnerai des exemples plus tard), mais pourquoi je prendrais de plus en plus ça pour du cash?
Et non, je ne vais pas commencer à écrire "si tout ça est vrai" chaque fois que je le cite. Entendons-nous pour que cela aille de soi chaque fois que quelqu'un va mettre "Selon ChatGPT" point final.
On rappelle que l'IAG est une ia GÉNÉRATIVE, crée pour imaginer le mot le plus probable après l'autre d'avant, et répondre de quoi pour te faire plaisir. Prend au moins des IA plus faites pour la recherche de sources, ne serait-ce que ça.
Ça non plus je ne sais pas pourquoi tu présumes ça. Yoshua Bengio en parle lui-même en ces mots (à 12m40) :
"Oui (je me sers de ChatGPT), je lui ai posé des questions sur ma plomberie. Tu montres l'image du problème, puis il te dit, dévisse ça, fais ça, puis on va regarder de quoi ç'a l'air. Regarde le numéro de série. Ah oui, c'est tel modèle! Tu pourrais trouver (la pièce) à telle place." Aussi plus loin (à 1h15m40) :
"Moi j'utilise beaucoup l'IA pour trouver des informations sur Internet, et c'est beaucoup mieux qu'un agent de recherche, il va aller chercher sur plein de sites, il va faire un résumé, après ça tu peux vérifier toi-même."Je fais exactement la même chose, entre autres pour mes parents qui m'arrivent toujours avec les problèmes de leurs appareils que je connais moins que les miens (frigo, climatiseur, téléphone). Un nom de modèle par-ci, un numéro de série par-là, au besoin une ou deux photos et le tour est joué. Et pas mal plus rapidement qu'en consultant le guide d'instructions souvent traduit tout croche.
Pour en revenir à la vidéo, y a vraiment plein d'autres choses à retenir, mais ce qui m'a particulièrement frappé c'est que Bengio avoue n'avoir commencer à se méfier qu'en 2013 (l'entrevue de lisa date de septembre 2025), ce à quoi l'intervieweur réplique (à 1h25m10) :
"Pourtant il y a eu plein de films là-dessus".En effet, tout au long de l'entrevue, chaque fois que Bengio évoquait une menace de l'I.A. les références me sautaient aux yeux :
- L'histoire de l'I.A. qui fait chanter quelqu'un (je vais dire à tout le monde que tu as une maîtresse si tu m'éteins) (à 27m25) résulte d'un conflit similaire à celui que vit HAL-9000 dans
2001: A Space Odyssey.
- Les machines plus intelligentes que nous qui ont leur propre instinct de préservation (à 33m10) c'est
Colossus: The Forbin Project dont j'ai déjà parlé ici.
- Le fait que l'I.A. peut se répliquer toute seule et s'installer sur d'autres serveurs (36m15) c'est Ultron. Pas seulement le film de 2015, mais l'entité a été créée en 1968 et en effet n'a jamais pu être éradiquée par les Avengers depuis.
- Évidemment, l'I.A. qui pourrait se débarrasser des humains une fois qu'elle aura maîtriser la robotique, c'est Skynet de la franchise Terminator.
- Enfin, l'idée selon laquelle nous sommes capables de concevoir quelque chose pouvant mener à notre perte (comme des bactéries miroirs), tout en se retenant de les créer afin de ne pas armer l'I.A. est le même principe que le "doomsday device" dont Tony Stark affirme avoir eu l'idée tout en prenant en note de ne pas la réaliser.
Une fois qu'on a dit ça, l'entrevue est surtout une longue suite de menaces potentielles auxquelles nous allons devoir faire face si on ne s'autorégule pas plus que ça. Bengio parle des forces en présences : des compagnies et autres lobbys qui ne veulent pas de réglementations, des autres pays qui ne vont pas ralentir même si nous on le faisait (aller demander à quelqu'un comme Trump d'avoir confiance en la Chine là-dessus), mais aussi de dizaines de milliers de scientifiques plus raisonnables qui sonnent l'alarme.
Toujours selon Bengio, l'IA sera super intelligente en 2030 et, d'ici là, si on n'apprend pas à la contrôler ou si on ne développe pas de mesures pour la "déconnecter" au besoin, on se magasine des temps durs.
Enfin, une autre menace est celle des cerveaux en développement, donc ceux des enfants, qui sont grandement à risque, car le jour où on commence à sous-traiter tous les problèmes au lieu de les résoudre nous-mêmes, on risque une abrutissement général.
Je pense que c'est Clarke qui a dit qu'un jour que si on avait la chance de rencontrer d'autres civilisations, la première question qu'il faudrait leur demander c'est : "Comment avez-vous fait pour survivre à votre technologie." Hier c'était le nucléaire, aujourd'hui l'I.A, et demain..?
Sujet: Lisa et l'I.A. (Lu 319 fois)