Shinobi Megadrive

[Tryphon]

C'est une reprise d'une réplique de film avec des fachistes. La différence c'est que autant tu peux lutter contre le fachisme, autant je vois pas comment lutter contre l'IA. Je ne sais même pas si c'est souhaitable (parce qu'elle apportera aussi d'immenses progrès).

[Tryphon]

Oui la question c'est la pertinence même de l'homme, là.

Je pense pas que ce soit une question ça. La vie n'a aucune raison d'être pertinente. Par contre ça va poser la question de la pertinence du travail, et de savoir si un être humain doit être payé en fonction de ce qu'il rapporte à la société.

Mais cette question a déjà dû être posée lors de la révolution industrielle, et je suis pas sûr que la réponse me plaise.

[Ouais_supère]

C'est ce que je voulais dire...

[lincruste]

Les mathématiciens, au plus haut niveau (par exemple les médaillés Fields Hugo Dominil-Copin, ou Terence Tao), s'angoissent sur le fait qu'ils risquent de n'avoir plus rien à chercher, et qu'il va être très difficile d'obtenir des crédits pour payer des gens qui font moins bien pour plus cher.

Mais en quoi c'est mal ça ? Y'aura toujours des conjectures et des théorèmes et autres à trouver non ? Enfin, tu me connais j'ai arrêté les maths en CE2 à cause des divisions à deux chiffres, mais si une IA prouve des conjectures, il faut bien des mecs pour les énoncer avant, non ? Et puis là c'est toi qui pourra confirmer ou infirmer mais il me semble que ces LLM synthétisent et font de l'inférence à partir d'une quantité astronomique d'articles d'origine humaine, c'est peut-être un peu l'Eldorado des modèles de langage sur la base des connaissances qu'on a compilées sur internet, mais de là à en craindre le fin des maths humaines, bon, je serais curieux d'entendre les arguments techniques.

[corwin29]

Apparemment anthropic ou open ai aurait utilise les travaux de chercheurs personnes physiques sans leur accord. Lesdits travaux auraient ete recuperes parce qu eux memes utilisaient l ia.

Concernant l ia je pense de plus en plus qu elle va permettre des decouvertes incroyables en matiere de sante de mathematiques et que si on ne fait pas la 3eme guerre mondiale le monde pourrait bien etre meilleur

[Tryphon]

@lincruste Alors déjà, tu retardes de 6 mois.

Y'a 6 mois, l'IA avait démontré des conjectures, mais la plupart du temps c'était en effet soit un résultat trouvé à 99% par un humain qui ne s'était pas rendu compte que ça résolvait la conjecture (par exemple parce qu'il bossait sur autre chose et qu'il ne connaissait pas cette conjecture), soit la mise en relation de résultats déjà connus dont on n'avait pas vu qu'ils avaient un lien avec la conjecture (toujours pour la raison que les gars bossaient sur autre chose).

Y'a 3 mois, l'IA a commencé à démontrer des trucs par des méthodes réellement surprenantes, en faisant des liens qu'on ne connaissait pas.

Depuis 1 mois, c'est encore pire. On ne comprend pas ce qu'elle fait. Par exemple, sur la conjecture de Navier-Stokes (le problème du millénaire résolu), l'IA a pondu une démonstration formalisée en Lean (pour faire simple, c'est une sorte de langage type langage informatique qui permet d'écrire de façon non ambiguë une démonstration, et il existe des programmes informatiques qui sont capables de lire une telle preuve et d'assurer qu'elle est correcte. Un humain ne s'en sert quasiment jamais, parce que c'est quasiment illisible pour un humain, mais l'IA est assez forte pour en produire) et un article en anglais pour décrire ce qu'elle a fait. Donc on sait que sa preuve est bonne (grâce au Lean) et on sait comment elle a cherché (grâce à l'article). Sauf que les meilleurs spécialistes du domaine ne comprennent plus ce qu'elle fait après 30 pages...

Et ça s'est accéléré depuis : on ne comprend plus les preuves des IA.

Et ça déjà c'est un problème, parce qu'encore une fois, résoudre un problème mathématique est rarement important en soi. Ce qui importe, c'est de voir dans quel cadre il s'inscrit, et quand on le démontre, ce qui est intéressant c'est de voir si les mécanismes de la démo peuvent être généralisés.

Mais en quoi c'est mal ça ? Y'aura toujours des conjectures et des théorèmes et autres à trouver non ?

Des théorèmes à prouver, y'en a une infinité. La plupart n'ont jamais été écrit. Le boulot du mathématicien, c'est de trouver dans cette infinité ceux qui sont intéressants. Et si l'IA tue la recherche humaine en mathématiques, ça sera à l'IA de déterminer lesdits problèmes, sans humains pour contrôler et voir ce qu'on en fait. Ça pose quand même un gros problème non ?

mais si une IA prouve des conjectures, il faut bien des mecs pour les énoncer avant, non ?

Justement, avant il n'y avait pas d'IA. Tu ne crois quand même pas que toutes les conjectures mathématiques ont plus de 100 ans ? L'immense majorité des conjectures importantes sont récentes. Elles n'ont pas encore eu le temps d'arriver jusqu'au "grand public" (je mets des guillemets parce que je pense quand même pas que la majorité des gens aient entendu parler de la conjecture de Riemann ou même du Grand Théorème de Fermat) parce qu'elles sont récentes et surtout pour la plupart beaucoup trop techniques pour être vulgarisées, mais il en sort tous les jours.

Et puis là c'est toi qui pourra confirmer ou infirmer mais il me semble que ces LLM synthétisent et font de l'inférence à partir d'une quantité astronomique d'articles d'origine humaine,

Donc non (voir plus haut), c'est plus profond que ça. Et tu le sais certainement déjà mais ça vaut le coup de le rappeler, les IA ne SONT PAS de grosses banques de données dans lesquelles elles iraient piocher des réponses toutes faites. Elles ont un vrai pouvoir de GÉNÉRATION (d'où leur nom). Beaucoup d'"experts" dans les media font l'erreur, et c'est assez gênant.

c'est peut-être un peu l'Eldorado des modèles de langage sur la base des connaissances qu'on a compilées sur internet, mais de là à en craindre le fin des maths humaines, bon, je serais curieux d'entendre les arguments techniques.

Ça c'est la vision optimiste (comme dans tous les domaines économiques où l'IA intervient). La version pessimiste c'est qu'on va arrêter de payer des humains pour faire un job que les IA font mieux. Il y aura toujours des mathématiciens, mais beaucoup (beaucoup) moins, et leur boulot sera assez différent. Comme les programmeurs, les artistes, etc.

Pour des discussions plus techniques, je te renvoies vers les videos d'Hugo Domenil-Copin (qui a été pas mal interrogé par les radios récemment, je crois avoir vu un podcast de France Culture avec lui), la vidéo de David Louapre (Sciences Étonnantes) avec Axolotl ( ), le blog de David Madore, ou celui de Terence Tao (ou, en français, https://www.pourlascience.fr/sr/logique ... -29708.php ).

Tu remarqueras l'absence de consensus. Ce qui est intéressant, c'est d'observer l'évolution de leurs discours, au fur et à mesure que les IA ont progressé.

Sachant qu'elles n'ont pas encore fini...