Qu'est que vous en pensez de l'IA ?

[Kannagi]

Tu penses quoi de la suite, Kannagi, parce que la suite, c'est pas tant augmenter les LLM de taille ou autre, on a vu que ça ne donne rien et ils le savent, mais plutôt le world model de Yann Lecun ou une réécriture, parce que le LLM, c'est finalement un petit truc qui est devenu gros, mais on pourrait faire autre chose avec la même techo.

On oublie que pour les LLM on a eu une chance de cocu que ça marche aussi bien
Et ce n'est clairement pas une garantie pour les autres approches.

Comme tu es dans l'informatique , ce que je vais te dire va te parler.
Le probleme qu'on a actuellement , c'est qu'on est incapable de prédire notre ignorance.
Pour faire simple en math , les problèmes du millénaires sont principalement des preuves, cela peut être une extravagantes des mathématiciens , mais d'un coté comment être sur de la limite de quelque chose ?

Autant en maths, c'est un domaine très étayé sur la chose, mais ça l'est moins sur l'informatique.
Parce exemple , est qu'il y'a un autre type de langage de programmation, totalement différent qui résoudrait la plupart de nos problèmes en informatiques ?
La réponse est on ne sait pas.
Est qu'il est possible de faire un compilateur C performant pour n'importe quel CPU ?
La réponse que j'entends est souvent "oui si on prend du temps" , mais la réponse doit être encore plus trouble, peut être que dans certain cas , c'est totalement impossible, mais comme on ne sait pas le prouver , la question reste ouverte.

En informatique le probleme vient souvent de le complexification du code , et donc la question est : "y'a t il un moyen de le simplifier ?" , bien sur qu'il y'a des complexité incompressible , mais comment savoir qu'il n'y a pas une version plus simple (et optimiser) de ma version ?
Et là aussi on ne sait pas , il n'y a pas de "formule magique" pour le savoir.
Cela pose probleme d'ailleurs à certain dev qui ne savent pas du tout simplifier leur code, mais aussi il n'y a pas de méthode clair pour y arriver.


Pour revenir à l'IA , si tu as compris on avance en aveugle , totalement , dans le sens où même la théorie qui explique leur fonctionnement n'existe pas.
Et donc la question "les IA peuvent devenir plus intelligente ?"
Et la réponse c'est on ne sait pas, parce qu'on ni la théorie , ni pas grand chose, c'est un pari sur l'avenir, je ne dis pas qu'il faut pas le faire, mais que c'est extrêmement audacieux de l'affirmer alors qu'on avance à l'aveugle.
Et que les LLM est une chance que ça marche si bien, parce qu'on ne le savait pas du tout.

[on-off]

On avance clairement en aveugle, ils le disent eux-mêmes (la vidéo le confirme, mais ce n'est pas la question).
Une autre approche pourrait donner des choses intéressantes aussi. J'ai hâte de voir ça.

[Kannagi]

ah mais ça peut l’être , le truc ,c'est que ça se fera pas dans 5 ans, c'est une vision très optimiste, et en soit personne peut l'affirmer.
Les LLM ont pris plus de 10 ans pour avoir le résultat actuel, pour te donner un ordre d'idée ^^'

[on-off]

ah mais ça peut l’être , le truc ,c'est que ça se fera pas dans 5 ans, c'est une vision très optimiste, et en soit personne peut l'affirmer.
Les LLM ont pris plus de 10 ans pour avoir le résultat actuel, pour te donner un ordre d'idée ^^'

C'est pour rasurer les actionnaires, parce que dès qu'ils y croient moyen, ils mettent les sous ailleurs dans le nouveau truc qui sortira.

[Kannagi]

@darktet
Si tu veux une vidéo française tu as :

ou


Et tu vas me dire , ouaw t'as vu , il y'a la fin du monde dans 5 ans ,et ceux qui dise le contraire sont des vieux cons qui voit pas le danger !

J'ai trouvé une vidéo de rigueur scientifique qui dit que tout ça c'est bullshit , (pareil pour ce que raconte Maxime Fournes ) :


Voilà , c'est juste opour dire qu'il y'a beaucoup de pseudo science , dans ce qui se raconte en IA...

[on-off]

Maxime Fournes vs Luc Julia, c'était un grand moment !

[Kannagi]

Ouais j'imagine, t'as deux expert en bullshit, j'ai pas le courage de voir ce genre de débat

[darktet]

@Kannagi vu tes vidéos.merci pour le partage

Bas ça va clairement dans mon sens que l'I.A a fuir.
Pour schématiser,encore plus qu'une caricature^^..
On sait pas jusqu'ou ira la perfection de l'I.A...mais elle ne s'arrêtera jamais de progresser.
-en 50 000 ans le Q.I moyen de l'humain n'a cessé de progresser.Depuis 2010,il semblerai qu'il stagne ou pire qu'il baisse.
-En 20 ans d'I.A,son intelligence ne fait que croître,je dirai presque de façon exponentielle.Une I.A,en aucun cas ne peut régresser.

Voila un avantage parmi les 100 de la "machine"

Je suis pas un expert,et pas le temps dans une vie d'humain que de faire 5 ans d'études sur ce sujet...

C'est quand même intuitif : Quelle idée de vouloir créer une intelligenge autre qui peut potentiellement battre l'intelligence humaine ?!
On domine la terre par notre intelligence,notre gros cerveau...pas par notre force physique :on est pas rapide,pas très fort,pas très grand,pas résistants, nos sens sont assez faibles ... quelle idée de vouloir créer une autre intelligence ?

L'être humain est stupide parfois....sous prétexte que l'IA,va être un super outil...on est en train d'engendrer un bébé monstre qui va rivaliser avec nous.On est en train de construire notre ennemi^^

Pour prendre une comparaison a la con...Le PSG écrase la concurence au foot en L1,ce même club décide de faire une équipe B aussi forte qu'elle a coup de milliards.

L'humain est remarquable d'ingéniosité et de beptises a la fois^^
2 secondes qu'on a ""popé" a l'échelle de la Terre si 24h font 4.5 milliards d'années...,on passera pas les 4 secondes avec une telle insoucience,arrogance.

[Kannagi]

C'est marrant que tu n'as pas vu la 3eme vidéo ,qui dit que le scaling à une limite (et non ça n'augmente pas de façon exponentiel)

L'être humain est stupide parfois....sous prétexte que l'IA,va être un super outil...on est en train d'engendrer un bébé monstre qui va rivaliser avec nous.On est en train de construire notre ennemi^^

Justement, et désolé de le dire crûment , mais c'est du bullshit total.
L'IA actuelle , et futur , se base sur des probabilités, et ce qui est "super" c'est que avec de grande donné , ça donne des LLM actuel , mais comme dit , elle est incapable de faire un raisonnement basique.

Donc non il n'y aura pas d'IA qui va nous dépasser , parce que à l'heure actuel , on est incapable de faire une machine qui sait faire du raisonnement même basique.

-En 20 ans d'I.A,son intelligence ne fait que croître,je dirai presque de façon exponentielle.Une I.A,en aucun cas ne peut régresser.

C'est faux et c'est ce qu'on appelle l'empoissonnement par IA , quand une IA s’entraîne avec ces propres données.
Et ça c'est plutôt mauvais signe, l'humanité c'est le contraire, plus il a de savoir qu'il produit, plus ça devient intelligent etc.
L'IA c'est le contraire.

Donc désolé non on ne créer ni un monstre, ni un danger par l'humanité :
1) un on ne sait toujours pas faire un raisonnement par une machine
2) les IA ne peuvent pas améliorer avec ce qu'elle produisent (il faut forcément des années fiable créer par des humains)
3) le scaling est terminé , les IA ont récupéré toutes les données qu'on a pu recuperer

Par exemple la deuxième vidéo , qui dit grosso modo qu'on a 70% de vivre dans un monde "cyberpunk" , c'est vraiment omettre les grosses difficultés qu'il y'a dans la biologie.
Et étrangement certain critique que j'ai pu lire dans la biologie (que ce n'est pas une mécanique) , ressemble les mêmes arguments que celle de la conscience.

Pour dire simplement, il y'a énormément de choses qu'on ne sait littéralement pas , mais genre même pas un début de théorie.
Celà me semble assez illusoire de croire qu'on va vivre de la SF , alors que comme son nom l'indique c'est de la science et fiction , ce n'est pas quelque chose de prouvé.
Mais rien n'indique en tout cas que cela arrivera, et même je dirais si c'est possible.
Parce que plus je lis , plus je me dis que la SF est plus proche de la fiction que des sciences.
Je veux dire même Terminator ou les roman d'asimov , me semble plus proche d'une fable que de la science.

[Shovel Knight]

+1 avec Kannagi, on est que sur le 1er type d'IA, sorte de super peroquet. Si on est assez cons pour confier à ce super peroquet des taches critiques et/ou requérant une vraie intelligence sans contrôle humain, alors on ne mérite que les Darwin Award


Les trois types d’IA basés sur les capacités

1. Intelligence artificielle étroite

L’intelligence artificielle étroite, également connue sous le nom d’IA faible (ce que nous appelons IA étroite), est le seul type d’IA qui existe aujourd’hui. Toutes les autres formes d’IA sont théoriques. Cette IA peut être entraînée pour effectuer une tâche précise, souvent beaucoup plus rapidement et efficacement qu’un esprit humain.

Cependant, elle ne peut pas fonctionner en dehors de sa tâche définie. Au lieu de cela, elle cible un seul sous-ensemble de capacités cognitives et elle évolue dans ce spectre. Siri, Alexa d’Amazon et IBM Watson sont des exemples d’IA étroite. Même ChatGPT d’OpenAI est considéré comme une forme d’IA étroite, car il se limite à la seule tâche de chat textuel.

2. IA générale

L’intelligence artificielle générale (IAG), également connue sous le nom d’ IA forte, n’est aujourd’hui qu’un concept théorique. L’IAG peut utiliser les connaissances et les compétences apprises précédemment pour accomplir de nouvelles tâches dans un contexte différent, sans requérir d’intervention humaine pour entraîner les modèles sous-jacents. Cette capacité permet à l’IAG d’apprendre et d’effectuer toutes les tâches intellectuelles que les humains sont capables d’exécuter.

3. Super IA

La super IA est communément appelée superintelligence artificielle et, comme l’IAG, elle est strictement théorique. Si jamais elle se concrétisait, la super IA penserait, raisonnerait, apprendrait, ferait preuve de discernement et posséderait des capacités cognitives qui surpasseraient celles des humains.

Les applications dotées de capacités de super IA évolueraient à tel point qu’elles comprendraient les expériences et les sentiments humains jusqu’à avoir leurs propres émotions, besoins, croyances et désirs.

Source : https://www.ibm.com/fr-fr/think/topics/ ... ence-types

[Tryphon]

J'ai pas mal de critiques à faire sur ce constat, mais j'ai la flemme

[on-off]

+1 à Kannagi, les limites du scaling on y est déjà et ils réfléchissent à faire une ribambelle de modèles plus petits, mais très spécialisés et plus performants. Les faire grossir ne sert plus tant que ça, c'est plutôt sous le capot qu'il faut faire des changements plutôt que changer de cylindrée (cette bonne vieille analogie de bagnole). :mgreen:

Je pense aussi d'après ce que j'ai pu lire que les LLM tels qu'aujourd'hui ne peuvent pas évoluer plus façon pokemon, ils se diversifient, s'intègrent partout (agents, navigateur) mais sans changement majeur, et le raisonnement (chain of thoughts CoT) c'est pas comme nous, c'est un découpage et une segmentation en petites tâches qu'on fait tourner en boucle.

Et pour avoir un vrai assistant (Jarvis)... il faut lui donner accès à toutes nos données, notre personnalisation. Google n'est pas loin !

J'ai pas mal de critiques à faire sur ce constat, mais j'ai la flemme

C'est mal.

[Tryphon]

Possible mais vous dites tellement de bêtises qu'il me faudrait la journée

[on-off]

Possible mais vous dites tellement de bêtises qu'il me faudrait la journée

Va à l'essentiel.

[Kannagi]

Possible mais vous dites tellement de bêtises qu'il me faudrait la journée

Tellement de betice sur quoi ?

Sachant que je que je dis , je me base sur un chercheur en IA : https://nilsschaetti.ch/about-us/

1) l'empoisonnement par l'IA est vérifié expérimentalement par plusieurs article scientifique.
2) que terminator va détruire l'humanité c'est de la pseudo science.
3) le scaling à ces limites là aussi pas mal d'article le détaille.
(Et Yann le cun va dans ce sens aussi que le scaling apportera rien de plus ).

Sauf si tu parle d'autre chose, mais tu peux pas venir dire "vous dires n'importe quoi" sans détailler.

Ce que dis Shovel Knight, est assez factuel sur les descriptions actuel de l'IA. (il a fourni la source, apres on peut critiquer ces différente définitions )

Donc je vois mal quel "bêtise" a été énoncé.

[Tryphon]

Honnêtement, non, je n'ai pas envie d'étayer. Ce débat est interminable, et tu as de toutes façons des positions bien trop arrêtées pour que ça ait un intérêt (et moi au contraire j'ai trop de questions en suspens pour que l'échange soit mutuellement profitable).

Je me méfierais cependant de ton chercheur ou de Yan Le Cun, qui sont manifestement devenus aujourd'hui beaucoup plus des entrepreneurs que des chercheurs. Yan Le Cun est d'ailleurs spécialiste des prises de position au doigt mouillé.

Je me méfierais aussi des projections qui disent qu'une IA doit devenir plus qu'humaine pour être dangereuse. C'est plutôt les intelligences moins qu'humaines à qui on confie des responsabilités qui les dépassent qui m'inquiètent.

[on-off]

C'est plutôt les intelligences moins qu'humaines à qui on confie des responsabilités qui les dépassent qui m'inquiètent.

C'est tout le problème de l'IA agentique, et ça je n'aime pas du tout (ni via des chaînes ou workflows type n8n ou des agents intégrés au navigateur). La suite, les robots dopés à l'IA ? (ou encore une bêtise)

[Tryphon]

Non, ça c'est la suite logique (certainement d'ailleurs même le présent).

C'est aussi le problème de certains présidents de certains états unis...

[on-off]

Non, ça c'est la suite logique (certainement d'ailleurs même le présent).

Oui, c'est ce qu'i me semble avec Unitree et d'autres (bientôt Atlas chez Tesla aussi). Il y a de gros progrès, déjà rien qu'en locomotion et manipulation fine. Mais encore beaucoup d'opérateurs humains pour les assister. Il leur faut beaucoup de données... du monde réel.

C'est aussi le problème de certains présidents de certains états unis...

Yep

[Shovel Knight]

C'est plutôt les intelligences moins qu'humaines à qui on confie des responsabilités qui les dépassent qui m'inquiètent.

C'est exactement ce que j'ai voulu dire hein

[Kannagi]

C'est plutôt les intelligences moins qu'humaines à qui on confie des responsabilités qui les dépassent qui m'inquiètent.

Le seul truc où on est d'accord , mais difficile de faire un pronostic de que deviendra l'avenir sur ce constat (et ma critique ici et ceux qui affirme à 99% que ça sera comme il le décrive ).

Pour Yann Le Cun, je considère pas sa parole comme vrai, mais c'est le moins pire, tu écoute Maxime Fournes , Luc julia, Sam Altman etc,eux sont dans un bullshit x1000.
Et c'est un autre probleme du débat, y'a peu de personne "vraiment" fiable dans le domaine.

Et pour "mon chercheur" , dommage parce que il semblait faire preuve de rigueur scientifique on argumentant chaque fois avec des articles scientifiques.
Et pas au doigt mouillé, ou à son livre de SF préféré.

[on-off]

Voilà un bon consensus dans le topic.

[Kannagi]

Oui ah ah, mais ça semble tellement évident, regarde internet, c'est déjà pollué par l'IA.
Et on est que au début...

Je suis bien plus inquiet sur le contenu de l'IA générais sur le Net qu'une menace existentiel de celle ci.
D'ailleurs l’éducation m’inquiète parce qu’elle semble sacrément frappé par l'IA.
Et j'en oublie d'autre surement
C'est surtout tout ces petits truc additionné qui risque à mon avis de créer une société instable.

[Tryphon]

Et pour "mon chercheur" , dommage parce que il semblait faire preuve de rigueur scientifique on argumentant chaque fois avec des articles scientifiques.
Et pas au doigt mouillé, ou à son livre de SF préféré.

J'ai juste cliqué sur la page de présentation que tu as fourni, qui n'est pas particulièrement impressionnante et ressemble davantage à un profil linkedin.

[Tryphon]

C'est plutôt les intelligences moins qu'humaines à qui on confie des responsabilités qui les dépassent qui m'inquiètent.

Le seul truc où on est d'accord , mais difficile de faire un pronostic de que deviendra l'avenir sur ce constat (et ma critique ici et ceux qui affirme à 99% que ça sera comme il le décrive ).

Ça c'est un homme de paille. Même s'il n'y a que 1% de chance que Skynet existe, c'est déjà énorme.

Rejeter ça d'un revers de la main en disant que c'est une pseudo-science (ce que ça n'est clairement pas : on peut imaginer plein de scénarii tout à fait crédibles scientifiquement pour qu'un scénario proche se produise), ça ne me semble pas très sain.

[on-off]

Vous avez vu les avancées d'Anduril avec ses systèmes d'armement autonomes ?

[Kannagi]

Et on se base sur quoi pour qu'il y'a sur Skynet ?

Et sur ce coupje vais être clair, s'il n'ya pas quelque chose de concret, une recherche concrète sur une IA capable de faire Skynet oui c'est de la pseudo science.
Pseudo science qui est que quelque chose peut sembler "cohérent scientifiquement" mais étayé par "rien".
Et c'est le cas pour skynet , terminator et j'en passe.

[on-off]

Ca :


(oui oui il ne paie pas de mine avec sa chemise à fleurs, mais bon c'est pas ça le problème)

[Tryphon]

Et on se base sur quoi pour qu'il y'a sur Skynet ?

Et sur ce coupje vais être clair, s'il n'ya pas quelque chose de concret, une recherche concrète sur une IA capable de faire Skynet oui c'est de la pseudo science.
Pseudo science qui est que quelque chose peut sembler "cohérent scientifiquement" mais étayé par "rien".
Et c'est le cas pour skynet , terminator et j'en passe.

Tu attends quoi exactement ?

(au passage, non, ce n'est pas ça une pseudo-science)

[Kannagi]

Je regarderais ta vidéo on-off , mais ça va venir certainement des robots/IA , ça peut se battre sans peur , et ça fait plus propre une guerre "sans mort" (enfin pour le pays attaquant hein , que les autres meurs, on s'en fiche un peu).

Tu attends quoi exactement ?

A quel sujet ?
Sur l'IA , je pense comme dit plus haut, que ça sera l'éducation , internet ,les fake news , les différents métiers remplacés etc, qui seront le plus touché négativement.
Et celà causera tout simplement une grave crise social et économique.
L'IA sera pas le "principal" cause de cela , mais elle s'additionnera avec la crise actuel et passé.

[Tryphon]

Tu attends quoi exactement ?

A quel sujet ?

De Skynet. Je comprends pas pourquoi tu parles de pseudo-science dans ce cas. C'est une projection, basé sur l'état actuel des connaissances :

* on a déjà des situations où un LLM propose des choses qui sont contraire à l'intérêt d'un humain ou un groupe d'humains
* on a déjà des agents IA capables de prendre des décisions qui ont un impact sur le monde réel
* il est très vraisemblable que les centres stratégiques militaires utilisent déjà des IA

Je ne vois pas ce qui pourrait mal tourner...

Sur l'IA , je pense comme dit plus haut, que ça sera l'éducation , internet ,les fake news , les différents métiers remplacés etc, qui seront le plus touché négativement.
Et celà causera tout simplement une grave crise social et économique.
L'IA sera pas le "principal" cause de cela , mais elle s'additionnera avec la crise actuel et passé.

Oui, pour moi ça c'est déjà acté.

[Kannagi]

Pour Skynet , c'est surtout la prise de décision "intentionnel" contre l'humanité , je critique ce point de vue particulier des vidéos en haut , où les gars disent clairement que comme l'Ia sera "plus intelligente", elle voudra nous détruire.
Les LLM sont entraîné sur des données, elle risque surtout de faire des hallucinations et de donner un "mauvais ordre" que d'avoir un plan planifié de destruction de l 'humanité.

Alors , ok pas de soucis pour que ce n'est pas de pseudo science , mais je le met dans ce cas là , vu que la plupart considère que le "peut être dans l'avenir ça arrivera , avec les progrès scientifique" , qui est pas quelque chose de réfutable.
C'est comme si je te disais dans l'avenir on aura des licornes grâce à la génétique , c'est pas réfutable.
Si c'est pas de la pseudo-science pas de soucis , mais le coté "irréfutable" du "probable" parce que beaucoup de chose sont probable, me dérange fortement parce que n'importe quel hypothèse est vrai , et on ne peut pas la réfuter , (sauf voyage dans le temps ? )

[Tryphon]

Pour Skynet , c'est surtout la prise de décision "intentionnel" contre l'humanité , je critique ce point de vue particulier des vidéos en haut , où les gars disent clairement que comme l'Ia sera "plus intelligente", elle voudra nous détruire.

Les LLM sont entraîné sur des données, elle risque surtout de faire des hallucinations et de donner un "mauvais ordre" que d'avoir un plan planifié de destruction de l 'humanité.

Oui on est d'accord là-dessus (d'ailleurs je me souviens plus mais Skynet ou HAL 9000 c'est un peu ça aussi : ils ont un objectif à atteindre et ils prennent une décision moralement mauvaise parce qu'ils n'ont pas de garde-fou. C'est aussi le principe des 3 lois de la robotique) (contrairement à toi, je pense que la SF pose de vrais problèmes ; c'est souvent naïf parce qu'ils sont obliger d'imaginer un contexte scientifique en singeant ce qui se fait à leur époque, mais des bouquins comme le cycle des Robots, 1984, le meilleur des mondes, ont mis le doigt sur des trucs vraiment pertinents).

Alors , ok pas de soucis pour que ce n'est pas de pseudo science , mais je le met dans ce cas là , vu que la plupart considère que le "peut être dans l'avenir ça arrivera , avec les progrès scientifique" , qui est pas quelque chose de réfutable.
C'est comme si je te disais dans l'avenir on aura des licornes grâce à la génétique , c'est pas réfutable.
Si c'est pas de la pseudo-science pas de soucis , mais le coté "irréfutable" du "probable" parce que beaucoup de chose sont probable, me dérange fortement parce que n'importe quel hypothèse est vrai , et on ne peut pas la réfuter , (sauf voyage dans le temps ? )

Par définition, une projection, ce n'est pas réfutable (vu que ça se passe dans un futur dont on ne connaît rien, pas même l'état de la Science). C'est pourquoi une projection, ça ne fait pas partie du débat science / pseudoscience. Tout ce qu'on peut dire, quel degré de plausibilité accorder à la phrase : "est-ce qu'on peut imaginer un scénario dans lequel une IA militaire prend une décision néfaste pour l'Humanité ?"

Et clairement, 0 % ça me semble très très optimiste.

[Kannagi]

Le truc c'est qu'il faut que tu vois les vidéos posté plus haut.

Pour te faire un résumé, d’âpres eux, l'AGI viendra dans 3-4 ans avec la super intelligence et dans 5 ans l'humanité va disparaître à cause de l'IA.
Désolé de ne pas considéré sérieusement et scientifiquement une tel affirmation.

Et on est loin de ce que tu dis ". Tout ce qu'on peut dire, quel degré de plausibilité accorder à la phrase : "est-ce qu'on peut imaginer un scénario dans lequel une IA militaire prend une décision néfaste pour l'Humanité ?"
Qui est je suis d'accord plus probable que le scénario décrit plus haut.
J'irais pas dire pour l'humanité, sauf si les mecs met l'IA sur le contrôle de missile nucléaire.
Mais ça serait con de se prendre une bombe A , a cause d'une hallucination....

Pour la SF , je suis d'accord que cela pose de vrai probleme et une prédiction des futurs problèmes, mon reproche et de les voir comme des vérités absolus, et non ce qu’elle sont des prédictions probable de futur, certain seront vrai d'autre non.

[on-off]

Le truc c'est qu'il faut que tu vois les vidéos posté plus haut.

Pour te faire un résumé, d’âpres eux, l'AGI viendra dans 3-4 ans avec la super intelligence et dans 5 ans l'humanité va disparaître à cause de l'IA.
Désolé de ne pas considéré sérieusement et scientifiquement une tel affirmation.

Ils n'en savent rien je suis d'accord, mais le problème de fond, qui je pense explique en partie ce côté prédicateurs de fin du monde c'est qu'aujourd'hui rien n'est régulé, ou presque rien en IA, vu la lenteur des législateurs (compréhensible mais bon) et le manque d'envie de réguler des grandes puissances à la tête de la course à l'IA (Chine et USA quoi). Qui régule aujourd'hui ? L'Europe. Qui n'a rien à réguler de sérieux sur son sol ? L'Europe.

Ca fait remonter des craintes.

[Tryphon]

Le truc c'est qu'il faut que tu vois les vidéos posté plus haut.

Pour te faire un résumé, d’âpres eux, l'AGI viendra dans 3-4 ans avec la super intelligence et dans 5 ans l'humanité va disparaître à cause de l'IA.
Désolé de ne pas considéré sérieusement et scientifiquement une tel affirmation.

Du coup j'ai moyen envie de le voir

Il a des arguments factuels pour ces prévisions ?

Genre y'a pas longtemps j'ai lu un argument qui montrait qu'on avait environ 30% de chances de vivre dans une simulation informatique. C'était pipo mais au moins c'était argumenté.

Mais ça serait con de se prendre une bombe A , a cause d'une hallucination....

Aucun risque

https://fr.wikipedia.org/wiki/Fausse_al ... ue_de_1983

[Kannagi]

J'ai pas vu d'arguments factuels.

L’argument c'est "on a questionné des personne et chercheurs en Ia et qu'ils donne leur avis sur ces prédictions," , ça donne juste un arguments d'autorité qui ne se base sur rien de factuel.

Oui je connais l'histoire , et justement ce qui nous a sauvé , c'est que le mec à réfléchi et à fait le bon choix.
Mais clairement une IA aurait clairement riposté dans ce cas là.
Mais j'espere qu'il seront pas aussi con pour mettre une IA pour gérer de tels cas

[Shovel Knight]

Mais j'espere qu'il seront pas aussi con pour mettre une IA pour gérer de tels cas

On en reviens toujours au même point (oui je radote). On est au stade 1 de l'IA (IA étroite ou IA faible). Y'a rien "d'Intelligent" pour l'instant.

La prise de décision de lancement de missile automatisée c'est pas nouveau, que soit par un algo électronique, informatique (cf exemple soviétique), ou via IA faible.

Analogie simpliste : on a un nouvel outil, le marteau, et on peut soit construire des trucs chouettes avec, soit péter des objets et des cranes. Et pour l'instant ça part un peu dans tous les sens...

J'ai déjà autour de moi de plus en plus de gens réfractaires qui refusent tout usage de l'IA pour quoique ce soit, en réaction quasi épidermique à la simple évocation de mot IA devant le n'importe quoi ambient, les conséquences écologiques, sociales, sur l'information etc. Et même si j'essaie de nuancer en avançant des exemples d'usages bons, j'ai du mal à les blâmer, et même je les comprend...

Perso, chaque chose que je peux faire moi même avec mes petites mains j'essaie de continuer à le faire sauf contrainte particulière. Ne serait-ce que pour faire marcher mon cerveau. Exemple dernièrement face à mon garagiste dont je pensais qu'il était en train m'entuber, j'ai sorti chatGPT qui a produit un diagnostique de ma panne en 30 secondes en me posant des questions etc etc... assez bluffant (qui contenait peut être des erreurs j'en sais rien je suis pas compétent), mais qui allait dans le même sens que celui de mon garagiste. Alors qu'en tant normal, avec du temps, j'aurais épluché la doc technique du véhicule, fait des recherches etc etc. Ca m'aurait pris 3 plombes, je serais peut être arrivé à un résultat moins bon, mais j'aurais fait marcher mon cerveau et appris des trucs. Là j'ai rien appris, j'ai juste été rassuré sur le fait que mon garagiste n'était finalement peut être pas en train de m'entuber.

A l'inverse, si je doit passer un examen médical d'imagerie, je serais demandeur et même plus rassuré que le médecin utilise l'IA en complément de ses yeux et de ses connaissances.